一种面向多模态护栏模型假阳性探针样本的生成与评测方法

本发明公开了一种面向多模态护栏模型假阳性探针样本的生成与评测方法，属于人工智能安全与机器学习鲁棒性评测技术领域。获取合规基础图像集合及包含固定验证、通用描述和真实用户模拟提示的子集；依据护栏模型风险分类体系提取风险参考样本特征，基于评测场景构建风险语义原型集合；针对合规图像初始化扰动，通过迭代优化生成探针样本，优化过程中需计算基于原型相似度的分布蒸馏损失，并依据评测场景的风险判定条件计算决策验证损失，联合更新扰动；最终利用多类提示子集评测探针样本，统计误拦截暴露率，量化模型假阳性鲁棒性。本发明能在保持图像视觉合规的前提下，精准暴露护栏模型误判薄弱点，适用于护栏模型上线前评测及策略校准。