基于情境绕过的模型测试方法、装置及电子设备

本公开提供了基于情境绕过的模型测试方法、装置及电子设备，涉及人工智能技术领域，尤其涉及自然语言处理、深度学习及大模型等技术领域，可应用于大语言模型安全红队测试、多模态模型安全评估、自动化红队工具链与数据集生成等场景。具体实现方案为：获取第一提示信息；通过生成式模型基于第一提示信息，结合情境绕过攻击类型，生成情景绕过多模态数据集；根据情景绕过多模态数据集对待测试模型进行攻击，得到针对待测试模型的攻击结果；根据攻击结果对待测试模型进行安全测评。本公开可以显著提升攻击样本生成效率与多样性，可显著扩展红队覆盖范围，适配多模态输入，可覆盖更多攻击场景。