大模型安全测试样本的生成方法、生成装置和电子设备

本申请涉及安全测试技术领域，提供一种大模型安全测试样本的生成方法、生成装置和电子设备。方法包括：将场景描述文本输入至文本生成图像模型，得到文本生成图像模型输出的第一图像；将场景描述文本和模型诱导文本输入至训练结束后的诱导强度标签预测模型，得到诱导强度标签预测模型输出的诱导强度标签；对第一图像和模型诱导文本进行图文融合，得到第二图像；基于第二图像和诱导强度标签，构建安全测试样本。本申请提供的大模型安全测试样本的生成方法极大提高了安全测试样本的评测精准度、复用性以及测试覆盖面。