攻击输入的构建方法、装置、设备及存储介质

本申请公开了一种攻击输入的构建方法、装置、设备及存储介质，涉及大模型安全技术领域，公开了攻击输入的构建方法包括：获取多模态大模型的原始攻击指令；基于原始攻击指令的语义信息，提取出原始攻击指令所表征的主要意图和行为逻辑；基于主要意图和行为逻辑，生成多帧目标图像，多帧目标图像用来描述实现主要意图的过程；基于多帧目标图像，构建目标攻击输入，目标攻击输入用于攻击多模态大模型。本申请使用上述目标攻击输入来攻击大模型，有效提高了攻击有效性和成功率，且适用于复杂攻击场景，充分发挥了多模态交互的潜力，能对具备一定防御能力的大模型构成稳定威胁，便于辅助提高大模型安全性。