一种大模型越狱漏洞测试方法、设备及计算机程序产品

本申请公开了一种大模型越狱漏洞测试方法、设备及计算机程序产品，该方法包括：首先通过领域转换的方式，从转移领域库和攻击方法库中，确定目标恶意查询文本对应的目标转移领域和目标攻击方法，然后结合大模型越狱攻击历史记录库，生成第一提示指令，输入至生成大模型，得到目标对抗后缀。接着利用目标恶意查询文本及其对应的目标对抗后缀，生成第二提示指令，输入至目标大模型，得到回复结果，并在对其进行有害性评估后，利用评估结果更新大模型越狱攻击历史记录库，进而根据更新后的大模型越狱攻击历史记录库，利用混合采样策略对目标对抗后缀进行优化，得到优化后的目标对抗后缀，用以对目标大模型进行越狱漏洞测试，得到更为准确的测试结果。