生成用于检测大模型安全性能的测试序列的方法、装置、设备和介质

一种生成用于检测大模型安全性能的测试序列的方法、装置、设备和介质。该方法包括：生成针对第一大模型的系统提示，该提示用于指导第一大模型输出与测试目标关联的包括多个测试用例的测试序列且序列满足第一条件，该条件包括：序列包括第一测试用例和至少一个第二测试用例，其中第一测试用例与测试目标在语义上有关，每个第二测试用例包括与测试目标关的信息以期望促使被测大模型输出测试目标并且第一和至少一个第二测试用例在分别单独用于对被测大模型进行测试时均不会触发被测大模型的安全机制；以及获取第一大模型基于系统提示和测试目标输出的满足第一条件的测试序列。上述方法能够针对人工智能模型提供多轮测试用例的自动化生成机制。