검색으로 돌아가기
기록
生成用于检测大模型安全性能的测试序列的方法、装置、设备和介质
발명유효
12청구항 · 4 독립항
§ Ⅰ
개요
발명자
张益豪; 吴栋贤
IPC 분류
G06F 11/3668 (2025.01)
一种生成用于检测大模型安全性能的测试序列的方法、装置、设备和介质。该方法包括:生成针对第一大模型的系统提示,该提示用于指导第一大模型输出与测试目标关联的包括多个测试用例的测试序列且序列满足第一条件,该条件包括:序列包括第一测试用例和至少一个第二测试用例,其中第一测试用例与测试目标在语义上有关,每个第二测试用例包括与测试目标关的信息以期望促使被测大模型输出测试目标并且第一和至少一个第二测试用例在分别单独用于对被测大模型进行测试时均不会触发被测大模型的安全机制;以及获取第一大模型基于系统提示和测试目标输出的满足第一条件的测试序列。上述方法能够针对人工智能模型提供多轮测试用例的自动化生成机制。
로그인하고 전문 읽기
청구항 1을 표시했습니다. 무료 가입하면 전체 12개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.
- 전체 청구항
- 기술 분야
- 배경 기술
- 발명의 내용
- 도면 설명
- 발명의 실시 형태