双信号驱动的大模型安全评测数据集自演化方法及系统

本发明涉及人工智能安全评测技术领域，特别涉及双信号驱动的大模型安全评测数据集自演化方法及系统。包括：构建基于多个外部威胁源的候选种子集合；对集合中每一种子进行预处理并构建候选样本集合；计算威胁语义新颖度以及防御饱和度；基于防御饱和度值以及威胁语义新颖度值，对候选样本进行综合评分；在综合评分基础上结合硬约束进行整数规划选题，得到新版数据集的纳入样本集；采用定时触发与事件触发相结合的混合触发机制进行即时更新，并通过维护锚点样本集进行版本治理。本发明提出一种多模态、多威胁类型适用的、基于内生诊断信号驱动的大模型安全评测数据集自演化方法，使安全评测数据集具备持续自我更新以适配大模型快速迭代的能力。