一种面向医疗领域大语言模型的安全性和鲁棒性自动化测试方法

本发明公开了一种面向医疗领域大语言模型的安全性和鲁棒性自动化测试方法，构建了领域感知有害问题生成器，生成器不仅能够自动化地学习并映射医学知识到潜在的有害查询，而且确保所生成问题的临床相关性、专业度和危害潜在性，能够高效且系统地评估大语言模型在医疗领域的真实安全边界，尤其是在涉及专业知识误导或潜在致害的复杂情境中，提供了评估深度和广度。通过定制化的加权复合奖励函数来优化生成器，有效地指导模型生成了同时具备高危害性、连贯流畅且符合语法的领域感知有害问题，显著提升了数据集的质量和针对性，该框架通过整合危害检测模型的自动评分和多指标相似性过滤机制，从根本上消除了对大量耗时人工干预的依赖。