Back to Search
Dossier
一种面向化学场景的小语言模型安全风险评估方法及装置
InventionActive
9Claims · 2 independent
§ Ⅰ
Dossier Overview
Applicant
杭州君同未来科技有限责任公司
Inventor
韩蒙; 周之航; 李昱锋; 熊婧; 高岩; 林昶廷; 李晓波; 胡春强
IPC Classification
G06F 16/353 (2025.01)G06F 18/241 (2023.01)G06N 3/045 (2023.01)G06F 40/30 (2020.01)
本发明涉及人工智能安全与化学信息学交叉领域,具体公开了一种面向化学场景的小语言模型安全风险评估方法及装置,包括:根据用户预设的使用场景确定对应的风险分类标准和知识库范围,并据此选定适配的测试维度组合;调用预设模板库、规则组合器或大语言模型生成多个评估指令;根据评估指令类别与预设规则进行对应的评估步骤;输出综合评估结论,并生成评估报告;本发明实现了对面向化学场景的小语言模型行为风险与知识可靠性的双重评估,为阻断危险信息扩散提供支撑。
External Resources