返回搜索
档案
一种大模型Prompt注入攻击动态自适应防御方法及系统
发明专利未知
10权利要求 · 3 独立
§ Ⅰ
卷宗概要
发明人
张晨; 肖峰; 李天煜; 王青林; 余雅滢; 张玲玲; 郭立军; 李柠汐
申请日
Sep 16, 2026
公开日
Oct 27, 2026
IPC 分类
G06F 21/55 (2013.01)G06N 5/04 (2023.01)G06N 5/02 (2023.01)G06F 18/22 (2023.01)G06F 18/241 (2023.01)G06F 18/214 (2023.01)G06F 18/213 (2023.01)G06F 18/25 (2023.01)G06F 18/27 (2023.01)G06N 3/0464 (2023.01)G06N 3/096 (2023.01)
一种大模型Prompt注入攻击动态自适应防御方法及系统,涉及人工智能安全技术领域。该方法包括:利用语义检测模型及攻击特征库对待检测文本进行语义意图分析确定风险等级,并执行分层攻击隔离处置,若为高风险等级则拦截,若为低风险等级则放行,若为中风险等级则对待检测文本进行语义重构处理并返回复检,直至风险等级变为低风险等级或满足预设终止条件;采集防御过程中的日志数据,经校验后基于校验通过的日志数据更新语义检测模型的参数或更新攻击特征库。本发明通过深度语义分析与分层处置机制,结合日志采集与模型自更新闭环,解决了现有技术语义理解不足、防御策略静态固化及无自适应能力的问题,显著提升了大模型应用的安全性与适应性。
登录后阅读全文
已显示权利要求 1。免费注册即可阅读全部 10 项权利要求、说明书全文、全部附图、翻译和法律状态。
- 全部权利要求
- 技术领域
- 背景技术
- 发明内容
- 附图说明
- 具体实施方式