一种基于双模型协同的多模态大模型提示词注入攻击检测方法及系统

本发明公开了一种基于双模型协同的多模态大模型提示词注入攻击检测方法及系统，涉及人工智能安全防护技术领域。通过Web应用防火墙实时捕获请求，提取文本、图像/语音及会话上下文特征；经特征融合后输入至轻量级模型进行初级风险筛查，依据系统实时负载与预设置信区间，对高置信度样本直接放行，对不确定样本输入至高精度模型进行深度语义分析；最终融合双模型决策结果，输出最终风险值并执行拦截策略。系统包括HTTP服务截获模块、初级风险分析模块、置信区间调整模块、最终风险生成模块、决策执行模块、模型存储模块、日志审计模块。本发明显著降低了漏报率与误报率，提升了对复杂对抗性攻击的鲁棒性，具备良好的工程应用价值与市场前景。