风险防护方法及风险防护装置

本申请公开了一种风险防护方法及风险防护装置。风险防护方法包括：对原始输入文本的多个词元进行第一次提示词注入攻击检测和分析，生成第一判定结果、第一判定结果的置信度和第一判定结果对应的词元在原始输入文本中的具体位置；基于第一判定结果的置信度和具体位置，构建风险标识符，并将风险标识符嵌入到原始输入文本中，形成增强文本；根据第一判定结果，如果判定原始输入文本中不存在提示词注入攻击，则将原始输入文本和增强文本发送给大语言模型；大语言模型根据增强文本，对原始输入文本的多个词元进行第二次提示词注入攻击检测和分析，生成第二分析结果；如果判定原始输入文本中不存在提示词注入攻击，则根据原始输入文本生成输出内容。