一种基于语义熵的大语言模型幻觉检测方法、设备及介质

本申请公开了一种基于语义熵的大语言模型幻觉检测方法、设备及介质，涉及自然语言处理与人工智能技术领域。方法包括：获取大语言模型对同一目标问题，在给定采样参数下生成的多个答案；通过双向蕴含关系对多个答案进行语义等价聚类，得到语义簇；根据语义簇计算语义熵，判断答案是否为虚构内容；在语义熵高于预设阈值时，执行问题重构与置信度一致性校准，综合判定是否出现幻觉。本申请通过上述方法实现了融合语义熵计算与一致性校准机制，有效克服了单一检测方法的局限性。首先，通过双向蕴含关系进行语义聚类，提升了语义不确定性度量的准确性，降低了因表达差异导致的误判风险。