用于标识生成式人工智能输出中的幻觉的计算系统

一种用于标识生成式人工智能(AI)输出中的幻觉的计算系统(100)包括处理电路系统(12)，其被配置为接收由生成式大型语言模型(LLM)(16)响应于包括原始源文本数据(20)的输入提示(18)生成的文本输出(14)，并使用实体提取模型(26)从文本输出(4)和从原始源文本数据(20)提取实体(28A、28B)。处理电路系统(12)使用语义配对模型(30)，从文本输出(14)的实体(28A)形成第一语义对(32A)，并且从原始源文本数据(20)的实体(28B)形成第二语义对(32B)，并且使用语义相似性模型(38)将第一语义对(32A)与第二语义对(32B)进行语义比较。处理电路系统(12)至少基于比较(40)，将第一语义对(32A)中的任何一个是否是幻觉进行分类，并输出分类(44)的指示(52、56、58、60)。