生成内容校验方法、装置、设备、介质及程序产品

本申请提供了一种生成内容校验方法、装置、设备、介质及程序产品，涉及人工智能技术领域，用于提升模型所生成内容的质量。具体技术方案为：获取智能体交互数据，包括提示词文本、响应内容以及提示词上下文；基于智能体交互数据，确定意图一致性得分；基于响应内容，确定内容真实性得分；基于响应内容对应的事实项，确定事实准确性得分；基于意图一致性得分、内容真实性得分和事实准确性得分，确定响应内容的综合可信指数；在综合可信指数小于预设阈值的情况下，基于三个得分，生成修正指令，并将修正指令发送至智能体以指示智能体重新生成内容。本申请应用于对基于大语言模型的智能体生成内容进行校验和修正的场景。