百融至信（北京）科技有限公司

本申请公开了一种大语言模型推理调控方法及装置，包括：响应于大语言模型每推理出一个答案词元进入一次调控阶段，在调控阶段中针对大语言模型的每个自回归生成步骤，均执行以下过程：获取大语言模型在当前自回归生成步骤输出的词表原始逻辑值序列；基于词表原始逻辑值序列构造语义残差向量，将语义残差向量注入大语言模型中间层，以调控模型在下一个自回归生成步骤所需的隐状态向量，使模型基于调控后的隐状态向量输出下一个自回归生成步骤的词表原始逻辑值序列；若基于词表原始逻辑值序列所得到的大语言模型在当前自回归生成步骤的不确定性度量，判定结束调控阶段，则通过大语言模型基于词表原始逻辑值序列，推理出答案词元的下一个答案词元。

本公开公开一种人机交互处理方法和人机交互处理系统，该人机交互处理方法包括：根据知识内容和多个虚拟角色，通过第一智能体生成结构化题库数据，所述结构化题库数据包括与多个虚拟角色分别对应的题目数据和与所述题目数据对应的标准答案数据；根据所述结构化题库数据，通过第二智能体输出目标虚拟角色对应的目标题目数据，所述目标虚拟角色选自所述多个虚拟角色；响应于获取到用户输入数据，通过第三智能体基于所述目标虚拟角色以及所述目标题目数据对应的目标标准答案数据对所述用户输入数据进行多维度分析处理，生成评估数据。根据本公开实施例的人机交互处理方法能够对用户输入进行基于虚拟角色的多维度动态评估。