原始名称记载: 上海人工智能创新中心

本发明公开了一种张量程序的函数化方法、设备及程序产品。该方法包括：获取张量程序，并构建张量程序的图级中间表示程序；基于图级中间表示程序的内存依赖图和不可变算子对图级中间表示程序进行突变重写和张量版本关系标注得到重写图级中间表示程序；不可变算子用于替代图级中间表示程序中的突变算子，且不可变算子输出的新版本张量与输入的源张量拥有独立内存；对重写图级中间表示程序进行程序优化，得到函数式的基于静态单赋值的张量中间表示程序。将Graph‑Level IR程序与静态单赋值SSA结合，彻底消除了Graph‑Level IR程序中张量突变副作用，提升了深度学习编译器对张量程序的优化性能。

本发明涉及一种基于推理过程摘要的大语言模型长思维链校验方法和装置，方法包括以下步骤：获取待校验的推理思维链；对获取的推理思维链进行摘要化处理，得到一条包含关键推理环节的线性路径；采用检验器在所述线性路径上逐步执行验证，判断每一步骤是否正确，定位第一个错误的步骤，并将后续步骤视为无效，不再单独验证。与现有技术相比，本发明提出了一种既精确又高效的校验方案，既保证了过程验证的严谨性，又显著降低了验证与标注的成本，使其能够支持大规模数据集构建和模型训练。

本发明涉及一种大语言模型统一验证方法，包括以下步骤：基于进化式验证数据合成流水线，输出得到合成训练数据；结合改进的GRPO算法，利用合成训练数据对当前大语言模型进行训练，构建得到验证器模型；利用验证器模型对当前大语言模型的输出进行评估，获得评估结果。与现有技术相比，本发明将全面且通用的验证能力注入一个紧凑、高效的模型中，通过构建统一、通用、可定制的验证模型，能够在单个模型内同时处理客观事实验证和主观质量判断任务，能够理解并遵循用户以自然语言下达的、任意形式的细粒度验证指令和输出格式要求，并且能够为验证结果提供详细、有理有据的解释。

本发明提出一种基于轨迹优化视角的大语言模型推理方法，方法包括以下步骤：S1、初始化思维链片段；S2、基于下一步的思维链和上一步的模型参数计算目标函数，得到更新后的模型参数，重复S2直至思维链生成完毕，得到新的大语言模型；S3、基于S2过程中的目标函数定义优化过程的强度和优化过程的稳定性，将优化过程的强度和优化过程的稳定性作为奖励函数，采用强化学习算法优化新的大语言模型，得到最终的大语言模型；S4、采用最终的大语言模型获取实际用户问题进行推理。与现有技术相比，本发明具有提高大语言模型推理性能，减少冗余推理开销，减少过度思考、过度反思等有害的推理行为等优点。