検索に戻る
案件記録

一种基于轨迹优化视角的大语言模型推理方法

発明有効
7閲覧数
10請求項 · 1 独立
§ Ⅰ

案件概要

発明者

刘骏楠; 刘宏伟; 张松阳; 陈恺

IPC分類

G06N 5/04 (2023.01)G06N 3/092 (2023.01)G06N 3/084 (2023.01)

本发明提出一种基于轨迹优化视角的大语言模型推理方法,方法包括以下步骤:S1、初始化思维链片段;S2、基于下一步的思维链和上一步的模型参数计算目标函数,得到更新后的模型参数,重复S2直至思维链生成完毕,得到新的大语言模型;S3、基于S2过程中的目标函数定义优化过程的强度和优化过程的稳定性,将优化过程的强度和优化过程的稳定性作为奖励函数,采用强化学习算法优化新的大语言模型,得到最终的大语言模型;S4、采用最终的大语言模型获取实际用户问题进行推理。与现有技术相比,本发明具有提高大语言模型推理性能,减少冗余推理开销,减少过度思考、过度反思等有害的推理行为等优点。

外部リソース