CNIPA.AI
검색으로 돌아가기
기록

一种基于轨迹优化视角的大语言模型推理方法

발명유효
2조회수
10청구항 · 1 독립항
§ Ⅰ

개요

발명자

刘骏楠; 刘宏伟; 张松阳; 陈恺

IPC 분류

G06N 5/04 (2023.01)G06N 3/092 (2023.01)G06N 3/084 (2023.01)

本发明提出一种基于轨迹优化视角的大语言模型推理方法,方法包括以下步骤:S1、初始化思维链片段;S2、基于下一步的思维链和上一步的模型参数计算目标函数,得到更新后的模型参数,重复S2直至思维链生成完毕,得到新的大语言模型;S3、基于S2过程中的目标函数定义优化过程的强度和优化过程的稳定性,将优化过程的强度和优化过程的稳定性作为奖励函数,采用强化学习算法优化新的大语言模型,得到最终的大语言模型;S4、采用最终的大语言模型获取实际用户问题进行推理。与现有技术相比,本发明具有提高大语言模型推理性能,减少冗余推理开销,减少过度思考、过度反思等有害的推理行为等优点。