CNIPA.AI
검색으로 돌아가기
기록

大语言模型处理方法、装置、计算机设备和存储介质

발명유효
3조회수
17청구항 · 7 독립항
§ Ⅰ

개요

발명자

蔡雨萱; 尹宇阳; 陈曦

IPC 분류

G06N 5/04 (2023.01)G06N 3/08 (2023.01)G06F 40/274 (2020.01)

本申请涉及一种大语言模型处理方法、装置、计算机设备和存储介质。所述方法包括:获取基于指令样本的标记序列进行推理获得的标记序列样本;确定初始标记序列,并获得初始预测结果;通过至少一个标记预测模型,基于标记序列样本和初始预测结果依次进行迭代标记预测,获得至少一个标记预测模型各自的标记预测结果;根据各标记预测模型各自的标记预测结果和目标推理结果,针对各标记预测模型包括的共享权重参数进行更新,获得训练后的大语言模型;训练后的大语言模型,用于针对输入指令的标记序列进行推理,以输出输入指令相应响应内容的标记序列。采用本方法能够提高大语言模型推理处理效率。