검색으로 돌아가기
기록
增强语言模型训练方法、文本生成方法和装置
발명유효
18청구항 · 9 독립항
§ Ⅰ
개요
발명자
曹沛鑫; 李建; 杨奕凡; 杜楠
IPC 분류
G06F 16/3329 (2025.01)G06N 3/08 (2023.01)G06F 16/353 (2025.01)G06F 40/289 (2020.01)
提供了一种增强语言模型训练方法、文本生成方法和装置,涉及人工智能、大语言模型领域。该模型训练方法,包括:获取第一训练样本,包括第一系统提示、第一用户请求样本、第一检索文档样本和第一模型响应标签;第一系统提示用于要求增强语言模型结合检索文档响应用户请求;获取第二训练样本,包括第二系统提示、第二用户请求样本、第二检索文档样本、阅读笔记标签和第二模型响应标签;第二系统提示用于要求增强语言模型结合检索文档和阅读笔记响应用户请求;将第一训练样本和第二训练样本混合作为训练数据集,对初始增强语言模型的参数进行更新。本申请有利于充分考虑模型的效率、鲁棒性和灵活性,使得模型能够更好地适应各种复杂的应用场景。