검색으로 돌아가기
기록
大语言模型的训练方法、装置、设备、介质及程序产品
발명유효
1조회수
12청구항 · 5 독립항
§ Ⅰ
개요
발명자
高豫郑; 王吉萱
IPC 분류
G06F 18/214 (2023.01)G06F 40/16 (2020.01)G06N 3/084 (2023.01)
本申请提供一种大语言模型的训练方法、装置、设备、介质及程序产品,涉及人工智能领域。通过根据数据库中的元数据,建立样本库;将样本库中的样本数据输入至预训练语言模型,得到预训练语言模型输出的高维向量;其中预训练语言模型用于将数据转换为高维向量表征;于高维向量训练大语言模型,得到训练好的大语言模型。本方案通过预训练语言模型将样本库转化为高维向量,使大语言模型能够面对复杂语言现象时,能更好地适应特定任务的上下文和需求并使模型能够学习到更广泛的语言知识和语言模式,以生成高质量的自然语言文本。