CNIPA.AI
검색으로 돌아가기
기록

多语言模型的训练方法、装置、设备及存储介质

발명알 수 없음
10조회수
18청구항 · 5 독립항
§ Ⅰ

개요

발명자

张雪; 梁云龙; 孟凡东; 徐金安; 陈钰枫

출원일

Apr 8, 2025

공개일

Oct 16, 2026

IPC 분류

G06N 5/04 (2023.01)G06N 3/0442 (2023.01)G06N 3/0499 (2023.01)

一种多语言模型的训练方法、装置、设备及存储介质,属于计算机与互联网技术领域。该方法包括:获取第一、第二词元集合,第一、第二词元集合分别包括新语言的第一词元、旧语言的第二词元;确定第一、第二词元集合之间的相关性;确定至少一个混合专家层的新增网络数量;根据至少一个混合专家层的新增网络数量添加专家网络,得到更新后的多语言模型;基于新语言、旧语言的样本文本数据,训练更新后的多语言模型。上述方法,能够基于新、旧语言各自的词元之间的相关性,为至少一个混合专家层添加合适数量的专家网络。避免了相关技术中直接为每个混合专家层统一新增相同数量的专家网络带来的模型参数量过大的问题。