검색으로 돌아가기
기록
一种基于非对称多专家层间共享的大模型微调的多源通用问答方法
발명유효
1조회수
10청구항 · 1 독립항
§ Ⅰ
개요
발명자
林绍辉; 董晴; 於州; 谢娇; 唐云天; 方圆; 何高奇
IPC 분류
G06N 20/00 (2019.01)G06N 3/0455 (2023.01)G06N 3/08 (2023.01)G06F 18/213 (2023.01)G06N 5/043 (2023.01)G06F 18/25 (2023.01)G06F 40/35 (2020.01)
本发明提供了一种基于非对称多专家层间共享的大模型微调的多源通用问答方法,涉及人工智能和自然语言处理技术领域,包括获取多源通用问答数据,选取基座模型并完成微调准备,基于非对称多专家层间共享的大模型微调的多源通用问答方法对选择的基座模型进行微调,基于微调后的基座模型进行问答操作。本发明通过增强特征提取阶段的表征能力,有效克服了现有技术的瓶颈,在保持高参数效率的同时,显著提升了模型在多领域泛化和复杂推理任务上的性能,能够基于非对称多专家层间共享的大模型微调的方法实现多源通用问答,便于使用。