CNIPA.AI
검색으로 돌아가기
기록

企业私域大模型构建方法及对应系统

발명유효
10청구항 · 4 독립항
§ Ⅰ

개요

발명자

江海涛; 李镭; 郭志君; 余文杰; 罗鹏

IPC 분류

G06N 5/022 (2023.01)G06F 18/214 (2023.01)

本发明公开了一种企业私域大模型构建方法及对应系统,以解决现有大模型难以满足企业业务精准适配的问题。该方法包括:整合企业知识数据,通过多源数据文本化转换、知识提取与脱敏、全量文本拆分处理构建企业知识预训练集;选取开源架构基础大模型,基于预训练集进行增量预训练,采用全参数更新策略并动态调整训练轮次与学习率,以形成注入企业领域知识的初始私域大模型;构建通用指令数据集与业务指令数据集,按照不低于5:1的比例混合进行指令微调,再基于业务指令数据对模型进行二阶段专项微调;通过试用模型并收集专家反馈数据,构建强化微调数据集,采用基于偏好的强化学习算法对模型进行强化微调,实现模型输出与业务需求的持续对齐与优化。