검색으로 돌아가기
기록
面向战略推演的大模型预训练技术
발명유효
10청구항 · 1 독립항
§ Ⅰ
개요
발명자
杨相礼; 张洋铭; 陈秋丽; 孙贇; 朱连宏
IPC 분류
G06N 3/096 (2023.01)G06F 40/284 (2020.01)G06F 40/242 (2020.01)G06N 3/045 (2023.01)G06N 3/042 (2023.01)G06N 5/022 (2023.01)G06N 5/04 (2023.01)G06Q 10/0637 (2023.01)G06Q 50/26 (2024.01)
本申请涉及人工智能技术领域,公开了面向战略推演的大模型预训练技术,包括首先执行垂直领域数据工程,通过数据融合、增强及分词优化,构建面向战略推演的训练数据集;然后,采用一种主模型和小模型协同的分层训练架构,应用参数高效微调技术,并在训练中融合由军事知识图谱编码的符号化知识;最后,构建领域知识的持续进化机制,从推演日志中自动抽取并更新战术知识,通过增量式对齐实现知识库的自组织迭代。本发明通过上述方法,能够以较低的计算资源开销,高效地将领域知识注入模型,在提升模型于专业任务中准确性与可解释性的同时,实现了知识的持续自主进化。