CNIPA.AI
返回搜索
档案

一种大语言模型分布保持训练方法、装置及存储介质

发明专利未知
10权利要求 · 3 独立
§ Ⅰ

卷宗概要

发明人

梁天新; 吴欢; 朱钦; 孙洪静; 吴天斌

申请日

Jul 30, 2026

公开日

Oct 20, 2026

IPC 分类

G06N 3/096 (2023.01)G06N 3/082 (2023.01)G06N 3/045 (2023.01)G06N 5/04 (2023.01)

本发明涉及一种大语言模型分布保持训练方法、装置及存储介质,应用于人工智能技术领域,包括:通过获取原始基座模型后,直接在基座模型的基础上,采用组相对策略优化GRPO训练框架对基座模型进行全参数训练,不以SFT模型为起点,避免了SFT模型冷启动的同时,还避免了模型过度贴合目标训练集,损失基座模型原有的语言分布、知识组织方式和泛化能力的问题;本申请还通过对业务任务样本进行结构化处理,使得模型充分理解并正确读取输入样本,提供同一输入下的多条候选响应,降低输出分布过早收缩的风险。

登录后阅读全文

已显示权利要求 1。免费注册即可阅读全部 10 项权利要求、说明书全文、全部附图、翻译和法律状态。

  • 全部权利要求
  • 技术领域
  • 背景技术
  • 发明内容
  • 附图说明
  • 具体实施方式