검색으로 돌아가기
기록
一种针对组内梯度消失问题的强化学习训练方法及系统
발명알 수 없음
10청구항 · 2 독립항
§ Ⅰ
개요
IPC 분류
G06N 3/092 (2023.01)G06F 18/25 (2023.01)G06F 40/284 (2020.01)
本发明涉及人工智能模型训练技术领域,公开了一种针对组内梯度消失问题的强化学习训练方法及系统。该方法针对同一提示词生成多个候选响应并确定奖励,根据组内奖励分布构建局部优化目标,将组内奖励聚合为提示词级表现,并根据训练批次内不同提示词级表现构建跨组全局优化目标;根据响应结果分布确定一致性熵以及局部融合权重和全局融合权重,在全错状态下将局部融合权重置零,根据融合优化目标更新策略模型。该方案使组内零局部优势响应组保留在训练批次中,并在其提示词级表现偏离批次统计基准时形成跨组更新信号,减少因删除零局部优势样本造成的无效采样和训练计算。
로그인하고 전문 읽기
청구항 1을 표시했습니다. 무료 가입하면 전체 10개 청구항, 명세서 전문, 전체 도면, 번역, 법적 상태를 볼 수 있습니다.
- 전체 청구항
- 기술 분야
- 배경 기술
- 발명의 내용
- 도면 설명
- 발명의 실시 형태