검색으로 돌아가기
기록
智能计算云平台基于异构算力的断点续训方法及装置
발명알 수 없음
5조회수
14청구항 · 5 독립항
§ Ⅰ
개요
IPC 분류
G06F 9/50 (2006.01)G06F 9/48 (2006.01)G06N 3/096 (2023.01)G06N 3/045 (2023.01)
本发明提供智能计算云平台基于异构算力的断点续训方法及装置,涉及智能计算中心、智算中心、算力基础设施和智算云技术领域,方法包括:步骤S1、获取源芯片上执行模型训练任务的断点数据,将断点数据归一化为芯片无关中间表示;步骤S2、获取目标芯片的能力数据;步骤S3、基于芯片无关中间表示和能力数据,确定目标并行切分方案;步骤S4、将芯片无关中间表示按照目标并行切分方案重新切分并分发加载至目标芯片;步骤S5、对在目标芯片上继续执行模型的训练任务需要的计算精度和算子进行适配,以继续执行训练任务。本发明的目标并行切分方案能够适配目标芯片,提高断点续训的成功率。通过适配计算精度和算子,能够保障训练任务的稳定运行。