검색으로 돌아가기
기록
存算一体加速器的数据流调度方法及系统
발명유효
1조회수
11청구항 · 4 독립항
§ Ⅰ
개요
발명자
姚燕玲; 潘卫平; 祝淑琼; 高若飞; 张童; 李昊
IPC 분류
G06F 9/50 (2006.01)G06N 3/0464 (2023.01)G06N 3/063 (2023.01)
本申请涉及人工智能技术领域,提供一种存算一体加速器的数据流调度方法及系统。所述方法包括:确定模型任务中的各个子任务对应的算子类型和矩阵参数;基于所述算子类型和所述矩阵参数,确定所述子任务的子任务计算时间和首次计算数据量占比;根据所述子任务计算时间、所述首次计算数据量占比和时间差大小关系,确定所述模型任务中各个所述子任务对应的计算启动时间。本申请提供的存算一体加速器的数据流调度方法及系统,可避免前驱任务和后继任务在并行计算的过程中由于计算速度不匹配导致的阵列资源闲置,从而充分利用有限的阵列资源,在缩短模型整体计算时间的同时,提高阵列资源的利用率。