검색으로 돌아가기
기록
AI算法轻量化加载与跨层资源动态调度方法及系统
발명유효
10청구항 · 4 독립항
§ Ⅰ
개요
발명자
杨扬; 徐梦溪; 沈克永; 刘德洋; 朱伟平
IPC 분류
H04L 67/10 (2022.01)H04L 41/16 (2022.01)G06N 3/126 (2023.01)H04L 41/0816 (2022.01)H04L 41/0894 (2022.01)
本发明提供一种AI算法轻量化加载与跨层资源动态调度方法及系统,该方法包括:在中心云侧对原始AI模型进行模型预处理生成轻量化模型,满足体积压缩率与精度损失约束;实时采集端侧设备、边缘计算节点和中心云台中各层级的资源状态,其中,资源状态包括算力、内存、网络带宽及任务负载信息;获取当前分析任务,并基于资源状态与当前分析任务的任务需求,调用资源调度优化模型采用遗传算法求解最优任务的分配比例,以最小化处理时延;将轻量化模型下发至边缘侧与端侧设备,并根据分配比例,将当前分析任务分配至端侧、边缘、云端三层执行。本发明具有算法加载轻量化、资源调度高效化、动态适应性强、平台通用性强以及部署成本低的效果。