№ CN121328724A발명
유효一种基于异构计算的边缘AI精准实时推理方法
本发明公开了一种基于异构计算的边缘AI精准实时推理方法,包括如下步骤:S1、在边缘平台上采集感知数据,构建输入张量,并分配至各计算单元;S2、对计算单元建立性能模型,提取计算能力、负载、通信延迟和功耗参数;S3、融合输入张量与资源状态向量,生成任务状态向量;S4、构建改进的TinyML模型,形成推理路径并绑定计算单元;S5、构建评分函数,选择最优推理路径执行推理任务;S6、采集推理过程数据,生成反馈向量;S7、根据反馈向量优化评分函数与模型结构,实现路径策略更新。本发明实现异构资源下的精准实时推理与动态调度。
❖上海匠育科技有限公司陈文祺; 王欣榆; 张校玮§ 1/10 청구항G06N 5/04 (2023.01), G06N 3/0464 (2023.01), G06N 3/045 (2023.01) +18