CNIPA.AI
검색으로 돌아가기
기록

一种基于异构计算的边缘AI精准实时推理方法

발명유효
6조회수
10청구항 · 1 독립항
§ Ⅰ

개요

발명자

陈文祺; 王欣榆; 张校玮

IPC 분류

G06N 5/04 (2023.01)G06N 3/0464 (2023.01)G06N 3/045 (2023.01)G06F 9/50 (2006.01)

本发明公开了一种基于异构计算的边缘AI精准实时推理方法,包括如下步骤:S1、在边缘平台上采集感知数据,构建输入张量,并分配至各计算单元;S2、对计算单元建立性能模型,提取计算能力、负载、通信延迟和功耗参数;S3、融合输入张量与资源状态向量,生成任务状态向量;S4、构建改进的TinyML模型,形成推理路径并绑定计算单元;S5、构建评分函数,选择最优推理路径执行推理任务;S6、采集推理过程数据,生成反馈向量;S7、根据反馈向量优化评分函数与模型结构,实现路径策略更新。本发明实现异构资源下的精准实时推理与动态调度。