№ CN122988177A発明
不明网关硬件加速的AI模型推理方法及系统
本发明涉及网关硬件加速技术领域,尤其涉及网关硬件加速的AI模型推理方法及系统,通过建立神经元激活态势图并构建激活依赖拓扑以重构模型为条件执行子图的有向无环图,根据初始层特征响应预测被激活子图集合并生成推理计划,依据硬件加速单元约束对子图进行时序重排与算子融合生成硬件原生执行序列,驱动硬件执行并利用输出特征更新剩余计划,将有效执行模式存储供后续匹配直接加载,提高了推理效率并优化了硬件资源利用率。
❖峰杰技术有限公司; 河北好望信息技术有限公司史林峰; 李志; 李龙飞Oct 27, 2026§ 3/10 請求項G06N 5/04 (2023.01), G06N 3/063 (2023.01), G06N 3/082 (2023.01) +2