网关硬件加速的AI模型推理方法及系统

本发明涉及网关硬件加速技术领域，尤其涉及网关硬件加速的AI模型推理方法及系统，通过建立神经元激活态势图并构建激活依赖拓扑以重构模型为条件执行子图的有向无环图，根据初始层特征响应预测被激活子图集合并生成推理计划，依据硬件加速单元约束对子图进行时序重排与算子融合生成硬件原生执行序列，驱动硬件执行并利用输出特征更新剩余计划，将有效执行模式存储供后续匹配直接加载，提高了推理效率并优化了硬件资源利用率。