异构感知的自适应低比特神经网络部署方法

本发明提供一种异构感知的自适应低比特神经网络部署方法，涉及人工智能与异构计算技术领域，首先获取神经网络各层分层次计算特征信息及异构硬件动态特性参数信息形成多级别基础信息集合，然后据此构建分层次效能关联模型描述计算精度、硬件动态特性与层计算效能的关联关系。在线运行时追踪硬件实时负载状态和能效约束条件生成动态化状态监测结果，结合两者采用多目标优化算法生成分层次部署配置方案。最后调用轻量级运行时调度器依据方案分配计算任务、加载层间依赖数据并执行，实现跨硬件设备的动态化神经网络部署，提高了部署效果和运行效率。