深度神经网络模型算子的执行方法及装置

本申请涉及一种深度神经网络模型算子的执行方法及装置，深度神经网络模型算子的执行方法包括：获取深度神经网络模型的计算图，从计算图中确定待执行的多个算子节点；确定多个算子节点各自在处理器中的计算单元需求量；根据需求量，将处理器的多个计算单元划分为互不重叠的多个计算单元子集，采用并行执行策略将多个算子节点分配至多个计算单元子集执行，并使多个算子节点中具有不同资源瓶颈特征的至少两个算子节点在同一执行阶段，分别在各自对应的所述计算单元子集上同时执行。本申请解决了现有推理框架将异构算子串行执行的方式，导致硬件资源利用率较低的问题。