基于动态门控的可切换激活网络推理方法、装置及介质

本申请涉及一种基于动态门控的可切换激活网络推理方法、装置及介质。本申请首先将训练数据集中的输入数据输入至第一神经网络，通过可学习的软门控函数，计算第一激活结果。然后，结合与第一激活结果对应的标签，采用直通梯度估计器，通过反向传播最小化预设损失函数，并得到第二神经网络。预设损失函数包括目标损失函数和多维度约束，使得第二神经网络在精度与效率之间取得平衡。接着，基于继承软门控函数的门控参数的硬门控函数对第二神经网络进行处理，得到第三神经网络。再将待处理的测试数据输入至第三神经网络，输出与测试数据对应的预测结果。如此，可以实现深度神经网络进行效率优化时效率与精度的平衡。