一种去摩尔纹卷积神经网络的后量化方法及系统

本申请提供一种去摩尔纹卷积神经网络的后量化方法及系统，其中，方法，包括：将完成训练的去摩尔纹卷积神经网络中的卷积层替换为量化卷积层；对每一量化卷积层进行第一阶段校准处理，确定每一量化卷积层的通道平滑系数；根据每一量化卷积层的通道平滑系数，对每一量化卷积层进行第二阶段校准处理，确定每一量化卷积层的输入激活值区间；根据输入激活值区间，对每一量化卷积层的输入激活值进行伪量化；根据每一量化卷积层的通道平滑系数，对每一量化卷积层的权重进行混合精度量化处理；确定经过训练后量化的去摩尔纹卷积神经网络。通过本申请，无需反向传播与再训练，保持去摩尔纹任务的质量，实现快速、高效、精确的去摩尔纹模型后量化。