基于混合精度的算子量化方法、装置、设备及存储介质

本发明实施例提供一种基于混合精度的算子量化方法、装置、设备及存储介质，属于模型量化领域。该方法包括：获取待量化的神经网络模型的算子特征数据集，算子特征数据集包括神经网络模型中的每个算子对于量化的敏感性的至少两个量化指标；基于预设聚类算法，对算子特征数据集进行聚类处理，得到至少两个聚类簇，并将每个聚类簇中的各特征数据对应的算子归为一组，得到至少两个算子组；根据每个聚类簇的聚类中心的至少两个量化指标，给每个算子组中的各算子分配相应的数值精度；根据每个算子对应的数值精度，对神经网络模型进行量化处理。本发明能够准确地给神经网络模型中的不同算子分配合适的数值精度，以保证量化后的神经网络模型的精度。