基于梯度敏感度与硬件感知的模型训练方法、系统、存储介质及计算机设备

本申请公开了一种基于梯度敏感度与硬件感知的模型训练方法、系统、存储介质及计算机设备，该方法包括：基于预设学习率衰减规则设置各训练步对目标模型进行训练，在各训练步的训练过程中执行以下操作：根据当前训练步对应的学习率衰减速率以及预设位宽下降系数，确定当前训练步对应的位宽下降速度，并根据所述位宽下降速度确定当前训练步对应的位宽下降数量；根据所述目标模型中各层的梯度敏感度、当前硬件设备参数和所述位宽下降数量，以预设的最小位宽为约束确定所述目标模型中的目标层并进行位宽降低，以压缩所述目标模型；所述预设的最小位宽表示所述目标模型中各层的可设置的位宽最小值；对压缩后的目标模型进行当前训练步的训练。在保持较高性能的前提下实现有效压缩。可应用于医疗健康和金融科技的场景中进行模型训练。