一种重计算控制方法、设备、存储介质及程序产品

本申请实施例提供了一种重计算控制方法、设备、存储介质及程序产品，涉及人工智能芯片技术领域，该方法包括：获取待测模型在前向传播过程中生成的激活值的第一数据量，以及获取通过中央处理器与人工智能芯片之间的目标带宽能够卸载的激活值的预期卸载数据量；当第一数据量大于预期卸载数据量时，说明目标带宽无法将激活值全部卸载到内存中，故基于第一数据量与预期卸载数据量之间的差异数据量，从待测模型包含的多个候选算子中选取部分候选算子在反向传播过程中执行重计算；另一部分候选算子在前向传播过程中执行激活值卸载，这样大幅降低模型训练的显存需求，同时避免激活值卸载导致带宽不足，从而提升人工智能芯片在模型训练时的整体性能。