一种数据缓存方法及其相关装置

本申请实施例涉及一种数据缓存方法，该方法包括：基于第一输入向量的第一计算开销和第一中间结果的第一调用信息，确定第一中间结果的第一缓存优先级，第一中间结果用于计算与第一输入向量相关的第一输出向量，第一计算开销用于指示计算第一中间结果所需的计算开销，第一调用信息用于指示第一中间结果被调用的次数或频率。在第一缓存优先级满足设定条件的情况下，将第一中间结果缓存至缓存空间，或，向缓存空间对应的处理器单元发送第一指令，第一指令用于指示处理器单元将第一中间结果缓存至缓存空间。通过综合考虑调用信息和所需的计算开销来确定中间结果是否必要存储到缓存空间，从而更加灵活利用缓存空间来存储中间结果。