图形处理器集群的通信方法、装置、设备和存储介质

本申请实施例中提供了一种图形处理器集群的通信方法、装置、计算机设备和存储介质，涉及计算机应用技术领域。该方法包括：针对第一张量并行分组中每个第一目标图形处理器，预先为第一目标图形处理器与第二张量并行分组中每个第二目标图形处理器构建第二通信链路；其中，第一张量并行分组是多个张量并行分组中的任一张量并行分组，第二张量并行分组是多个张量并行分组中与第一张量并行分组不同的张量并行分组；控制第一张量并行分组中的第一子图形处理器将内部存储的待归约数据划分为多个待归约子数据，并将多个待归约子数据分别基于第一通信链路和第二通信链路传输至第一张量并行分组中的第二子图形处理器。该方式可提高带宽使用率及通信效率。