一种数据处理方法以及相关装置

本申请实施例提出一种数据处理方法以及相关装置，该方法包括：代表节点接收来自第一集群中辅助节点的辅助数据，辅助数据为辅助节点的本地数据；代表节点向第二集群的目标节点发送代表节点的本地数据和辅助数据；代表节点接收来自目标节点的本地数据；代表节点根据辅助数据、代表节点的本地数据和目标节点的本地数据生成聚合数据；代表节点向辅助节点发送辅助子聚合数据，辅助子聚合数据是聚合数据的至少部分数据，辅助子聚合数据为聚合数据中与辅助数据对应的数据。执行跨计算集群的全局全归约allreduce的过程中，可以减少集群间的连接数，降低管理难度，减少慢速流的发生概率，最小化慢速流对性能的影响，提升通信性能和计算性能。