基于分布式任务的跨域分层通信优化方法、装置和介质

本发明公开了一种基于分布式任务的跨域分层通信方法、装置和介质，所述分层通信优化方法依据分层通信模型中当前优化层当前的计算起始时刻、计算耗时、所述当前优化层的后一层当前的通信起始时刻以及所述分布式任务的当前启动时间之间的关系所满足的预设条件，进行当前优化层的类型判定逻辑，可输出各协议层级的类型，以为分布式训练提供细粒度通信调度方案，以及便于采用不同优化处理策略对完全共享层和部分共享层实行差异化优化处理，对于完全共享层，通过合并参数减少通信开销，而对于部分共享层，通过按比例合并参数并保留部分独立通信通道，实现灵活优化。