分布式训练的仿真方法、装置、设备、介质及程序产品

本发明提供一种分布式训练的仿真方法、装置、设备、介质及程序产品，涉及计算机领域，包括从配置文件中读取仿真所需的参数，参数包括训练数据、邻接矩阵及预设仿真训练轮次中的至少一种；邻接矩阵中的每个元素表征两个节点之间的通信链路状态；基于邻接矩阵，创建多个仿真训练节点及每个仿真训练节点的邻居节点；并为每个仿真训练节点分配相应的训练数据；采用时分复用调度策略，调度多个仿真训练节点基于训练数据及邻居节点的数据包在GPU图形处理器上进行仿真训练，直到达到预设仿真训练轮次或预设仿真训练时长。本发明的仿真方法突破了物理资源的限制，还通过时分复用调度策略在单个GPU上进行仿真，降低了对大量GPU的需求。