跨节点传输方法及计算设备

本申请实施例一种跨节点传输方法及计算设备。方法包括：获取待推理任务的初始网络状态；基于初始网络状态，确定待推理任务的初始传输方式；基于初始传输方式对应的连接通道，将源节点生成的至少一个键值缓存传输至目标节点；在传输过程中，监测当前网络状态；基于当前网络状态，确定待推理任务的目标传输方式；基于目标传输方式对应的连接通道，继续将源节点生成的至少一个键值缓存传输至目标节点。采用上述的方法，在传输前基于初始网络状态确定初始传输方式，在传输过程中，根据实时网络状态来确定目标传输方式，随后基于目标传输方式继续传输键值缓存，实现了跨节点传输的效率和连续性，进而改善了推理服务的服务质量。