分片调度方法、装置、设备、介质及产品

本申请实施例提供一种分片调度方法、装置、设备、介质及产品。该方法包括：获取待执行算子的算子维度特征和硬件参数；硬件参数至少包括访存对齐边界；在访存对齐边界的约束下，基于算子维度特征，确定待执行算子针对目标请求的目标分片策略；按照目标分片策略，采用多个图形处理器处理目标请求。该方法用以达到在算子形态、负载变化与硬件约束之间建立协同关系，提升分布式推理过程中的分片调度适配性与执行协调性的效果。