资源调度方法、装置、电子设备、程序产品及存储介质

本申请适用于人工智能资源调度技术领域，提供了资源调度方法、装置、电子设备、程序产品及存储介质。本申请实施例提供的资源调度方法，通过生成待部署的推理服务副本的租户形态向量和AI加速卡的剩余形态向量，明确记录推理服务副本的需求、AI加速卡的剩余余量分别位于哪些执行域，从而可以区分平均利用率相近但剩余执行域形态不同的AI加速卡，避免将执行域偏置的推理服务副本放入实际不可利用其余量的AI加速卡上。本申请实施例通过确定可行边界、对候选的推理服务副本与AI加速卡的部署关系进行过滤、评分处理，可以选择并输出匹配的控制动作，提升了资源调度的效率和有效性。