资源调度方法、装置、设备及存储介质

本申请公开了一种资源调度方法、装置、设备及存储介质，属于人工智能领域。该方法由计算机设备执行，计算机设备包括至少两个图形处理器GPU；该方法包括：接收第一推理服务的部署请求，部署请求用于请求增设第一推理服务；测试第一推理服务的GPU资源需求情况，得到测试结果；测试结果用于指示运行第一推理服务所需的GPU资源；根据测试结果以及至少两个GPU的使用情况，从至少两个GPU中调度第一GPU部署第一推理服务；其中，第一GPU包括以下至少一种：独立GPU、切分独立GPU得到的共享GPU。该方法可以准确高效地为推理服务调度GPU资源。