模型服务的容错调度方法及系统

本申请实施例提供了模型服务的容错调度方法及系统，通过提取调度失败信息中的失败特征数据；利用预设的错误分类器确定对应调度失败信息的错误类别，至少包含瞬态错误类型和持久错误类型中的一种；根据错误类别，将对智能体调度任务的执行流程映射至同模型重试路径或模型切换路径；若执行流程被映射至模型切换路径，则读取智能体调度任务的元数据中记录的已失败模型集合，并从候补模型中检索首个不属于已调度失败模型集合的候补模型进行调度切换，并将调度失败的故障模型添加至已失败模型集合中。通过精确分离瞬态错误和持久错误，进行差异化响应以取得重试成本与切换代价的平衡，确保调度路由不陷入死循环。