南京思泽亿数字科技有限公司

本发明具体为多场景人工智能公共服务云平台调度管理系统，涉及云计算与人工智能服务调度技术领域，包括：服务请求解析与分流模块；多级反馈队列调度模块；上下文切换开销评估模块；全局补偿代币池管控模块；累积延迟抑制与补偿模块。本发明中，异构互连拓扑感知的动态上下文切换开销评估机制，结合总线运行状态、内存并发状态与异构拓扑特征实现切换成本的精细化测算，为调度补偿机制提供可靠的量化依据，有助于提升补偿决策的合理性与场景适配性；在此基础上构建基于截止期松弛度的动态降容跃迁阈值，将任务优先级提权机制与任务绝对截止时间深度关联，实现累积延迟的动态抑制。