基于AI网关与微服务网关的限流方法、系统、设备及介质

本申请涉及计算机技术领域，尤其是涉及基于AI网关与微服务网关的限流方法、系统、介质及设备，方法包括：接收对应微服务网关的业务流量数据、对应AI网关的AI流量数据，及系统资源利用率，建立微服务网关与AI网关之间的配额协商通道，并构建数据集；基于数据集，通过动态配额算法计算微服务网关与AI网关的流量配额；接收并识别目标请求对应的业务场景优先级，基于业务场景优先级，为目标请求预留弹性突发配额；判断当前有效请求总数和对应网关的流量配额的关系，触发对应流程。通过建立动态配额机制，构建AI网关与微服务网关的双网关协同模式，避免局部限流导致的整体资源利用效率不足，实现全局资源最优分配，并通过级联退避提升系统稳定性。