一种共享集群的资源调整方法及装置

一种共享集群的资源调整方法及装置，用以保障不同租户之间资源安全隔离的同时提升共享集群资源利用率和推理服务吞吐量。该方法包括：采集共享集群的基础设施层、容器层和应用层的指标数据；基于所述共享集群的基础设施层、容器层和应用层的指标数据，预测未来一段时间共享集群的预测负载；若所述预测负载超过分级阈值，则执行横向扩容策略，创建新容器实例；若所述预测负载不超过分级阈值，则执行纵向扩缩策略，调整pod资源配额。