一种数据湖环境下的计算资源粒度划分方法
本发明提供了一种数据湖环境下的计算资源粒度划分方法,涉及资源调度技术领域。本发明在Flink作业的多次迭代过程中,获取Flink作业的执行模式;在执行模式为批处理时,对每一轮Flink作业的所有算子的并行度进行预测,得到下一轮Flink作业所有算子的最优并行度;在执行模式为流处理时,通过多个窗口对实时入湖的数据进行划分,得到数据段,进而对每个窗口的并行度进行预测,得到下一轮Flink作业窗口的最大并行度。这种划分策略不仅覆盖算子层面粒度,还针对数据湖入湖作业的时间窗口、湖内批处理作业的批次级粒度实现动态调整,以彻底避免传统经验式资源配置中,数据湖多作业混部场景下的资源超配、欠配与租户间争抢问题。