返回搜索
档案
一种数据湖环境下的计算资源粒度划分方法
发明专利未知
7权利要求 · 1 独立
§ Ⅰ
卷宗概要
发明人
季航旭; 张子涵; 孙永佼; 王一舒
申请日
Aug 4, 2026
公开日
Oct 27, 2026
IPC 分类
G06F 9/50 (2006.01)G06N 5/01 (2023.01)G06N 3/042 (2023.01)G06N 3/0464 (2023.01)G06N 3/0442 (2023.01)
本发明提供了一种数据湖环境下的计算资源粒度划分方法,涉及资源调度技术领域。本发明在Flink作业的多次迭代过程中,获取Flink作业的执行模式;在执行模式为批处理时,对每一轮Flink作业的所有算子的并行度进行预测,得到下一轮Flink作业所有算子的最优并行度;在执行模式为流处理时,通过多个窗口对实时入湖的数据进行划分,得到数据段,进而对每个窗口的并行度进行预测,得到下一轮Flink作业窗口的最大并行度。这种划分策略不仅覆盖算子层面粒度,还针对数据湖入湖作业的时间窗口、湖内批处理作业的批次级粒度实现动态调整,以彻底避免传统经验式资源配置中,数据湖多作业混部场景下的资源超配、欠配与租户间争抢问题。
登录后阅读全文
已显示权利要求 1。免费注册即可阅读全部 7 项权利要求、说明书全文、全部附图、翻译和法律状态。
- 全部权利要求
- 技术领域
- 背景技术
- 发明内容
- 附图说明
- 具体实施方式