검색으로 돌아가기
기록
数仓作业链路缩短方法、装置、设备、存储介质及产品
발명알 수 없음
6조회수
10청구항 · 5 독립항
§ Ⅰ
개요
IPC 분류
G06F 16/25 (2019.01)G06F 16/22 (2019.01)G06F 16/242 (2019.01)G06F 16/2458 (2019.01)G06F 16/28 (2019.01)G06F 40/216 (2020.01)
本申请公开了一种数仓作业链路缩短方法、装置、设备、存储介质及产品,涉及大数据处理技术领域,所述数仓作业链路缩短方法包括:获取待分析的加工作业,其中,所述加工作业至少包括一个SQL脚本;针对每个所述SQL脚本,构建关系解析树;将每个所述加工作业中的所有所述关系解析树按执行顺序串联,得到关系解析树序列,并对所述关系解析树序列进行冗余节点去除,得到目标关系解析树序列;基于所述目标关系解析树序列,对所有所述加工作业进行全局依赖关系分析,得到可跳过链路。通过上述不同层次的数据处理,可以明显降低数据复杂度,提升ETL作业的性能。