数据仓库 Azkaban调度器

GMV指标获取的全调度流程

import.job文件,第一步,从mysql导入数据

type=command
do_date=${dt}
command=/home/atguigu/bin/sqoop_import.sh all ${do_date}

ods.job文件

type=command
do_date=${dt}
dependencies=import
command=/home/atguigu/bin/ods_db.sh ${do_date}

dwd.job文件

type=command
do_date=${dt}
dependencies=ods
command=/home/atguigu/bin/dwd_db.sh ${do_date}

dws.job文件

type=command
do_date=${dt}
dependencies=dwd
command=/home/atguigu/bin/dws_db_wide.sh ${do_date}

ads.job文件,本例以GMV指标获取的全调度流程为例,只执行一个ads_db_gmv.sh脚本,完整的数据,应该有多个ads层业务脚本并行执行。

type=command
do_date=${dt}
dependencies=dws
command=/home/atguigu/bin/ads_db_gmv.sh ${do_date}

export.job文件,最后一步,导出到mysql

type=command
dependencies=ads
command=/home/atguigu/bin/sqoop_export.sh ads_gmv_sum_day 

 

posted @ 2020-07-02 23:35  地中有山  阅读(338)  评论(0编辑  收藏  举报