azkaban 工作流2.0开发示例

azkaban

目录结构

flow_test.flow
flow_test.project
flow_test.zip
test.sql

用于测试工作流的简单示例。

flow_test.flow

---
config:
  failure.emails: user_name@mail.net
  success.emails: user_name@mail.net
  param.date: 1970-01-01

nodes:

  - name: crm_schedule_start
    type: command
    config:
      command: hivef test.sql ${param.date}

说明:hivef 是我们封装的一个hive -f ... 的 shell 文件,支持传递多个参数。包括对日期参数的校验和处理。param.date: 1970-01-01 就是初始化用的日期参数。

flow_test.project

azkaban-flow-version: 2.0

仅仅一行,用与指明使用 azkaban 新支持的工作流2.0版本。

test.sql

select a.* from base.cc_cdr_log a where a.`date` = "${date}" limit 5;
posted @ 2018-12-23 17:51  大数据-大道至简  阅读(881)  评论(0编辑  收藏  举报
知识共享许可协议
本作品采用知识共享署名-非商业性使用-禁止演绎 3.0 未本地化版本许可协议进行许可。