前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >【课后作业】Azkaban 自动化调度

【课后作业】Azkaban 自动化调度

作者头像
十里桃花舞丶
发布2020-09-24 17:44:05
3450
发布2020-09-24 17:44:05
举报
文章被收录于专栏:桥路_大数据桥路_大数据

最后,将完成的 Shell 脚本交由 Azkaban 进行自动化调度。具体步骤讲解如下。

MySQL 数据生成

在 Node02 节点的 MySQL 中执行 SQL,生成数据:

代码语言:javascript
复制
mysql -uroot -pDBa2020*
use mall;
CALL init_data('2020-06-13',300,200,300,FALSE);

Azkaban 任务编写

编写 Azkaban 运行 job,其中包 import.job、ods.job、dwd.job、dws.job、gmv_ads.job、gmv_export.job。

文件内容如下:

import.job

代码语言:javascript
复制
type=command
do_date=${dt}
command=/home/warehouse/shell/sqoop_import.sh all ${do_date}

ods.job

代码语言:javascript
复制
type=command
do_date=${dt}
dependencies=import
command=/home/warehouse/shell/ods_db.sh ${do_date}

dwd.job

代码语言:javascript
复制
type=command
do_date=${dt}
dependencies=ods
command=/home/warehouse/shell/dwd_db.sh ${do_date}

dws.job

代码语言:javascript
复制
type=command
do_date=${dt}
dependencies=dwd
command=/home/warehouse/shell/dws_db.sh ${do_date}
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2020-09-22 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • MySQL 数据生成
  • Azkaban 任务编写
相关产品与服务
云数据库 SQL Server
腾讯云数据库 SQL Server (TencentDB for SQL Server)是业界最常用的商用数据库之一,对基于 Windows 架构的应用程序具有完美的支持。TencentDB for SQL Server 拥有微软正版授权,可持续为用户提供最新的功能,避免未授权使用软件的风险。具有即开即用、稳定可靠、安全运行、弹性扩缩等特点。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档