前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >如何在HUE上通过oozie调用Hive SQL工作流

如何在HUE上通过oozie调用Hive SQL工作流

作者头像
create17
发布2019-03-12 17:01:08
9850
发布2019-03-12 17:01:08
举报

HUE版本:3.12.0 Hive版本:2.1.0 前言 通过浏览器访问ip:8888登陆HUE界面,首次登陆会提示你创建用户,这里使用账号/密码:hue/hue登陆。

关于HUE与Hive的集成配置修改,详情请参阅《HUE配置与各服务集成使用

一、业务场景

执行Hive SQL脚本查询mytable表数据前10条,field以”\t”分割,并输出到hdfs指定路径。

二、创建mytable表

代码语言:javascript
复制
create table if not exists mytable(sid int ,sname string)
row format delimited fields terminated by ' ' stored as textfile;

三、创造数据

样例数据mytable.txt,将其放到HDFS路径的/tmp/目录下

代码语言:javascript
复制
1 张三
2 李四
3 王五
4 李六
5 不告你

将数据导入mytable中,执行以下命令:

代码语言:javascript
复制
load data inpath "/tmp/mytable.txt" into table mytable;

四、创建Hive SQL脚本

在HDFS路径/user/hue/learn_oozie/mazy_hive_1下,创建mazy_hive_1.sql,sql中的参数使用${hivevar:参数}展示,内容如下:

代码语言:javascript
复制
INSERT overwrite directory '${hivevar:outputpath}'
row format delimited fields terminated by "\t"
SELECT sid,sname FROM mytable LIMIT 10;

五、创建Workflow

将HiveServer2移动到箭头处,添加sql脚本,添加参数:

代码语言:javascript
复制
outputpath=/user/hue/learn_oozie/mazy_hive_1/output

如下图所示:

六、设置Workflow并执行

点击“设置”,如下图所示:

默认配置oozie.use.system.libpathtrue,这样会在工作区目录下默认新建lib包,如果需要jar包依赖的话,可以放在lib目录下。

工作区的目录HUE会默认生成,也可以自定义设置,lib文件会生成在该工作区内。

这里将工作区设为:/user/hue/learn_oozie/mazy_hive_1

设置完毕后,执行该Workflow

七、查看结果

执行Workflow后,会生成一个job作业,job所属用户为登陆HUE Web的用户。 等Workflow执行成功后,在HDFS路径上查看/user/hue/learn_oozie/mazy_hive_1/output/00000-0文件,如下图所示:

八、总结

在HUE上通过Oozie调用Hive SQL任务流:

  • 需要先创建好Hive SQL语句,
  • 然后在Oozie Workflow里面选择Hiveserver2;
  • 选择之前创建好的Hive SQL语句,设置变量;
  • 设置工作区及依赖的jar包路径
  • 执行Workflow

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2019-02-20,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 大数据实战演练 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、业务场景
  • 二、创建mytable表
  • 三、创造数据
  • 四、创建Hive SQL脚本
  • 五、创建Workflow
  • 六、设置Workflow并执行
  • 七、查看结果
  • 八、总结
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档