前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >如何编译Azkaban插件

如何编译Azkaban插件

作者头像
Fayson
修改2018-04-01 18:14:42
2.7K0
修改2018-04-01 18:14:42
举报
文章被收录于专栏:Hadoop实操Hadoop实操

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。 Fayson的github:https://github.com/fayson/cdhproject 提示:代码块部分可以左右滑动查看噢

1.文档编写目的


前面Fayson介绍了《如何编译安装Azkaban服务》,在安装的时候我们再指定配置文件中有配置Web服务和Executor服务的插件路径,说明Azkaban支持自定义插件集成,本篇文章主要介绍如何编译GitHub上最新的Azkaban插件。

  • 内容概述

1.配置编译环境

2.安装NodeJS

3.编译插件

  • 测试环境

1.Redhat7.2

2.使用root用户操作

3.Azkaban版本为3.43.0

2.配置Ant环境变量


1.下载Ant,地址如下

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# wget http://mirrors.tuna.tsinghua.edu.cn/apache//ant/binaries/apache-ant-1.10.2-bin.tar.gz

(可左右滑动)

2.将下载的apache-ant-1.10.2-bin.tar.gz压缩包解压,并部署到/usr/local目录下

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# tar -zxvf apache-ant-1.10.2-bin.tar.gz
[root@ip-172-31-21-83 ~]# mv apache-ant-1.10.2 /usr/local/

(可左右滑动)

3.配置Ant环境变量,编辑/etc/profile文件,在文件末尾增加如下配置

代码语言:txt
复制
export ANT_HOME=/usr/local/apache-ant-1.10.2
export PATH=$PATH:$ANT_HOME/bin

(可左右滑动)

4.执行命令使其环境变量生效,并验证Ant命令是否可用

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# source /etc/profile
[root@ip-172-31-21-83 ~]# ant -version

(可左右滑动)

3.配置Java环境变量


1.编辑/etc/profile配置文件,在文件末尾增加JAVA环境变量

代码语言:txt
复制
export JAVA_HOME=/usr/java/jdk1.8.0_131
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tool.jar:$CLASSPATH

(可左右滑动)

执行source /etc/profile命令使其环境变量立即生效

2.安装JDK8的无限制权限策略文件JCE

代码语言:txt
复制
下载地址:http://www.oracle.com/technetwork/java/javase/downloads/jce8-download-2133166.html

(可左右滑动)

将下载下来的压缩包解压,将解压UnlimitedJCEPolicyJDK8目录下的两个jar包拷贝至/usr/java/jdk1.8.0_131/jre/lib/security目录下覆盖原有文件

4.安装NodeJS


1.在命令行执行如下命令安装依赖包

代码语言:txt
复制
yum install -y gcc-c++ make

(可左右滑动)

Fayson这里显示的包已安装。

2.在命令行执行如下命令下载NodeJs的安装包

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# curl --silent --location https://rpm.nodesource.com/setup_5.x | bash -

(可左右滑动)

3.接在在命令行执行如下命令安装nodejs

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# yum install -y nodejs

(可左右滑动)

5.编译Azkaban的Plugins


1.在命令行执行如下命令安装git命令

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# yum -y install git

(可左右滑动)

2.使用npm安装dustjs-linkedin包

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# npm install -g less dustjs-linkedin

(可左右滑动)

3.访问GitHub获取最新azkaban-plugins项目的git地址,使用git命令将工程clone到本地

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# git clone https://github.com/azkaban/azkaban-plugins.git

(可左右滑动)

4.查看下载下来的azkaban-plugins目录

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# ll azkaban-plugins/

(可左右滑动)

5.进入azkaban-plugins目录,执行如下命令编译工程

代码语言:txt
复制
[root@ip-172-31-21-83 ~]# cd azkaban-plugins/
[root@ip-172-31-21-83 azkaban-plugins]# pwd
/root/azkaban-plugins
[root@ip-172-31-21-83 azkaban-plugins]# ant

(可左右滑动)

如上图显示则表示编译成功。

6.在/root/azkaban-plugins/dist为所有编译成功的插件

到此就完成了Azkaban-Plugins的编译,这里已经把插件编译好了,接下来的文章就极少如何在Azkaban中安装这些编译好的插件。

6.总结


  • Azkaban的插件编译依赖Ant的编译环境,以及对Java、NodeJs等环境的依赖
  • 在编译完成后获取到的插件,有的为viewer、有的为jobtype,这两种插件区别在于viewer主要用于Web管理界面,在Azkaban-Web服务中不需安装jobtype查看,因为Web端不负责运行作业,所以jobtype类型的插件均安装在Exceutor服务器,viewer插件均安装在Web服务器。

提示:代码块部分可以左右滑动查看噢 为天地立心,为生民立命,为往圣继绝学,为万世开太平。 温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。

推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-03-23,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档