Ambari2.7整体编译+安装使用

最近Ambari发布了新版本——v2.7.1,支持HDP_3.0.1版本,较Ambari2.6相比,最直观的感觉就是Web UI有了很大的改变,更加的美观;支持的hadoop相关组件,也是较新的版本;同时也增加了很多新特性等等,好处多多,首先来了解一下整体编译,毕竟整体编译过了,才能进行二次开发

一、获取Ambari2.7.1源码

wget http://www.apache.org/dist/ambari/ambari-2.7.1/apache-ambari-2.7.1-src.tar.gz
tar zxvf apache-ambari-2.7.1-src.tar.gz

二、搭建编译环境

搭建编译环境需要下载的依赖安装包,在我的云盘已经保存好了,详情点击下载,链接: https://pan.baidu.com/s/13artwjfgi7ikJiKIBbzb7w 提取码: fgia

1. jdk、maven、nodejs、brunch下载

详情请点击:java、nodejs、brunch、maven安装

2. python 2.6(系统自带)
3. 安装rpmbuild
yum install rpm-build
4. 安装g++
yum install gcc-c++
5. 安装python-devel
yum install python-devel
6. 安装bower、gulp
npm install -g bowernpm install -g gulp
7. 安装git
yum install git

三、提前下载并设置

有些包比较大,或者编译时下载时间较长,可以提前下载到本地目录,再修改pom.xml文件指定到本地目录

1. hbase tar包下载
mkdir -p /tmp/hbase
wget -O /tmp/hbase/hbase-2.0.0.3.0.0.0-1634-bin.tar.gz  http://dev.hortonworks.com.s3.amazonaws.com/HDP/centos7/3.x/BUILDS/3.0.0.0-1634/tars/hbase/hbase-2.0.0.3.0.0.0-1634-bin.tar.gz
2. grafana tar包下载
mkdir -p /tmp/grafana
wget -O /tmp/grafana/grafana-2.6.0.linux-x64.tar.gz  https://grafanarel.s3.amazonaws.com/builds/grafana-2.6.0.linux-x64.tar.gz

四、设置版本信息

chmod -R 777 apache-ambari-2.7.1-src
cd apache-ambari-2.7.1-src
mvn versions:set -DnewVersion=2.7.1.0.0
pushd ambari-metrics
mvn versions:set -DnewVersion=2.7.1.0.0
popd

五、编译命令

执行编译命令之前,请先看一遍问题集锦

mvn -B -X -e install package rpm:rpm -DnewVersion=2.7.1.0.0 -DskipTests -Dpython.ver="python >= 2.6" -Drat.skip=true -Preplaceurl

编译成功,如下图所示:

六、问题集锦

1. Too many files with unapproved license

解决办法:

由于许可license没有造成的,需要再mvn命令中增加如下内容:

-Drat.skip=true
2. Unexpected character 0x0 in identifier

编译ambari-utility,报错信息:

说明:

出错的Java文件编码和CheckStyle设置的编码不同。CheckStyle里设置的编码是UTF-8

解决办法:

将“._xxx.java”文件直接删除即可。

(注:其实有很多类似这样的文件报错,将类似这样的文件删除掉即可)

3. Download HBase超时

问题:

解决办法:

将./ambari-metrics/pom.xml的

http://dev.hortonworks.com.s3.amazonaws.com/HDP/centos7/3.x/BUILDS/3.0.0.0-1634/tars/hbase/hbase-2.0.0.3.0.0.0-1634-bin.tar.gz

替换为本地路径

file:///tmp/hbase/hbase-2.0.0.3.0.0.0-1634-bin.tar.gz
4. Download Grafana超时

问题:

解决办法:

将./ambari-metrics/pom.xml的

https://grafanarel.s3.amazonaws.com/builds/grafana-2.6.0.linux-x64.tar.gz

替换为本地路径

file:///tmp/grafana/grafana-2.6.0.linux-x64.tar.gz

如图所示:

5. Unable to build the RPM

问题:

Unable to build the RPM: Error while executing process. Cannot run program "rpmbuild"

解决办法:

rpm -qa | grep rpm-build #检测是否已安装rpmbuildyum install rpm-build    #如果没安装则手动安装
6. buildNumber : unbound variable
vim /usr/sbin/ambari-server将${buildNumber}这行换成 HASH="${VERSION}"

该文件源码位置位于:./ambari-server/sbin/ambari-server,修改后,在进行编译,可以一劳永逸。

7. ambari卡在设置集群名称的下一步

详情见下图:设置好集群名称,卡在了 NEXT这一步,换句话说,就是select version那个页面不能被我们访问到。

分析:

进入 selectversion页面是访问的 HDP-3.0,但是发现 /var/lib/ambari-server/resources/stacks/HDP/没有3.0这个目录,所以 selectversion页面打不开。

解决办法:

链接: https://pan.baidu.com/s/1lsR04M6n7_zNEy2jANFrpQ 提取码: tzre

下载文件并解压至 /var/lib/ambari-server/resources/stacks/HDP/

可将 3.0文件添加到源码处: ./ambari-server/src/main/resources/stacks/HDP,再进行编译,可以一劳永逸。

七、安装编译成功的rpm包

因为博主当时在二次开发ambari-server,改好源码后,需要对ambari-server编译安装,为了节省时间,所以写了两个脚本,用于安装ambari-server。 执行以下脚本的前提条件是:必须拥有ambari环境,如果搭建请参考:Ambari2.7.1安装配置

1. reSetupAmbariServer.sh
#!/bin/bash
# 判断该脚本所在的绝对路径
bin=`dirname $0`
bin=`cd "$bin";pwd`
# 停止ambari-server服务
echo -e "\e[0;32;1m====停止ambari-server服务====\e[0m"
ambari-server stop
# 卸载当前ambari-server服务
echo -e "\e[0;32;1m====卸载当前ambari-server服务====\e[0m"
yum remove -y ambari-server
# 安装新的ambari-server
echo -e "\e[0;32;1m====安装新的ambari-server====\e[0m"
yum install -y /lyz/compile/XM4.0/ambari-server/target/rpm/ambari-server/RPMS/x86_64/ambari-server-2.7.1.0-0.x86_64.rpm
# ambari安装
echo -e "\e[0;32;1m====start ambari-server setup====\e[0m"
chmod +x $bin/ambariSetup.sh
expect $bin/ambariSetup.sh
# 向配置文件内添加jdbc.path
echo -e "\e[0;32;1m====向配置文件内添加jdbc.path====\e[0m"
echo 'server.jdbc.driver.path=/usr/share/java/mysql-connector-java.jar'>>/etc/ambari-server/conf/ambari.properties
# 安装ambari
ambari-server setup --jdbc-db=mysql --jdbc-driver=/usr/share/java/mysql-connector-java.jar
# 启动ambri-server
echo -e "\e[0;32;1m====启动ambri-server====\e[0m" 
ambari-server start
2. ambariSetup.sh
#!/usr/bin/expect
# excute interactive command
spawn echo "*******************start ambari-server setup*****************"
set timeout 300
set javahome /usr/java/jdk1.8.0_151
set mysqlport 3306
set databasename ambari
set username root
set dbpass root123		
spawn ambari-server setup
#expect {
#"continue*" { send "y\r"; exp_continue}
#"daemon*" { send "y\r" }
#}
expect "daemon*"
send "n\r"
# expect "*?"
# send "y\r"
expect "choice (*"
send "2\r"
expect "JAVA_HOME:"
send "$javahome\r"
expect "LZO packages*"
send "n\r"
expect "configuration*"
send "y\r"
expect "choice (*"
send "3\r"
expect "Hostname*"
send "\r"
expect "Port (*"
send "$mysqlport\r"
expect "Database name (*"
send "$databasename\r"
expect "Username (*"
send "$username\r"
expect "Database Password (*"
send "$dbpass\r"
expect "password*"
send "$dbpass\r"
expect "mysql-connector-java.jar*"
send "y\r"
expect "properties*"
send "y\r"
expect eof

脚本执行入口为:sh reSetupAmbariServer.sh

八、使用samba调试修改代码

samba可以使linux上的代码作为网络驱动器,映射到windows上。

Samba安装配置:点击这里


更多精彩干货内容,请关注微信公众号,谢谢

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

编辑于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏C/C++基础

DOS常用命令大全

2010-04-17 22:27:19|  分类: 电脑技术 |  标签:dos命令大全 |字号大中小 订阅

2321
来自专栏java架构师

老生常谈GET和POST,以备常查

------------------- GET 和 POST 请求的区别 // --TCP/IP 协议详解卷3 13.3.1 报文类型:请求与响应 HTTP ...

3187
来自专栏小樱的经验随笔

【批处理学习笔记】第十三课:常用dos命令(3)

网络命令 ping 进行网络连接测试、名称解析 ftp 文件传输 net 网络命令集及用户管理 telnet 远程登陆 ipconfig显示、修改TCP/IP设...

2956
来自专栏SDNLAB

SDN开发笔记(一):SDN开发环境的搭建(win7环境)

前言 鉴于网上对于SDN开发相关的资料较少又乱的现状,从这篇文章开始,我将陆续分享我在SDN开发过程中的经验,我的SDN项目开发是基于OpenDaylight的...

4468
来自专栏加米谷大数据

Kafka Consumer的配置

FlinkKafkaConsumer08可以消费一个或多个Kafka topic的数据,它的构造器需要接收以下参数:

2031
来自专栏技术博文

H5缓存机制浅析

1 H5 缓存机制介绍 H5,即 HTML5,是新一代的 HTML 标准,加入很多新的特性。离线存储(也可称为缓存机制)是其中一个非常重要的特性。H5 引入的离...

4348
来自专栏Python爬虫与算法进阶

强大的异步爬虫 with aiohttp

看到现在网络上大多讲的都是requests、scrapy,却没有说到爬虫中的神器:aiohttp

1872
来自专栏Java帮帮-微信公众号-技术文章全总结

Web-第七天 HTTP&Tomcat学习

HTTP协议:超文本传输协议(HTTP,HyperText Transfer Protocol)是互联网上应用最为广泛的一种网络协议。用于定义WEB浏览器与WE...

1915
来自专栏散尽浮华

进程管理利器-supervisor部署记录

一、简单介绍 supervisor是用来管理进程的一个工具,止于为什么要用supervisor,是因为相对于linux传统的进程管理方式来说,它有很多的优势: ...

3948
来自专栏pythonlove

FTP使用MariaDB完成虚拟用户认证

文件传输协议(英文:File Transfer Protocol,縮寫:FTP)是用於在網絡上進行文件傳輸的一套標準協議。它属于网络传输协议的应用层。FTP是一...

1124

扫码关注云+社区

领取腾讯云代金券