最近需要做些spark的工作,所以弄了几台dell7500就这么准备开始搭建集群,之前用过几台更破的台式机搭建过一次,折腾了半个月之久,终于成功搭建,这次不想走老路,所以网上查了一下,发现一个神器AMBARI...,可以部署、管理集群,果然是个好东西,所以就拿来用,但是在安装的过程中碰到了许许多多的问题,所以现在把安装过程总结一下,放到这里,以方便下次安装或者其他有对ambari感兴趣的同学可以参考之。 ...安装过程大量查阅了网上的相关资料,主要是https://cwiki.apache.org/confluence/display/AMBARI/Install+Ambari+2.2.0+from+Public...安装集群主要分以下几步: 1、安装ambari(参考https://cwiki.apache.org/confluence/display/AMBARI/Install+Ambari+2.2.0+from...B9733A7A07513CAD sudo apt-get update sudo apt-get install ambari-server sudo ambari-server setup sudo
这当然要借助工具,国内用户安装Hadoop套件,习惯使用CM安装CDH,但这次,我们想尝试一下Hortonworks的Ambari来安装HDP。由于没有免费版收费版的区别,整个使用过程是非常流畅的。...因为机器多且网络差的原因,我们使用本地镜像的方式进行安装。 以centos7为例,以下是安装过程~ 准备阶段 搭建镜像 下载以下文件,并上传到某台服务器上,然后解压。...这个是每种安装都需要的 ssh-keygen -t rsa 然后将~/.ssh/id_rsa.pub文件追加到每台机器的信任列表 cat >> /root/.ssh/authorized_keys 可以使用...mysql -h localhost -uroot -p ambari ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql 安装...jdbc驱动(驱动提前下载到/usr/share/java) ambari-server setup --jdbc-db=mysql --jdbc-driver=/usr/share/java/mysql-connector-java.jar
jdbc.path echo -e "\e[0;32;1m====向配置文件内添加jdbc.path====\e[0m" echo 'server.jdbc.driver.path=/usr/share/java/mysql-connector-java.jar...'>>/etc/ambari-server/conf/ambari.properties # 安装ambari ambari-server setup --jdbc-db=mysql --jdbc-driver...=/usr/share/java/mysql-connector-java.jar # 启动ambri-server echo -e "\e[0;32;1m====启动ambri-server====\...username\r" expect "Database Password (*" send "$dbpass\r" expect "password*" send "$dbpass\r" expect "mysql-connector-java.jar...*" send "y\r" expect "properties*" send "y\r" expect eof 脚本执行入口为:sh reSetupAmbariServer.sh 八、使用samba调试修改代码
下载 Ambari on Docker 1.从GitHub上下载ambari文件到本地,https://github.com/sequenceiq/docker-ambari 2.unzip docker-ambari-master....zip 到/opt目录下; unzip docker-ambari-master .zip 加载环境 3.进入cd /opt/docker-ambari-master,看到有 ambari-functions...文件夹,执行: source ambari-functions #将命令加载到环境中。...4.执行amb-settings,可以看到此时IP为空: AMBARI_SERVER_IP= 这里不用配置ip 5.执行启动命令,自动下载安装docker集群: 启动资源 amb-start-cluster...=172.17.0.5 9.用浏览器登陆ambari:http://172.17.0.5:8080,可以看到已经安装成功,接下来可以配置使用集群了
将stack中各个版本的config文件读入,在使用blueprint创建集群部署hadoop时,直接生成command-json文件。...Ambari整体流程 restAPI->ambari-server 单步创建 通过调用ambari提供的restAPI进行集群的单步创建 Add cluster:新建集群 Update cluster:...ambari-server->ambari-agent ambari-server端负责接收rest请求,再向agent端发送命令,发送命令的格式是json,内部包涵部署脚本执行命令(安装/开始/停止服务...ambari-agent所执行的脚本存储在ambari-server 机器上的/var/lib/ambari-server/resources/stacks/HDP/2.0.6/下各个service路径下的...Script的父类,该父类提供了一些函数,例如Script.get_config(),该函数将agent接收来自server端的command-json文件的内容转化为字典格式方便脚本实现部署时对配置的使用
上篇讲了CentOS 6.5下安装Ambari的过程(见 http://www.linuxidc.com/Linux/2014-12/110823.htm ),本人将安装Ambari的主机名改为ambari...1.首先打开浏览器,Linux下一般使用Firefox。输入网址ambari:8080,这里ambari是lz的主机名,各位改成自己的即可。...进入登录界面,默认用户名和密码均为admin,可以在系统里进行修改,安装ambari的过程中也有提示。 2.进入系统后给集群取名,选择要安装的ambari版本和使用的系统平台。...这里lz使用1.3.3,CentOS6。有一个很重要的事要说明, 若选择1.3.3版本,则必须用jdk6,如果前面安装ambari时选择了jdk7,在register那里无法通过!...若您已经选择了jdk7, 返回重新运行一下安装过程,使用jdk6即可。 3.选择安装的集群节点。
ambari安装、运行用户和用户组,也可以不创建新用户,直接使用root或者系统其他账号 adduser ambari passwd ambari 2.3开启NTP服务 所有集群上节点都需要操作 Centos...centos7.tar.gz 验证httd网站是否可用,可以使用links 命令或者浏览器直接访问下面的地址: links http://172.xx.x.xxx/ambari/ 3.3 配置ambari...数据 Ambari安装会将安装等信息写入数据库,建议使用自己安装的MySQL数据库,也可以不安装而使用默认数据库PostgreSQL库 Centos 7.2 安装 Mysql 5.7.13 1....Press to continue. 11.将Ambari数据库脚本导入到数据库 如果使用自己定义的数据库,必须在启动Ambari服务之前导入Ambari的sql脚本 用Ambari用户(上面设置的用户...)登录mysql mysql -u ambari -p use ambari source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
#1.删除hdp.repo和hdp-util.repo cd /etc/yum.repos.d/ rm -rf hdp* rm -rf HDP* #rm -rf ambari* #2.删除安装包 #用yum...userdel oozie userdel hcat userdel mapred userdel hdfs userdel rrdcached userdel zookeeper #userdel mysql...#5.重置数据库,删除ambari包 #采用这句命令来检查yum list installed | grep ambari ambari-server stop ambari-agent stop ambari-server...reset yum remove -y ambari-* yum remove -y postgresql rm -rf /etc/yum.repos.d/ambari* rm -rf /var/lib.../ambari* rm -rf /var/log/ambari* rm -rf /etc/ambari* 这个脚本给安装失败,需要重新安装的人用的,在ambari的官网上找的,然后自己花了一个小时写出来的
Ambari 2.4.2 汉化 1、ambari-web (1)apache-ambari-2.4.2-src/ambari-web/app/messages.js 该文件是KeyValue文件,3000...(2)apache-ambari-2.4.2-src/ambari-web/app/assets/index.html 将页脚License汉化 (3)apache-ambari-2.4.2-src...(4)apache-ambari-2.4.2-src/ambari-web/app/controllers/wizard.js 翻译277行: body: “If you proceed to...-*- 翻译了2条:raise Exception 3、ambari-admin (1)apache-ambari-2.4.2-src/ambari-admin/src/main/resources...、版权等 5、ambari-shell (1)apache-ambari-2.4.2-src/ambari-shell/ambari-python-shell/src/main/python/setup.py
一、Ambari系统架构 Ambari框架采用的是Server/Client的模式,主要由两部分组成:ambari-agent和ambari-server。...ambari-web 作为用户与 Ambari server 交互的。...二、Ambari-agent内部架构 Ambari-agent是一个无状态的,其功能分两部分: 采集所在节点的信息并且汇总发送心跳发送汇报给ambari-server。...四、Ambari-web内部架构 Ambari-web使用了一个流行的前端Embar.js MVC框架实现,Embar.js是一个TodoMVC框架,它涵盖了现今典型的单页面应用(single page...使用了nodejs 使用brunch 作为项目的构建管理工具 Brunch ,是一个超快的HTML5构建工具。它有如下功能: (1)、编译你的脚本、模板、样式、链接它们。
使用 ambari 来搭建 hdp 集群,前前后后搭了不下10遍,之前一直没有完整的总结整个过程,最近有空正好记录一下。 什么是Ambari?...今天就来介绍如何安装Ambari和如何使用Ambari来部署Hadoop集群。 对于HDP集群,ambari是一个极其优秀的管理软件。本文就来介绍,如何使用ambari来部署一个HDP集群。...默认会安装并使用 Oracle 的 JDK,但是建议选择custom,然后填入你的jdk地址即可,这样会快很多,因为无需下载jdk 指定 Ambari Server 的运行用户为 root 其他配置均使用默认...这是因为ambari-agent 在注册时,默认会获取主机主机名,并使用主机名向ambari-server注册。...对于使用ambari安装Hive等组件,下一篇文章再讲。
比较好的办法是自己创建的账户,使用ambari安装组件时选择自定义账户即可(UID >= 1000)。...,把远程库的软件同步到本地:(不建议使用这种方式) cd /etc/yum.repos.d/ sudo wget -nv http://public-repo-1.hortonworks.com/ambari...数据库的输入库 输入n则使用默认内置的PostgreSQL database for Ambari。...默认的数据库名是ambari,默认用户名密码是ambari/bigdata命令 Otherwise, to use an existing PostgreSQL, MySQL or Oracle database...Setup Options:---基本无用 -j (or --java-home) --jdbc-driver --jdbc-db指定数据库,Valid values are: [postgres| mysql
ambari On host centos1.hadoop role YARN_CLIENT in invalid state. Invalid transition....Invalid event: HOST_SVCCOMP_OP_IN_PROGRESS at INSTALL_FAILED 登录元数据库(我是mysql) use ambari; select host_id
用一句话来说,Ambari 就是为了让 Hadoop 以及相关的大数据软件更容易使用的一个工具....Ambari 自身也是一个分布式架构的软件,主要由两部分组成:Ambari Server 和 Ambari Agent.简单来说,用户通过 Ambari Server 通知 Ambari Agent 安装对应的软件...首先在自己机器上使用ssh-keygen -t rsa 会要求输入密码(必须为空),回车几次,然后会在HOME目录下生成.ssh文件夹, 里面有私钥和公钥,公钥为~/.ssh/id_rsa.pub,...>> /etc/ntp.conf chkconfig ntpd on service ntpd restart ntpq -p ulimit和nproc Hdaoop会在同一时间使用很多的文件句柄....大多数linux系统使用的默认值1024是不能满足的,修改/etc/security/limits.conf文件为: * soft nproc 16384
最新的CDH已经没有了社区版,也就是说以后使用新版本的Cloudera Manager和CDH都是要收费的,这对于很多小公司来说,可能无法承受。转向Ambari是他们的一个可选项。...配置数据库 登录MySQL mysql -u root -p123456 创建所需数据库 # 创建ambari数据库 create database ambari; CREATE USER 'ambari...USER 'oozie'@'%'IDENTIFIED BY '123456'; GRANT ALL PRIVILEGES ON *.* TO 'oozie'@'%'; FLUSH PRIVILEGES; 将Mysql...,需要输入之前设置的路径和密码 登录ambari数据库,对数据库进行初始化 mysql -uroot -p123456 use ambari source /var/lib/ambari-server/...resources/Ambari-DDL-MySQL-CREATE.sql show tables; 完成数据库的初始化后,启动 ambari-server start 5、登录Ambari Web页面
ambari.repo 指定了ambari的源; 通过在ambari web配置HDP源,自动生成 “HDP*.repo” 文件。...ams:hadoop /var/log/ambari-metrics-monitor/ambari-metrics-monitor.out 在安装ambari metrics monitor 之前.../stack-recommendations 解决方案:sudo chown -R ambari /var/run/ambari-server 删除已安装服务: Ambari 借鉴了很多成熟分布式软件的...幸运的是 Ambari 提供了 DELETE 的 Rest API,我们可以通过该 API 来删除 Ambari 中 Service。...1,通过ambari将集群中的所用组件都关闭,如果关闭不了,直接kill -9 XXX 2,关闭ambari-server,ambari-agent ambari-server stop ambari-agent
Server Server code: Java 1.7 / 1.8 Agent scripts: Python Database: Postgres, Oracle, MySQL ORM: EclipseLink....* 对数据库的操作 org.apache.ambari.server.agent.rest 处理与Agent的接口的入口方法 org.apache.ambari.security 使用Spring Security...Agent 拿到配置文件后,会下载安装公共源里软件包(Redhat,就是使用 yum 服务)。安装完成后,Ambari Server 会通知 Agent 去启动 Service。...Agent心跳程序启动:Ambari Agent向Ambari Server开启心跳程序,确认各种命令的执行 5 Ambari-web内部架构 Ambari-web使用了一个流行的前端Embar.js...使用了nodejs 使用brunch 作为项目的构建管理工具 Brunch ,是一个超快的HTML5构建工具。它有如下功能: (1)、编译你的脚本、模板、样式、链接它们。
0 Obtaining the Repositories(下载库) 0.1 CentOS 6 http://public-repo-1.hortonworks.com/ambari/centos6...ambari-2.4.2.0-centos7.tar.gz [root@east81 Public]# scp -r AMBARI-2.4.2.0/ 192.168.1.180:/var/...) http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.4.2.0/ambari.repo ...vnode0 yum.repos.d]# vi ambari.repo [Updates-ambari-2.4.2.0] name=ambari-2.4.2.0 - Updates...=1 3 访问本地库 http://192.168.1.180/ambari/ Index of /ambari NameLast modifiedSizeDescription
RHEL6.5上使用Ambari快速搭建Hadoop集群 ip hostname 10.7.1.1 master.coke 10.7.1.2 dn1.coke 10.7.1.3 dn2.coke.../ambari/CentOS6/1.x/updates/1.7.0/ambari.repo yum install ambari-server yum install MySQL-server mysql...提前建立库和授权 mysql>grant all on ambari.* to ‘ambari’@’localhost‘ identified by “175an.com”; mysql> flush...ERROR: Before starting Ambari Server, you must copy the MySQL JDBC driver JAR file to /usr/share/java...导入数据库 mysql ambari -u175an -p ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql grant
,剩余内存,CPU使用率,节点故障等。...JDK,MySql 部署 (需要配置Ambari,Hive,Hbase等多张表) 3. 部署Ambari 服务 4....通过Ambari Web工具进行集群监控,并且对警告及错误进行处理 部署准备:MySql,JDK,Ambari,HDP,HDP-Util,和上面老的部署方式相比,是不是少了很多 ...安装mysql,配置免密登陆 4. 安装httpd,配置本地ambari+HDP 的yum源 5. Ambari Server安装及初始化 6....Ambari Server 通过向导安装集群 7. Ambari 使用介绍 8. Hdfs HA的高可用 9.