前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >【Hadoop 分布式部署 十 一: NameNode HA 自动故障转移】

【Hadoop 分布式部署 十 一: NameNode HA 自动故障转移】

作者头像
梅花
发布2020-09-28 10:22:14
8130
发布2020-09-28 10:22:14
举报
文章被收录于专栏:梅花的学习记录

问题描述: 上一篇就是NameNode 的HA 部署完成,但是存在问题,问题是如果 主NameNode的节点宕机了,还是需要人工去使用命令来切换NameNode的Acitve 这样很不方便,所以

这篇学习笔记就是记录如何解决 故障转移的

   启动以后每个都是Standby,选举一个为Active

   监控 每个NameNode 都应该监控 (ZKFC Failover Controller 失败故障转移控制器)

开始进行配置

      在hdfs-site.xml 文件中配置 :

代码语言:javascript
复制
         <property>
	   <name>dfs.ha.automatic-failover.enabled</name>
	   <value>true</value>
	 </property>

      在core-site.xml 文件中配置 :

代码语言:javascript
复制
<!--配置zookeeper 集群 -->
	 <property>
	   <name>ha.zookeeper.quorum</name>
	   <value>hadoop-senior.zuoyan.com:2181,hadoop-senior02.zuoyan.com:2181,hadoop-senior03.zuoyan.com:2181</value>
	 </property>

 启动:

    首先关闭所有HDFS服务: sbin/stop-dfs.sh (可以看到服务关闭的顺序 )

     然后将节点一(hadoop-senior.zuoyan.com )上 刚配置好的两个配置文件(core-site.xml 和 hdfs-site.xm ) 同步到其余两台机器上去

      使用命令:scp -r etc/hadoop/core-site.xml etc/hadoop/hdfs-site.xml hadoop-senior02.zuoyan.com:/opt/app/hadoop-2.5.0/etc/hadoop/

      使用命令:scp -r etc/hadoop/core-site.xml etc/hadoop/hdfs-site.xml hadoop-senior03.zuoyan.com:/opt/app/hadoop-2.5.0/etc/hadoop/

    接下来就是启动zookeeper ,进入到zookeeper的安装目录中,执行命令 bin/zkServer.sh start

    启动完成后要进行的操作:初始化HA在zookeeper 中 ( 第一个节点 ) 状态  bin/hdfs zkfc -formatZk

      首先在第二个节点的终端下链接上zookeeper的客户端

      然后在第一个节点上进行初始化

        然后在hadoop-senior02.zuoyan.com 主机上的zookeeper 的客户端进行查看 ls /

            ( 就会发现多了一个节点 )

          在查看hadoop-ha 这个就是 初始化时创建的那个文件目录

     启动HDFS :

          命令:sbin/start-dfs.sh

         查看启动的服务

        现在主节点 NameNode 和 Standby 的分布情况

         现在要结束掉Active的节点,检查他是否会自己进行故障转移

            jps 查看一下任务运行的 id号 然后使用命令 kill -9 9991

            然后去查看Hadoop-senior.zuoyan.com 是否成为了Active

 注意:zookeeper 挂了 不会对集群造成影响,就是不能进行故障自动转移,

 还有就是zookeeper 需要服务器的时间同步

这种HA的结构 是QJM

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2018-09-30 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档