前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >如何使用Cloudera Manager启用YARN的HA

如何使用Cloudera Manager启用YARN的HA

作者头像
Fayson
修改2018-04-01 19:35:36
1.8K0
修改2018-04-01 19:35:36
举报
文章被收录于专栏:Hadoop实操

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。

1.文档编写目的


前面Fayson写过《如何使用Cloudera Manager启用HDFS的HA》,YARN的HA架构和HDFS的HA类似,需要启动两个ResourceManager,这两个ResourceManager会向ZooKeeper集群注册,通过ZooKeeper管理它们的状态(Active和Standby)并进行自动故障转移。本篇文章主要讲述如何使用Cloudera Manager启用YARN的HA。

  • 内容概述

1.启用YARN HA

2.YARN HA功能可用性测试

  • 测试环境

1.CM和CDH版本为5.13.0

  • 前置条件

1.拥有Cloudera Manager的管理员账号

2.CDH集群已安装成功并正常使用

2.启用YARN HA


1.使用管理员用户登录Cloudera Manager的Web管理界面,进入YARN服务

2.点击“启用High Avaiability”,选择ResourceManager主机

3.点击“继续”,启用ResourceManager HA

4.点击“完成”,查看YARN服务实例

可以看到YARN的ResourceManager实例为两个,一个是活动状态,一个是备用状态,至此已完成YARN HA的启用,那么接下来就测试下YARN HA功能的可用性。

3.Yarn HA功能可用性测试


1.ResourceManager服务状态

2.向集群提交一个WordCount作业

代码语言:txt
复制
[root@ip-172-31-6-148 hadoop-mapreduce]# hadoop jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar wordcount /wordcount/in /wordcount/out

3.在作业运行期间,将Active状态的ResourceManager服务kill

4.ResourceManager实例的状态显示

5.WordCount作业正常完成

6.Yarn的8088显示作业成功

可以看到启用ResourceManager 的HA后,运行的MR作业不会因为ResourceManager其中一个服务挂掉而导致作业退出。

为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2017-11-29,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档