前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >《Yarn的使用教程》--- 大数据系列

《Yarn的使用教程》--- 大数据系列

作者头像
用户3467126
发布2019-07-03 18:10:34
1K0
发布2019-07-03 18:10:34
举报
文章被收录于专栏:爱编码爱编码
一、Yarn简介:

YARN主要是将资源管理和作业监控拆分成了两个独立的服务: 1. ApplicationMaster:每个应用程序特有的,负责单个应用程序的管理。 2. ResourceManager:一个全局的资源管理器,负责整个系统的资源管理和分配。

Yarn原理图

上图解析:ResourceManager和NodeManager设计源自于数据计算框架。ResourceManager主要负责资源调度,而NodeManager是监控每一个台客户机器的cpu,内存,硬盘和网络状况,同时汇报给ResourceManager。

主要概念介绍完了,如果想看更多可移步官网

二、Yarn的安装和使用
前提:Hadoop已经安装完成,可参考安装教程

进入hadoop根目录,然后配置,基本上是MapReduce和yarn之间连接的配置:

代码语言:javascript
复制
vi   etc/hadoop/mapred-site.xml

填入下面的配置:

代码语言:javascript
复制
<configuration>
   <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
   </property></configuration>

接着

代码语言:javascript
复制
vi   etc/hadoop/yarn-site.xml

填入下面的配置:

代码语言:javascript
复制
<configuration>
   <property>
       <name>yarn.nodemanager.aux-services</name>
       <value>mapreduce_shuffle</value>
   </property></configuration>

启动

代码语言:javascript
复制
$ sbin/start-yarn.sh

验证

代码语言:javascript
复制
http://localhost:8088/

停止

代码语言:javascript
复制
 $ sbin/stop-yarn.sh

提交一个MapReduce作业命令:

代码语言:javascript
复制
hadoop jar /root/app/hadoop-2.6.0-cdh5.7.0/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0-cdh5.7.0.jar

到此Yarn搭建完成了。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-08-02,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 爱编码 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、Yarn简介:
  • 二、Yarn的安装和使用
    • 前提:Hadoop已经安装完成,可参考安装教程
    领券
    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档