前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Hadoop基础教程-第2章 Hadoop快速入门(2.3 Hadoop单机配置)

Hadoop基础教程-第2章 Hadoop快速入门(2.3 Hadoop单机配置)

作者头像
程裕强
发布2022-05-06 18:30:18
2960
发布2022-05-06 18:30:18
举报
文章被收录于专栏:大数据学习笔记

第2章 Hadoop快速入门

常见的Hadoop部署模式分为单机模式和集群模式,也称为伪分布式模式和分布式模式。 单机模式(伪分布式)模式是在一个节点上部署所有的Hadoop服务。在使用上,单机模式(伪分布式)模式跟集群模式(分布式模式)是一样的。

2.3 Hadoop单机配置

2.3节到2.5节内容参考官方文档: http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-common/SingleCluster.html

2.3.1 修改hadoop-env.sh

Hadoop的配置文件存放于Hadoop根目录下的etc/hadoop目录,进入该目录

这里写图片描述
这里写图片描述

通过vi hadoop-env.sh命令来编辑hadoop-env.sh脚本文件

这里写图片描述
这里写图片描述

在第25行左右可以找到export JAVA_HOME=${JAVA_HOME}内容

这里写图片描述
这里写图片描述

将改行修改为export JAVA_HOME=/opt/jdk1.8.0_112

这里写图片描述
这里写图片描述

然后保存退出

2.3.2 修改slaves文件

同样通过命令vi slaves编辑slaves文件

这里写图片描述
这里写图片描述

将默认值localhost修改为node1,保存退出。

这里写图片描述
这里写图片描述

2.3.3 修改hdfs-site.xml

vi hdfs-site.xml

代码语言:javascript
复制
[root@node1 hadoop]# vi hdfs-site.xml
这里写图片描述
这里写图片描述

<configuration></configuration>之间添加如下内容:

代码语言:javascript
复制
<property>
     <name>dfs.replication</name>
     <value>1</value>
</property>

保存退出

2.3.4 修改core-site.xml

vi core-site.xml

代码语言:javascript
复制
[root@node1 hadoop]# vi core-site.xml
这里写图片描述
这里写图片描述

<configuration></configuration>之间添加如下内容:

代码语言:javascript
复制
<property>
     <name>fs.defaultFS</name>
     <value>hdfs://node1:9000</value>
</property>

保存退出

2.3.5 修改mapred-site.xml 文件

默认情况下该目录下没有mapred-site.xml文件,而是存在一个模版文件mapred-site.xml.template,因此首先将模版文件复制一份为mapred-site.xml。然后在通过vi编辑该mapred-site.xml文件 cp mapred-site.xml.template mapred-site.xml vi mapred-site.xml

代码语言:javascript
复制
[root@node1 hadoop]# cp mapred-site.xml.template mapred-site.xml
[root@node1 hadoop]# vi mapred-site.xml
这里写图片描述
这里写图片描述

<configuration></configuration>之间添加如下内容:

代码语言:javascript
复制
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>
这里写图片描述
这里写图片描述

保存退出。

2.3.6 修改yarn-site.xml

vi yarn-site.xml

代码语言:javascript
复制
[root@node1 hadoop]# vi yarn-site.xml
这里写图片描述
这里写图片描述

<configuration></configuration>之间添加如下内容:

代码语言:javascript
复制
<property>
     <name>yarn.nodemanager.aux-services</name>
     <value>mapreduce_shuffle</value>
</property>

保存退出

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2017-05-11,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 第2章 Hadoop快速入门
    • 2.3 Hadoop单机配置
      • 2.3.1 修改hadoop-env.sh
      • 2.3.2 修改slaves文件
      • 2.3.3 修改hdfs-site.xml
      • 2.3.4 修改core-site.xml
      • 2.3.5 修改mapred-site.xml 文件
      • 2.3.6 修改yarn-site.xml
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档