Hadoop 2.x 伪分布式环境搭建

摘 要

体验一下Hadoop2.x版本在单机环境下是如何安装配置。

系统环境

  • 操作系统:centos 6.5 x64
  • hadoop版本:2.7.0
  • jdk 1.7

上传hadoop安装包

上传完毕后,为了方便操作,在系统根目录下创建/itunic目录,代码如下:

  1. mkdir /itunic

将hadoop解压到itunic目录下

  1. tar  -zxvf  hadoop.2.7.0.tar.gz -C /itunic

配置hadoop

注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop

伪分布式需要修改5个配置文件

1、hadoop-env.sh

打开文件

  1. vi hadoop-env.sh

配置jdk所在的位置

  1. #第27行
  2. export JAVA_HOME=/usr/java/jdk1.7.0_79
2、core-site.xml
<!--指定fs的默认名称-->
 <property>
 <name>fs.default.name</name>
 <value>hdfs://itunic:9000</value>
 </property>
 <!-- 指定HDFS的老大(NameNode)的地址 -->
 <property>
 <name>fs.defaultFS</name>
 <value>hdfs://itunic:9000</value>
 </property>
 <!-- 指定hadoop运行时产生文件的存储目录 -->
 <property>
 <name>hadoop.tmp.dir</name>
 <value>/itunic/hadoop-2.7.0/tmp</value>
 </property>
3、hdfs-site.xml
<!-- 指定HDFS副本的数量 -->
 <property>
 <name>dfs.replication</name>
 <value>1</value>
 </property>
4、mapred-site.xml

我们发现目录下并没有mapred-site.xml,只看到了一个类似的 mapred-site.xml.template模板文件,没错,我们需要将模板文件重命名为mapred-site.xml,这样的话就可以正常的配置了。具体操作如下:

#copy文件mapred-site.xml.template 将其命名为mapred-site.xml
mv mapred-site.xml.template mapred-site.xml
#编辑mapred-site.xml
vi mapred-site.xml
<!-- 指定mr运行在yarn上 -->
 <property>
 <name>mapreduce.framework.name</name>
 <value>yarn</value>
 </property>
5、 yarn-site.xml
<!-- 指定YARN的老大(ResourceManager)的地址 -->
 <property>
 <name>yarn.resourcemanager.hostname</name>
 <value>itunic</value>
 </property>
 <!-- reducer获取数据的方式 -->
 <property>
 <name>yarn.nodemanager.aux-services</name>
 <value>mapreduce_shuffle</value>
 </property>

将Hadoop配置到系统的环境变量中

vi /etc/profile
#内容如下:
JAVA_HOME=/usr/java/jdk1.7.0_79
HADOOP_HOME=/itunic/hadoop-2.4.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

#让配置生效:
source /etc/profile

格式化namenode

#两种方式,选其一即可
hadoop namenode -format
hdfs namenode -format

启动及验证

到了这一步,hadoop伪分布式环境已经配置完成,接下来我们需要把hadoop启动起来。

#先启动HDFS
sbin/start-dfs.sh
#再启动YARN
sbin/start-yarn.sh

验证是否启动成功

#使用jps命令验证
27208 NameNode
28318 Jps
22343 SecondaryNameNode
21266 NodeManager
23303 ResourceManager
21212 DataNode

浏览器访问

http://192.168.10.1:50070 (HDFS管理界面)

http://192.168.10.1:8088 (MR管理界面)

相关

想了解Hadoop是什么请点击Hadoop简介

Hadoop下载

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏张善友的专栏

Silverlight + Model-View-ViewModel (MVVM)

     早在2005年,John Gossman写了一篇关于Model-View-ViewModel模式的博文,这种模式被他所在的微软的项目组用来创建Expr...

3008
来自专栏我和未来有约会

Silverlight第三方控件专题

这里我收集整理了目前网上silverlight第三方控件的专题,若果有所遗漏请告知我一下。 名称 简介 截图 telerik 商 RadC...

4055
来自专栏张善友的专栏

Miguel de Icaza 细说 Mix 07大会上的Silverlight和DLR

Mono之父Miguel de Icaza 详细报道微软Mix 07大会上的Silverlight和DLR ,上面还谈到了Mono and Silverligh...

2727
来自专栏张善友的专栏

LINQ via C# 系列文章

LINQ via C# Recently I am giving a series of talk on LINQ. the name “LINQ via C...

2675
来自专栏张善友的专栏

Mix 10 上的asp.net mvc 2的相关Session

Beyond File | New Company: From Cheesy Sample to Social Platform Scott Hansel...

2627
来自专栏一个爱瞎折腾的程序猿

sqlserver使用存储过程跟踪SQL

USE [master] GO /****** Object: StoredProcedure [dbo].[sp_perfworkload_trace_s...

2110
来自专栏闻道于事

js登录滑动验证,不滑动无法登陆

js的判断这里是根据滑块的位置进行判断,应该是用一个flag判断 <%@ page language="java" contentType="text/html...

7068
来自专栏pangguoming

Spring Boot集成JasperReports生成PDF文档

由于工作需要,要实现后端根据模板动态填充数据生成PDF文档,通过技术选型,使用Ireport5.6来设计模板,结合JasperReports5.6工具库来调用渲...

1.2K7
来自专栏一个会写诗的程序员的博客

Spring Reactor 项目核心库Reactor Core

Non-Blocking Reactive Streams Foundation for the JVM both implementing a Reactiv...

2232
来自专栏java 成神之路

使用 NIO 实现 echo 服务器

4787

扫码关注云+社区