学习
实践
活动
专区
工具
TVP
写文章
专栏首页行者悟空Hadoop 2.x 伪分布式环境搭建

Hadoop 2.x 伪分布式环境搭建

摘 要

体验一下Hadoop2.x版本在单机环境下是如何安装配置。

系统环境

  • 操作系统:centos 6.5 x64
  • hadoop版本:2.7.0
  • jdk 1.7

上传hadoop安装包

上传完毕后,为了方便操作,在系统根目录下创建/itunic目录,代码如下:

  1. mkdir /itunic

将hadoop解压到itunic目录下

  1. tar  -zxvf  hadoop.2.7.0.tar.gz -C /itunic

配置hadoop

注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop

伪分布式需要修改5个配置文件

1、hadoop-env.sh

打开文件

  1. vi hadoop-env.sh

配置jdk所在的位置

  1. #第27行
  2. export JAVA_HOME=/usr/java/jdk1.7.0_79
2、core-site.xml
<!--指定fs的默认名称-->
 <property>
 <name>fs.default.name</name>
 <value>hdfs://itunic:9000</value>
 </property>
 <!-- 指定HDFS的老大(NameNode)的地址 -->
 <property>
 <name>fs.defaultFS</name>
 <value>hdfs://itunic:9000</value>
 </property>
 <!-- 指定hadoop运行时产生文件的存储目录 -->
 <property>
 <name>hadoop.tmp.dir</name>
 <value>/itunic/hadoop-2.7.0/tmp</value>
 </property>
3、hdfs-site.xml
<!-- 指定HDFS副本的数量 -->
 <property>
 <name>dfs.replication</name>
 <value>1</value>
 </property>
4、mapred-site.xml

我们发现目录下并没有mapred-site.xml,只看到了一个类似的 mapred-site.xml.template模板文件,没错,我们需要将模板文件重命名为mapred-site.xml,这样的话就可以正常的配置了。具体操作如下:

#copy文件mapred-site.xml.template 将其命名为mapred-site.xml
mv mapred-site.xml.template mapred-site.xml
#编辑mapred-site.xml
vi mapred-site.xml
<!-- 指定mr运行在yarn上 -->
 <property>
 <name>mapreduce.framework.name</name>
 <value>yarn</value>
 </property>
5、 yarn-site.xml
<!-- 指定YARN的老大(ResourceManager)的地址 -->
 <property>
 <name>yarn.resourcemanager.hostname</name>
 <value>itunic</value>
 </property>
 <!-- reducer获取数据的方式 -->
 <property>
 <name>yarn.nodemanager.aux-services</name>
 <value>mapreduce_shuffle</value>
 </property>

将Hadoop配置到系统的环境变量中

vi /etc/profile
#内容如下:
JAVA_HOME=/usr/java/jdk1.7.0_79
HADOOP_HOME=/itunic/hadoop-2.4.1
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

#让配置生效:
source /etc/profile

格式化namenode

#两种方式,选其一即可
hadoop namenode -format
hdfs namenode -format

启动及验证

到了这一步,hadoop伪分布式环境已经配置完成,接下来我们需要把hadoop启动起来。

#先启动HDFS
sbin/start-dfs.sh
#再启动YARN
sbin/start-yarn.sh

验证是否启动成功

#使用jps命令验证
27208 NameNode
28318 Jps
22343 SecondaryNameNode
21266 NodeManager
23303 ResourceManager
21212 DataNode

浏览器访问

http://192.168.10.1:50070 (HDFS管理界面)

http://192.168.10.1:8088 (MR管理界面)

相关

想了解Hadoop是什么请点击Hadoop简介

Hadoop下载

本文参与 腾讯云自媒体分享计划 ,欢迎热爱写作的你一起参与!
本文分享自作者个人站点/博客:https://itunic.com复制
如有侵权,请联系 cloudcommunity@tencent.com 删除。
登录 后参与评论
0 条评论

相关文章

  • Hadoop 伪分布式环境搭建

    一份执着✘
  • hadoop伪分布式环境搭建

      由于博主之前没有从事过hadoop相关的开发工作,最近正好遇到一个hadoop相关的项目,于是决定自学研究一下,博主整理的东西绝对是最全最详细的,不要问为什...

    会说话的丶猫
  • 搭建Hadoop伪分布式环境

    安装SSH: sudo yum install opensh-clients openssh-server 安装完成后,可以使用下面命令进行测试: ssh...

    林清猫耳
  • Hadoop 2.7 伪分布式环境搭建

    1、安装环境 ①、一台Linux CentOS6.7 系统   hostname                ipaddress              ...

    IT可乐
  • 【Hadoop】Hadoop 2.x 完全分布式环境搭建

    版权声明:本文为博主原创文章,转载请注明出处。 https://blog.csdn.net/...

    魏晓蕾
  • Hadoop2.5.0伪分布式环境搭建

    本章主要介绍下在Linux系统下的Hadoop2.5.0伪分布式环境搭建步骤。首先要搭建Hadoop伪分布式环境,需要完成一些前置依赖工作,包括创建用户、安装J...

    星哥玩云
  • 【一】、搭建Hadoop环境----本地、伪分布式

        1.搭建Hadoop环境需要Java的开发环境,所以需要先在LInux上安装java

    梅花
  • hadoop-3.2.0------>入门四 伪分布式环境搭建一:伪分布式环境概念二:环境搭建

    伪分布式和分布式区别:伪分布式配置文件完全按照分布式配置文件配置,只不过所有东西配置在一台服务器上。

    用户5899361
  • Hadoop伪分布式搭建

    用户1432189
  • Hadoop伪分布式搭建

    姜同学
  • Hadoop伪分布式集群搭建

    CoderJed
  • 【Hadoop】Hadoop 2.x 和 Hadoop 3.x 完全分布式环境搭建

    克隆虚拟机前需要关闭所有正在运行的服务进程,然后关闭系统。克隆需要选择完整克隆。 克隆出两台虚拟机,共三台。 克隆后需要修改配置: (1)修改/etc/s...

    魏晓蕾
  • 从零开始搭建大数据平台系列之(2.1)—— Apache Hadoop 2.x 伪分布式环境搭建

    版权声明:本文为博主原创文章,转载请注明出处。 https://blog.csdn.net/...

    魏晓蕾
  • 大数据入门:Hadoop伪分布式集群环境搭建教程

    在大数据的学习过程中,对于集群的掌握,从理论到实操都是要熟练的。然而很多小伙伴在学习之初,往往遇到这样那样的问题。今天我们就从大数据入门的角度,来分享一份Had...

    成都加米谷大数据
  • Hadoop(二)搭建伪分布式集群

      前面只是大概介绍了一下Hadoop,现在就开始搭建集群了。我们下尝试一下搭建一个最简单的集群。之后为什么要这样搭建会慢慢的分享,先要看一下效果吧!

    大道七哥
  • 如何搭建Hadoop伪分布式集群?

    如何搭建Hadoop伪分布式集群,本文将详细介绍。

    挖掘大数据
  • Hadoop(二)搭建伪分布式集群

    前言   前面只是大概介绍了一下Hadoop,现在就开始搭建集群了。我们下尝试一下搭建一个最简单的集群。之后为什么要这样搭建会慢慢的分享,先要看一下效果吧! 一...

    用户1195962
  • Hadoop伪分布式环境搭建之Linux操作系统安装

    本篇文章是接上一篇《超详细hadoop虚拟机安装教程(附图文步骤)》,上一篇有人问怎么没写hadoop安装。在文章开头就已经说明了,hadoop安装会在后面写到...

    用户3392176
  • Spark之伪分布式搭建、伪分布式Hadoop、Hive安装

        之后进入$SPARK_HOME/sbin下,执行start-all.sh,可以看下是否启动成功,之后去看localhost:8080,可以看到spark...

    克虏伯

扫码关注腾讯云开发者

领取腾讯云代金券