前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Win10安装Hadoop3.0.0(大数据入门必经之路)

Win10安装Hadoop3.0.0(大数据入门必经之路)

作者头像
静谧星空TEL
发布2022-05-10 14:48:03
7660
发布2022-05-10 14:48:03
举报

目录

一、环境准备

二、配置环境变量

三、配置Hadoop

四、初始化Hadoop

五、访问Hadoop

六、注意事项

一、环境准备

1、hadoop3.0.0下载

下载地址:Index of /dist/hadoop/core/hadoop-3.0.0 下载文件:hadoop-3.0.0.tar.gz

2、winutils工具下载

下载地址:GitHub - steveloughran/winutils: Windows binaries for Hadoop versions (built from the git commit ID used for the ASF relase) 下载文件:hadoop-3.0.0/bin

二、配置环境变量

1、解压安装包到:D:\Hadoop\HDFS\hadoop-3.0.0

2、将hadoop-3.0.0/bin文件复制一份,改名为hadoop-3.0.0/bin.template

3、将下载的 hadoop-3.0.0/bin 文件复制到 D:\Hadoop\HDFS\hadoop-3.0.0目录下

4、添加HADOOP_HOME环境变量

变量名:HADOOP_HOME 变量值:D:\Hadoop\HDFS\hadoop-3.0.0

5、系统变量path中添加HADOOP_HOME下的bin和sbin目录

%HADOOP_HOME%\bin %HADOOP_HOME%\sbin

三、配置Hadoop

hadoop-env.cmd 

代码语言:javascript
复制
@set JAVA_HOME=%JAVA_HOME%
set JAVA_HOME=C:\PROGRA~1\Java\jdk1.8

core-site.xml

代码语言:javascript
复制
<configuration> 
  <property> 
    <name>fs.defaultFS</name>  
    <value>hdfs://localhost:9000</value> 
  </property> 
</configuration>

hdfs-site.xml

代码语言:javascript
复制
<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value> 
  </property>
  <property>
    <name>dfs.permissions</name>
    <value>false</value>
  </property>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>/G:/hadoop/data/dfs/namenode</value>
  </property>
  <property>
    <name>dfs.datanode.data.dir</name>
    <value>/G:/hadoop/data/dfs/datanode</value>
  </property>
  <property>
    <name>fs.checkpoint.dir</name>
    <value>/G:/hadoop/data/dfs/snn</value>
  </property>
  <property>
    <name>fs.checkpoint.edits.dir</name>
    <value>/G:/hadoop/data/dfs/snn</value>
  </property>
</configuration>

yarn-site.xml

代码语言:javascript
复制
<configuration> 
  <property> 
    <name>yarn.nodemanager.aux-services</name>  
    <value>mapreduce_shuffle</value> 
  </property>  
  <property> 
    <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>  
    <value>org.apache.hadoop.mapred.ShuffleHandler</value> 
  </property> 
</configuration>

mapred-site.xml

代码语言:javascript
复制
<configuration> 
  <property> 
    <name>mapreduce.framework.name</name>  
    <value>yarn</value> 
  </property> 
</configuration>

四、初始化Hadoop

格式化NameNode

代码语言:javascript
复制
hdfs namenode -format

启动Hadoop服务

代码语言:javascript
复制
start-all

启动之后弹出四个窗口,如果窗口没有自动关闭或者自动停止则初始化成功

五、访问Hadoop

yarn:http://127.0.0.1:8088/cluster

hdfs:http://localhost:9870/explorer.html#/

六、注意事项

1、JAVA_HOME设置,PROGRA~1 代表的是 Program Files 目录

set JAVA_HOME=C:\PROGRA~1\Java\jdk1.8

2、这里的安装路径是在 D:\Hadoop\HDFS\hadoop-3.0.0 

3、这里配置的HDFS的本地数据存储目录是在 G:\hadoop\data\dfs

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2020-05-05,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、环境准备
  • 二、配置环境变量
  • 三、配置Hadoop
  • 四、初始化Hadoop
  • 五、访问Hadoop
  • 六、注意事项
相关产品与服务
数据保险箱
数据保险箱(Cloud Data Coffer Service,CDCS)为您提供更高安全系数的企业核心数据存储服务。您可以通过自定义过期天数的方法删除数据,避免误删带来的损害,还可以将数据跨地域存储,防止一些不可抗因素导致的数据丢失。数据保险箱支持通过控制台、API 等多样化方式快速简单接入,实现海量数据的存储管理。您可以使用数据保险箱对文件数据进行上传、下载,最终实现数据的安全存储和提取。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档