前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Hadoop2.x linux&mac下分布式安装部署

Hadoop2.x linux&mac下分布式安装部署

作者头像
Meet相识
发布2018-09-12 16:18:04
3850
发布2018-09-12 16:18:04
举报
文章被收录于专栏:技术专栏技术专栏
代码语言:javascript
复制
mkdir -p /opt/modules //安装目录
tar -zxf hadoop-2.5.0.tar.gz -C /opt/modules  //解压
rm -rf /opt/modules/hadoop-2.5.0/share/doc //删除文档,占用空间
rm /opt/modules/hadoop-2.5.0/etc/hadoop/*.cmd 删除windows执行文件
cd /opt/modules/hadoop-2.5.0/etc/hadoop
  • 配置hadoop.evn.sh
代码语言:javascript
复制
export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_91.jdk/Contents/Home   //配置java环境
  • 配置/etc/host
代码语言:javascript
复制
在 /etc/host 加上
127.0.0.1   bigdata-msenior01.kfk.com
  • 配置core-site.xml
代码语言:javascript
复制
先执行 mkdir /data/tmp 创建存储路径
然后修改core-site
<configuration>  
   <!--配置域名和端口-->
     <property>
        <name>fs.defaultFS</name>
        <value>hdfs://bigdata-msenior01.kfk.com:9000</value>
    </property>
     <property>
   <!--配置存储路径-->
         <name>hadoop.tmp.dir</name>
         <value>/Users/gaowenfeng/opt/modules/hadoop-2.5.0/data/tmp</value>
    </property>
</configuration>

详情请参考 http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-common/SingleCluster.html http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-common/core-default.xml

  • 配置hdfs-site.xml
代码语言:javascript
复制
<configuration>
   <!--配置副本数-->
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
   <!--配置默认不进行权限校验-->
    <property>
        <name>dfs.permissions.enabled</name>
        <value>false</value>
    </property>
</configuration>

详情请参考 http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-common/SingleCluster.html http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-common/hdfs-default.xml

  • 配置slaves
代码语言:javascript
复制
修改localhost为 bigdata-msenior01.kfk.com
  • 系统的 format
代码语言:javascript
复制
cd /opt/modules/hadoop2.5.0/  && bin/hdfs namenode -format
  • 启动
代码语言:javascript
复制
cd /opt/modules/hadoop2.5.0/ && sbin/hadoop-daemon.sh start namenode
cd /opt/modules/hadoop2.5.0/ && sbin/hadoop-daemon.sh start datanode
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2017.10.29 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档