前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Hadoop基础教程-第3章 HDFS:分布式文件系统(3.3 HDFS参数解读)

Hadoop基础教程-第3章 HDFS:分布式文件系统(3.3 HDFS参数解读)

作者头像
程裕强
发布2022-05-06 18:32:31
1730
发布2022-05-06 18:32:31
举报

第3章 HDFS:分布式文件系统

3.3 HDFS参数解读

3.3.1 官方文档

Hadoop官方文档地址: http://hadoop.apache.org/docs/r2.7.3/

由于Hadoop相关参数页面需要通过FireFox浏览器打开,这里需要你先安装FireFox浏览器。

这里写图片描述
这里写图片描述

下拉页面,可以在页面左下角找到“Configuration”,其下面有core-site.xml、hdfs-site.xml两个链接。本节内容主要是解读一下这两个文件中的主要参数。

这里写图片描述
这里写图片描述

2017-5-25 更新: 现在官方已经能更新谷歌浏览器也可以打开默认参数页面了

这里写图片描述
这里写图片描述

3.3.2 core-site.xml

集群全局参数在core-site.xml文件中设置,用于定义系统级别的参数,如HDFS URL、Hadoop的临时目录等。 通过FireFox打开“Configuration”的“core-site.xml”链接: http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-common/core-default.xml

这里写图片描述
这里写图片描述

名称

默认值

说明

hadoop.tmp.dir

/tmp/hadoop-${user.name}

临时文件夹

fs.defaultFS

file:///

文件系统主机和端口

io.file.buffer.size

4096

流文件的缓冲区大小,建议设置为65536 ( 64K)

3.3.3 hdfs-site.xml

HDFS相关参数在hdfs-site.xml文件中设置,如名称节点和数据节点的存放位置、文件副本的个数、文件读取权限等。 通过FireFox打开“Configuration”的“hdfs-site.xml”链接: http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

这里写图片描述
这里写图片描述

名称

默认值

说明

dfs.name.dir

${hadoop.tmp.dir}/dfs/name

NameNode 元数据存放位置

dfs.data.dir

${hadoop.tmp.dir}/dfs/data

DataNode在本地磁盘存放block的位置,可以是以逗号分隔的目录列表

dfs.permissions

true

检查权限

dfs.replication

3

文件副本数

dfs.namenode.secondary.http-address

0.0.0.0:50090

定义HDFS对应的HTTP服务器地址和端口

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2017-05-14,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 第3章 HDFS:分布式文件系统
    • 3.3 HDFS参数解读
      • 3.3.1 官方文档
      • 3.3.2 core-site.xml
      • 3.3.3 hdfs-site.xml
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档