大数据基础学习五：Hadoop 实验——熟悉常用的 HDFS 操作
大数据基础学习五：Hadoop 实验——熟悉常用的 HDFS 操作
文章目录
- 前言
- 一、实验目的
- 二、实验平台
- 三、实验内容和要求
- 3.1、目录操作
- 3.1.1、创建用户目录
- 3.1.2、显示 HDFS 中与当前用户对应的目录内容
- 3.1.3、列出 HDFS 上的所有目录
- 3.1.4、用户目录下创建一个 input 目录
- 3.1.5、根目录下创建 input 的目录
- 3.1.6、删除子目录
- 3.2、文件操作
- 3.2.1、向 HDFS 中上传任意文本文件
- 3.2.2、从 HDFS 中下载指定文件
- 3.2.3、输出 HDFS 指定文件到终端中
- 3.2.4、显示 HDFS 中指定的文件信息
- 3.2.5、输出 HDFS 指定目录下文件信息
- 3.2.6、指定路径创建和删除文件
- 3.2.7、指定路径创建和删除目录
- 3.2.8、向 HDFS 中指定的文件追加内容
- 3.2.9、删除 HDFS 中指定的文件
- 3.2.10、删除 HDFS 中指定的目录
- 3.2.11、将文件从源路径移动到目的路径
- 3.1、目录操作
- 总结
前言
本篇文章《大数据基础学习五：Hadoop 实验——熟悉常用的 HDFS 操作》是完全针对HDFS文件系统的，目的即理解 HDFS 在 Hadoop 体系结构中的角色，熟练使用 HDFS 操作常用的 Shell 命令，熟悉 HDFS 操作常用的 Java API。大数据系列文章请移步本人大数据专栏查看。
一、实验目的
- 理解 HDFS 在 Hadoop 体系结构中的角色；
- 熟练使用 HDFS 操作常用的 Shell 命令；
- 熟悉 HDFS 操作常用的 Java API。
二、实验平台
- 操作系统：Linux
- Hadoop版本：Hadoop-3.2.1
- JDK版本：java-8-openjdk-amd64
- Java IDE：Eclipse
三、实验内容和要求
3.1、目录操作
Hadoop 系统安装好之后，第一次使用 HDFS 时，在初始化并启动之后，首先需要在 HDFS 中创建用户目录。
3.1.1、创建用户目录
本次实验全部采用 bailu 用户登录 Linux 系统，故在 HDFS 中为 bailu 用户创建用户目录。命令如下：
cd /usr/local/hadoop/hadoop-3.2.1
./bin/hdfs dfs -mkdir -p /user/bailu截图如下：
说明：该命令表示在 HDFS 中创建一个 /user/bailu 的目录。
- -mkdir 是创建目录的操作。
- -p 表示如果是多级目录，则父目录和子目录一起创建。
这里 /user/bailu 就是一个多级目录，因此必须使用参数 -p，否则会出错。
3.1.2、显示 HDFS 中与当前用户对应的目录内容
/user/bailu 目录就成为 bailu 用户对应的用户目录。
可以使用如下命令显示 HDFS 中与当前 bailu 对应的用户目录下的内容：
./bin/hdfs dfs -ls .说明：
- -ls表示列出HDFS某个目录下的所有内容。
- .表示HDFS中当前用户目录，也就是 /user/bailu 目录。
等价于：
./bin/hdfs dfs -ls /user/bailu3.1.3、列出 HDFS 上的所有目录
如果要列出 HDFS 上的所有目录，可以使用如下命令：
./bin/hdfs dfs -ls3.1.4、用户目录下创建一个 input 目录
在 bailu 用户下创建一个input目录，命令如下：
./bin/hdfs dfs -mkdir input截图如下：
在创建 input 目录时，采用了相对路径形式，实际上 input 目录创建成功后，它在 HDFS 中的完整路径是 /user/bailu/input。
3.1.5、根目录下创建 input 的目录
如果要在 HDFS 的根目录下创建一个名为 input 的目录，则需要以下命令：
./bin/hdfs dfs -mkdir /input3.1.6、删除子目录
可以使用 rm 命令删除刚才在 HDFS 中创建的 /input 目录（不是 /user/bailu/input 目录）：
./bin/hdfs dfs -rm -r /input- -r 参数表示如果删除 /input 目录及其子目录下的所有内容，如果要删除的目录包含了子目录，则必须使用 -r 参数，否则会执行失败。
3.2、文件操作
首先使用 gedit 编辑器，在本地 Linux 文件系统的 /home/bailu/ 目录下创建一个文件 myLocalFile.txt，里面随意输入一些单词，如下：
利用 Hadoop 提供的 Shell 命令完成相同任务。
3.2.1、向 HDFS 中上传任意文本文件
向 HDFS 中上传任意文本文件，如果指定的文件在 HDFS 中已经存在，由用户指定是追加到原有文件末尾还是覆盖原有的文件，命令如下：
./bin/hdfs dfs -put /home/bailu/myLocalFile.txt input截图如下：
3.2.2、从 HDFS 中下载指定文件
从 HDFS 中下载指定文件，如果本地文件与要下载的文件名称相同，则自动对下载的文件重命名，命令如下：
./bin/hdfs dfs -get input/myLocalFile.txt /home/bailu/下载截图如下：
3.2.3、输出 HDFS 指定文件到终端中
将 HDFS 中指定文件的内容输出到终端中，命令如下：
./bin/hdfs dfs -cat input/myLocalFile.txt截图如下：
3.2.4、显示 HDFS 中指定的文件信息
显示 HDFS 中指定的文件的读写权限、大小、创建时间、路径等信息，命令如下：
./bin/hdfs dfs -ls input/myLocalFile.txt截图如下：
3.2.5、输出 HDFS 指定目录下文件信息
给定 HDFS 中某一个目录，输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息，如果该文件是目录，则递归输出该目录下所有文件相关信息，命令如下：
./bin/hdfs dfs -ls input截图如下：
3.2.6、指定路径创建和删除文件
提供一个 HDFS 内的文件的路径，对该文件进行创建和删除操作。如果文件所在目录不存在，则自动创建目录（以操作 empty.txt 文件为例），命令如下：
./bin/hdfs dfs -touchz empty.txt截图如下：
./bin/hdfs dfs -rm empty.txt截图如下：
3.2.7、指定路径创建和删除目录
提供一个 HDFS 的目录的路径，对该目录进行创建和删除操作。创建目录时，如果目录文件所在目录不存在则自动创建相应目录；删除目录时，由用户指定当该目录不为空时是否还删除该目录（以操作 empty 文件夹为例），命令如下：
./bin/hdfs dfs -mkdir empty截图如下：
./bin/hdfs dfs -rm -r empty截图如下：
3.2.8、向 HDFS 中指定的文件追加内容
向HDFS中指定的文件追加内容，由用户指定内容追加到原有文件的开头或结尾。
先在本地 /home/bailu 下创建 test.txt 文件，并添加内容如下：
将 test.txt 文件上传至 HDFS 文件系统 /user/bailu/input 目录下：
追加 test.txt 文件至 myLocalFile.txt 文件后命令如下：
./bin/hdfs dfs -appendToFile test.txt input/myLocalFile.txt截图如下：
3.2.9、删除 HDFS 中指定的文件
命令如下：
./bin/hdfs dfs -rm input/test.txt截图如下：
3.2.10、删除 HDFS 中指定的目录
删除 HDFS 中指定的目录，由用户指定目录中如果存在文件时是否删除目录（以操作 empty 目录为例），命令如下：
./bin/hdfs dfs -mkdir empty./bin/hdfs dfs -rm -r empty截图如下：
3.2.11、将文件从源路径移动到目的路径
在 HDFS 中，将文件从源路径移动到目的路径（以把 input 下的 myLocalFile.txt 文件移动到 empty 文件夹为例），命令如下：
./bin/hdfs dfs -mv input/myLocalFile.txt empty截图如下：
总结
本文通过使用 HDFS 文件系统对目录和文件两大结构类型进行了增删改查的基本操作，帮助初学者进一步巩固 HDFS 的实验操作，为之后的学习奠定基础。初学者可能会觉得甚是繁琐，命令比较多，熟能生巧即可。
我是白鹿，一个不懈奋斗的程序猿。望本文能对你有所裨益，欢迎大家的一键三连！若有其他问题、建议或者补充可以留言在文章下方，感谢大家的支持！