前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >MapReduce工作笔记——Hadoop shell 常用文件操作命令

MapReduce工作笔记——Hadoop shell 常用文件操作命令

作者头像
莫斯
发布2020-09-10 10:34:14
4290
发布2020-09-10 10:34:14
举报
文章被收录于专栏:备份

0. 文件操作基本格式

代码语言:javascript
复制
hadoop fs [generic options]

1. ls

列出当前目录下的文件以及文件夹,类似于UNIX/Linux 中的ls, 但是hadoop 中没有ll方法。 使用方法:

代码语言:javascript
复制
hadoop fs -ls <args> 
#  <args> 指的是要列出的文件路径

2. put

将本地文件上传至HDFS 使用方法:

代码语言:javascript
复制
hadoop fs -put <localsrc>  <dst>

3. get

复制HDFS文件到本地文件系统 使用方法:

代码语言:javascript
复制
hadoop fs -get  <src> <localdst>

4. rm

删除HDFS文件 使用方法:

代码语言:javascript
复制
hadoop fs -rm <dst>

5. rmr

递归删除 使用方法:

代码语言:javascript
复制
hadoop fs -rmr <dst>

6. mkdir

创建文件 使用方法:

代码语言:javascript
复制
 hadoop fs -mkdir <paths> 

7. cp

将文件从源路径复制到目标路径。这个命令允许有多个源路径,此时目标路径必须是一个目录。 但是如果目标已存在,会报错 使用方法:

代码语言:javascript
复制
hadoop fs -cp <path1> <path2>

8. mv

将文件从源路径移动到目标路径。这个命令允许有多个源路径,此时目标路径必须是一个目录。不允许在不同的文件系统间移动文件。 使用方法:

代码语言:javascript
复制
hadoop fs -mv <path1> <path2>

9. du

显示目录中所有文件的大小,或者当只指定一个文件时,显示此文件的大小。 使用方法:

代码语言:javascript
复制
hadoop fs -du <path>

一般为了更加直观,使用如下命令:

代码语言:javascript
复制
hadoop fs -du -h <path>

10. text

将源文件输出为文本格式。允许的格式是zip和TextRecordInputStream。 使用方法:

代码语言:javascript
复制
hadoop fs -text <src> 

11. test

使用方法:

代码语言:javascript
复制
使用方法:hadoop fs -test -[ezd] <path>

其中可选参数:

代码语言:javascript
复制
-e 检查文件是否存在。如果存在则返回0。
-z 检查文件是否是0字节。如果是则返回0。 
-d 如果路径是个目录,则返回1,否则返回0。

12. tail

将文件尾部1K字节的内容输出到stdout。 使用方法:

代码语言:javascript
复制
hadoop fs -tail [-f] URI

参考

Hadoop Shell命令 官方

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2018/11/28 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 0. 文件操作基本格式
  • 1. ls
  • 2. put
  • 3. get
  • 4. rm
  • 5. rmr
  • 6. mkdir
  • 7. cp
  • 8. mv
  • 9. du
  • 10. text
  • 11. test
  • 12. tail
  • 参考
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档