前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >HDFS常用Shell命令

HDFS常用Shell命令

作者头像
栗筝i
发布2022-12-01 08:49:36
5830
发布2022-12-01 08:49:36
举报
文章被收录于专栏:迁移内容

1、-ls: 显示目录信息

代码语言:javascript
复制
hadoop fs -ls /

2、-mkdir:在HDFS上创建目录

代码语言:javascript
复制
hadoop fs -mkdir -p /demo/test

3、-moveFromLocal:从本地剪切粘贴到HDFS

代码语言:javascript
复制
hadoop fs  -moveFromLocal  a.txt  /demo/test/a.txt

4、-appendToFile:追加一个文件到已经存在的文件末尾

代码语言:javascript
复制
hadoop fs -appendToFile b.txt /demo/test/b.txt

5、-cat:显示文件内容

代码语言:javascript
复制
hadoop fs -cat /demo/test/b.txt

6、-chgrp 、-chmod、-chown:Linux文件系统中的用法一样,修改文件所属权限

代码语言:javascript
复制
hadoop fs  -chmod  777  /demo/test/b.txt

7、copyFromLocal:从本地文件系统中拷贝文件到HDFS路径去

代码语言:javascript
复制
hadoop fs -copyFromLocal b.txt /demo/test/b.txt

8、-copyToLocal:从HDFS拷贝到本地

代码语言:javascript
复制
hadoop fs -copyToLocal /demo/test/b.txt /address

9、从HDFS的一个路径拷贝到HDFS的另一个路径

代码语言:javascript
复制
hadoop fs -cp /demo/test/b.txt /demo/test2/b.txt

10、-mv:在HDFS目录中移动文件

代码语言:javascript
复制
hadoop fs -mv /demo/test/b.txt /demo/test2/b.txt

11、-get:等同于copyToLocal,就是从HDFS下载文件到本地

代码语言:javascript
复制
hadoop fs -get /demo/test/b.txt /address

12、-getmerge:合并下载多个文件,比如HDFS的目录 /user/atguigu/test下有多个文件:log.1, log.2,log.3,…

代码语言:javascript
复制
 hadoop fs -getmerge /user/test/* /address

13、-put:等同于copyFromLocal

代码语言:javascript
复制
hadoop fs -put ./zaiyiqi.txt /user/atguigu/test/

14、-tail:显示一个文件的末尾

代码语言:javascript
复制
hadoop fs -tail /demo/test2/b.txt

15、-rm:删除文件或文件夹

代码语言:javascript
复制
 hadoop fs -rm /demo/test2/b.txt

16、-rmdir:删除空目录

代码语言:javascript
复制
hadoop fs -mkdir /test

17、-du统计文件夹的大小信息

代码语言:javascript
复制
hadoop fs -du -s -h /user/atguigu/test
2.7 K  /user/atguigu/test

hadoop fs -du  -h /user/atguigu/test
1.3 K  /user/atguigu/test/README.txt
15     /user/atguigu/test/jinlian.txt
1.4 K  /user/atguigu/test/zaiyiqi.txt

18、-setrep:设置HDFS中文件的副本数量

代码语言:javascript
复制
 hadoop fs -setrep 10 /demo/test2/b.txt

这里设置的副本数只是记录在NameNode的元数据中,是否真的会有这么多副本,还得看DataNode的数量。副本数达到相应数量的前提是设备数达到相应的数量。

19、-help:输出这个命令参数

代码语言:javascript
复制
 hadoop fs -help rm
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2020-06-25,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档