部分常用操作hadoop的shell命令

本文详细介绍了HadoopFS命令的使用方法,包括查询分布式和本地文件系统,创建目录,上传和下载文件,追加文件内容,查看文件,改变副本系数等操作。并提供了常用选项的解释和示例。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

  • 查询分布式文件系统根目录hadoop fs -ls hdfs://ip:9000/
  • 若已在配置文件中默认为hdfs,上一条还可写为hadoop fs -ls /
  • 查询本地文件系统根目录hadoop fs file:///
  • 查询hadoop fs -ls [-h] [-R] 具体文件路径
    [-h] 表示显示文件时文件大小会带上具体单位,比如kb。
    [-R] 表示递归显示,比如文件夹中还有文件夹,也会显示。
  • 在hdfs上创建目录hadoop fs -mkdir [-p] 路径
    [-p] 表示如果路径中没有某个文件夹就会自动创建。
    例:hadoop fs -mkdir -p /user/hadoop/1.txt
  • 把linux系统上的本地文件上传到hdfshadoop fs -put [-f] 本地linux文件路径 hdfs文件路径
    [-f] 若目的路径存在同样文件,则覆盖,否则出错。
    例:hadoop fs -put -f file1 file2 /user(把file1,file2上传到hdfs系统上的/user下)
  • 从hdfs系统上下载文件到本地linux文件系统:hadoop fs -get [-f] hdfs上的文件 本地目录
  • 把本地linux系统文件内容追加到hdfs上的文件后面hadoop fs -appendToFile 本地文件 hdfs文件
  • 查看文件hadoop fs -cat 文件
  • 查看文件最后一千个字节:hadoop fs -tail 文件
  • 改变一个文件的副本系数: 例如:hadoop fs -setrep -w 3 -R /user/dir表示把dir文件以及dir目录以下的文件的副本数改为3
  • 其他:与linux类似,只需在前面加hadoop fs,如:hadoop fs -cp ,-mv, -rm …。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值