hadoop fs 常用命令

本文详细介绍HDFS系统中各种实用操作命令,包括目录结构查询、样本数据抽取、文本行数统计、文件大小查看等,帮助读者掌握HDFS文件系统管理技巧。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

查询hdfs系统的目录结构:
hadoop fs -ls /test/gonganbu/scene_analysis_suggestion/*

随机返回指定行数的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | shuf -n 5

返回前几行的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | head -100

返回最后几行的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | tail -5

查看文本行数
hadoop fs -cat hdfs://172.16.0.226:8020/test/sys_dict/sysdict_case_type.csv |wc -l

查看文件大小(单位byte)
hadoop fs -du hdfs://172.16.0.226:8020/test/sys_dict/* 返回文件大小(单位为byte)

hadoop fs -du -h /t_user/my_hive_db/my_hive_table_test01 返回文件大小(单位为可为K\M\G反正保留一位小数)
在这里插入图片描述

hadoop fs -du /test 统计test目录下各文件大小
在这里插入图片描述
hadoop fs -du -s /test 统计test目录下所有文件大小
在这里插入图片描述
hadoop fs -count hdfs://172.16.0.226:8020/test/sys_dict/* 统计文件行数
————————————————
版权声明:本文为优快云博主「mona.jiang」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.youkuaiyun.com/qq_35347718/article/details/106736246

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值