Hadoop Shell命令

Hadoop Shell 命令详解 Hadoop Shell命令 FS Shell cat chgrp chmod chown copyFromLocal copyToLocal cp du dus expunge get getmerge ls lsr mkdir movefromLocal mv put rm rmr setrep stat tail test text touchz FS Shell 调用文件系统(... 阅读详情

Hadoop Shell命令: 

转载于:http://blog.youkuaiyun.com/kankan_summer/article/details/5695987

FS Shell
cat
chgrp
chmod
chown
copyFromLocal
copyToLocal
cp
du
dus
expunge
get
getmerge
ls
lsr
mkdir
movefromLocal
mv
put
rm
rmr
setrep
stat
tail
test
text
touchz

cat
使用方法:hadoop fs -cat URI [URI …]

将路径指定文件的内容输出到stdout 。

示例:

hadoop fs -cat hdfs://host1:port1/file1 hdfs://host2:port2/file2
hadoop fs -cat file:///file3/user/hadoop/file4


copyFromLocal
使用方法:hadoop fs -copyFromLocal <localsrc> URI

除了限定源路径是一个本地文件外,和put 命令相似。

copyToLocal
使用方法:hadoop fs -copyToLocal [-ignorecrc] [-crc] URI <localdst>

除了限定目标路径是一个本地文件外,和get 命令类似。


ls
使用方法:hadoop fs -ls <args>

如果是文件,则按照如下格式返回文件信息:
文件名 <副本数> 文件大小 修改日期 修改时间 权限 用户ID 组ID
如果是目录,则返回它直接子文件的一个列表,就像在Unix中一样。目录返回列表的信息如下:
目录名 <dir> 修改日期 修改时间 权限 用户ID 组ID
示例:
hadoop fs -ls /user/hadoop/file1 /user/hadoop/file2 hdfs://host:port/user/hadoop/dir1 /nonexistentfile


--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

通过URI精确访问指定的目录 

另外,如果你在Hadoop 的配置中配置了scheme://authority部分。那么在你的命令中就可以省略

这个部分。比如:如果你的conf/hadoop-site.xml中配置如下: 

<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>

在这个配置下,URI hdfs://localhost:9000/user/chuck/example.txt可以缩写为 

/user/chuck/example.txt

此外,HDFS默认使用的目录为:/user/$USER 这个$USER就是你的登录用户名。如果你用chuck登录

,那么如果要访问的URI是 hdfs://localhost:9000/user/chuck/example.txt。你甚至可以缩写为

example.txt。

此时,你在用cat命令时,只用输入: 

hadoop fs -cat example.txt

----------------------------------------------------------------------------------------------------------------------------------------------------------
RETRIEVING FILES(查看文件内容)

Hadoop的get命令用来hdfs文件系统中的文件拷贝到本地文件系统。如果我们想将example.txt文件

拷贝到本地目录。使用如下命令:

 hadoop fs -get example.txt

这个命令将会把example.txt文件拷贝到本地的当前目录。

另外hadoop的cat命令可以允许我们查看文件中的内容。  

hadoop fs -cat example.txt

我们当然也可以使用Unix shell的管道方式链接另一个命令。 

比如,如果一个文件很大,而这事你想快速的查看其中的内容,你可以使用hadoop 的cat命令的输出作为

Unix head命令的输入,比如:

hadoop fs -cat example.txt | head

目前,Hadoop本身也支持tail命令: 

hadoop fs -tail example.txt

DELETING FILES(删除文件)
 

ok,不废话,言简意该:如下 

hadoop fs –rm example.txt


Hadoop 管理 Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理Hadoop 管理 立即下载

相关推荐

HDMI2.1接口保护指南:从浪涌损坏案例看RK3588板子的ESD设计要点

本文深入探讨了HDMI2.1接口在RK3588板子上的ESD防护设计要点,通过真实案例分析了浪涌损坏的原因及解决方案。重点介绍了TMDS信号链路的四级防护体系、TVS管选型误区以及连接器与PCB的协同设计策略,帮助工程师有效避免静电放电导致的HDMI无输出故障。

weixin_29305337的博客 447

Hadoop 基本操作命令

hadoop fs -ls 文件路径  查看文件目录 hadoop fs -cat 文件路径 | head -n 记录条数  查看文件

muyihao137217的专栏 325

Hadoop指令-周美婷

基础指令语法 1、ls指令含义:ls(list) 用法1:#ls含义:列出当前工作目录下的所有文件/文件夹的名称用法 用法2:#ls路径含义:列出指定路径下的所有文件/文件夹的名称关于路径(重要):路径可以分为两种:相对路径、绝对路径。相对路径:相对首先得有一个参照物(一般就是当前的工作路径);相对路径的写法:在相对路径中通常会用到2个符号“./”【表示当前目录下】、“../”【上一级目录下】。绝对路径:绝对路径不需要参照物,直接从根“/”开始寻找对应路径; 2、pwd指令用法:#pwd (pri

qq_65398011的博客 4236

告别CAPL编程!用Matlab/Simulink+CANoe实现复杂ECU仿真的5个技巧

本文介绍了如何利用Matlab/Simulink与CANoe进行联合仿真,以替代复杂的CAPL编程,高效实现复杂ECU仿真。文章分享了5个核心技巧,涵盖信号映射、模型编译集成、实时参数调整、性能优化及数据分析,帮助算法工程师构建稳定强大的仿真环境,显著提升开发与测试效率。

rgv234567的博客 296

JS+H5打字练习器

实现功能 1.导入.TXT文件到打字练习内容(部分浏览器可能出于安全问题限制了这一步操作) 2.输入文本到打字练习内(弹出输入框,将要练习的内容输入至输入框) 3. 开始练习,并根据正误在打字练习内容文本上修改颜色(某个字正确显示绿色,某个字错误,显示红色,某个字没有打显示灰色) 4.开始练习、结束练习,全部输入完成后自动结束练习,也可提前手动结束练习,结束练习后弹窗用显示时和正确率。(区别在于一个全部输入完成且全部正确,一个提前结束无其他条件) 效果图 分析 HTML 结构解析 根元素:<!DO

w11111xxxl的博客 1414

Hadoop之HDFS命令行操作归纳

Hadoop之HDFS命令行操作归纳 作为一个分布式文件系统,HDFS对外提供了2种访问方式,一种是shell命令,一种是java api接口。当然,2种本质都一样,都是通过配置的hdfs入口进行访问,不过一种包装为shell命令,一种包装为java api的方式。 注意需要先配置好环境变量,这样方便在任意目录下都能调用hdfs的命令 1.文件查看 1.hdfs dfs -ls 路径名(hdfs中的绝对路径) 2. hdfs dfs -cat 文件路径名 3. hdfs dfs -tail 文件路径名 4

xiaohu21的博客 754

华为AR3260路由器NAT回流配置实战:从WEB界面到命令行的完整避坑指南

本文详细解析了华为AR3260路由器NAT回流(Hairpin NAT)的配置原理与实战方法。针对内网用户无法通过公网地址访问内部服务器的常见问题,文章不仅剖析了WEB界面配置的常见报错原因,更提供了清晰、可靠且一劳永逸的命令行(CLI)配置方案与排错指南,帮助企业网络工程师彻底解决内外网访问不一致的难题。

u6v7w8x的博客 874

每天一个linux命令(14):head 命令

head 与 tail 就像它的名字一样的浅显易懂,它是用来显示开头或结尾某个数量的文字区块,head 用来显示档案的开头至标准输出中,而 tail 想当然尔就是看档案的结尾。 1.命令格式:head [参数]... [文件]...  2.命令功能:head 用来显示档案的开头至标准输出中,默认head命令打印其相应文件的开头10行。 3.命令参数:-q 隐藏文件名-v 显示文件名-c&lt;字节...

weixin_33794672的博客 2284

Pixel 6 Pro刷Android 13变砖自救指南:fastboot全分区擦除与手动刷入教程

本文提供了一份详细的Pixel 6 Pro在Android 13升级过程中变砖后的自救指南。针对因super分区锁死或动态分区异常导致的无法启动问题,文章核心介绍了通过fastboot命令手动擦除关键分区并逐一刷入官方镜像的完整救砖流程,帮助用户实现系统重建与恢复。

weixin_29208327的博客 372

第一节:初识n8n与下一代工作流自动化

本章介绍了n8n的Fair-code理念与节点式架构,对比了其与Zapier/Make的核心差异,并引导读者在n8n Cloud上完成首次界面导览,建立了工作流自动化的宏观认知。

easeyoo的专栏 105

《hadoop数据分析》之hadoop命令

先建个文件夹 (base) localhost:~ XXX$ hadoop fs -mkdir /corpora 2020-01-13 09:47:44,788 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where ...

这么多圆圈圈~~的博客 2722

第三天:Python基础语法详解

Python代码规范与注释最佳实践 摘要: 本文深度解析Python缩进规则与代码结构的技术规范,包括缩进的底层原理、语法规则和错误处理。详细阐述Python注释系统,涵盖行内注释、文档字符串和类型注释等多种形式,并提供工业级代码组织方案。研究显示,良好的缩进可提升40%的代码识别速度,降低50%的认知负荷。文章还对比了Sphinx、pdoc等主流文档生成工具,给出企业级项目中的注释编写原则和模板建议,帮助开发者构建更可维护的Python代码。

本博客聚焦 YOLOv11 全流程落地,涵盖架构优化、数据集处理、训练技巧与多场景部署,兼及国产数据库、Java 开发与 AI 模型应用,内容兼顾理论与工程实践,为开发者提供系统干货,助力高效提升技术能力。 1012

Hadoop的shell命令

hadoop的shell命令(总结归纳)

m0_52879657的博客 5766

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

Hadoop之常用Shell命令

目录 一、启动命令 1.启动Hadoop所有进程 2.单进程启动(推荐) 二、常用Shell命令 1.查看指定目录下内容 2.查看某个文件内容 3.将本地文件存储至hadoop 4.将本地文件夹存储至hadoop 5.将hadoop上某个文件下载至本地已有目录下  6. 删除hadoop上指定文件 7.删除hadoop上指定文件夹(包含子目录等) 8.在hadoop指定目录...

绣花针 2045

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

Hadoop的shell命令测试

第一次实验作业 本实验所有shell命令及脚本均在/usr/local/hadoop/目录下执行 1.利用Hadoop提供的Shell命令完成相同任务,向HDFS中上传任意文本文件,如果指定的文件在HDFS中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件 在/home/hadoop/目录下创建三个文件: localTest,内容: This is a local file. a...

thewhichlife的博客 2890

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Hadoop常用shell命令

总结一些 Hadoop 常用的 shell 命令: 命令 说明 hadoop fs -help 查看命令帮助 hadoop fs -ls / 查看 hdfs 根目录下的文件列表 hadoop fs -put localsrc dsthadoop fs -f -put localsrc dst 上传本地文件到 hdfs,若文件已存在则报错;若文件存在,则覆盖上传 hado...

媛测 984

Hadoop常见的shell命令

目录 一、Hadoop 命令 1、查看Hadoop的版本 2、查看Hadoop命令的格式   2.1、压缩文件archive 2.2、在两个HDFS之间拷贝数据 (hadoop distcp) 3、通过Hadoop fs 查看HDFS的格式        二、hdfs命令 1、查看hdfs的版本 2、查看hdfs命令的格式     3、管理员操作命令hdfs dfsadmin ...

l1394049664的博客 2977

2.Hadoop Shell命令大全

1.Hadoop Shell命令 命令 详解 示例 cat 将路径指定文件的内容输出到stdout hadoop fs -cat /hello.txt chgrp 改变文件所属的组。使用-R将使改变在目录结构下递归进行 hadoop fs -chgrp uaren /wxt chmod 改变文件的权限。使用-R将使改变在目录结构下递归进行 hadoop fs -chmod ...

wang37444的专栏 277

Hadoop之Shell命令

hadoop的shell命令与linux下的命令类似,一般要在命名了的前面加-, 例如:hadoop fs -ls /....... 具体如下: FS Shell 调用文件系统(FS)Shell命令应使用 bin/hadoop fs &lt;args&gt;的形式。 所有的的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。对HDFS文...

一缕阳光的博客 301

hadoop之shell命令

#hadoop之shell命令 ##一、启动命令 启动hadoop:start-dfs.sh,start-yarn.sh 关闭hadoop:stop-dfs.sh,stop-yarn.sh 启动hdfs时可在任意节点,启动yarn得在相应yarn的主节点上执行 hadoop fs -命令(hadoop1.0的时候用的) hdfs dfs -命令(hadoop2.0的时候用的) hadoop/hdfs 启动hadoop的客户端,连接hadoop集群 fs/dfs 连接hado

weixin_46738406的博客 657

Hadoop命令,相关操作,常用的hadoop的shell命令有哪些?

Hadoop的shell命令 Hadoop介绍:https://www.cnblogs.com/ToDoNow/p/9647939.html https://www.cnblogs.com/codeOfLife/p/5375120.html 统一格式:hadoop fs 1: 文件查询: >>hadoop fs -ls / 2: 创建文件夹: &gt...

Meet_again007的博客 497

hadoop put命令的格式_hadoop Shell命令详解

调用文件系统(FS)Shell命令应使用bin/hadoop fs 的形式。所有的的FS shell命令使用URI路径作为参数。1、cat说明:将路径指定文件的内容输出到stdout。用法:hadoop fs -cat URI [URI …]范例:hadoopfs-cathdfs://host1:port1/file1hdfs://host2:port2/file2hadoopfs-c...

weixin_42493720的博客 3366

Hadoop FileSystem Shell 常用操作命令

HDFS 常用命令

喻师傅的学习笔记 2116

shell 进入hadoop_hadoop之shell命令

一、启动命令启动hadoop:start-dfs.sh,start-yarn.sh关闭hadoop:stop-dfs.sh,stop-yarn.sh启动hdfs时可在任意节点,启动yarn得在相应yarn的主节点上执行hadoop fs -命令(hadoop1.0的时候用的)hdfs dfs -命令(hadoop2.0的时候用的)hadoop/hdfs 启动hadoop的客户端,连接hadoop集...

weixin_39517520的博客 372
上一篇: Hive vs HBase
下一篇: hive Hql
codestinity
博客等级 码龄16年 29粉丝 7原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值