hadoop使用命令大全

启动Hadoop

  • 进入HADOOP_HOME目录。
  • 执行sh bin/start-all.sh

关闭Hadoop

  • 进入HADOOP_HOME目录。
  • 执行sh bin/stop-all.sh

1、查看指定目录下内容

hadoop dfs –ls [文件目录]

eg: hadoop dfs –ls /user/wangkai.pt

2、打开某个已存在文件

hadoop dfs –cat [file_path]

eg:hadoop dfs -cat /user/wangkai.pt/data.txt

3、将本地文件存储至hadoop

hadoop fs –put [本地地址] [hadoop目录]

hadoop fs –put /home/t/file.txt /user/t

(file.txt是文件名)

4、将本地文件夹存储至hadoop

hadoop fs –put [本地目录] [hadoop目录] 
hadoop fs –put /home/t/dir_name /user/t

(dir_name是文件夹名)

5、将hadoop上某个文件down至本地已有目录下

hadoop fs -get [文件目录] [本地目录]

hadoop fs –get /user/t/ok.txt /home/t

6、删除hadoop上指定文件

hadoop fs –rm [文件地址]

hadoop fs –rm /user/t/ok.txt

7、删除hadoop上指定文件夹(包含子目录等)

hadoop fs –rm [目录地址]

hadoop fs –rmr /user/t

8、在hadoop指定目录内创建新目录

hadoop fs –mkdir /user/t

9、在hadoop指定目录下新建一个空文件

使用touchz命令:

hadoop fs -touchz /user/new.txt

10、将hadoop上某个文件重命名

使用mv命令:

hadoop fs –mv /user/test.txt /user/ok.txt (将test.txt重命名为ok.txt)

11、将hadoop指定目录下所有内容保存为一个文件,同时down至本地

hadoop dfs –getmerge /user /home/t

12、将正在运行的hadoop作业kill掉

hadoop job –kill [job-id]

Hadoop提供了一些常用的Shell命令用于管理和操作Hadoop集群。以下是一些常见的Hadoop Shell命令1. Hadoop文件系统相关命令: - `hadoop fs -ls <path>`:列出给定路径下的文件和目录。 - `hadoop fs -mkdir <path>`:创建一个新目录。 - `hadoop fs -copyFromLocal <localsrc> <dst>`:将本地文件或目录复制到Hadoop文件系统中的指定目标路径。 - `hadoop fs -copyToLocal <src> <localdst>`:将Hadoop文件系统中的文件或目录复制到本地目标路径。 - `hadoop fs -rm <path>`:删除指定路径的文件或目录。 - `hadoop fs -cat <path>`:显示文件的内容。 - `hadoop fs -get <src> <localdst>`:从Hadoop文件系统中复制文件或目录到本地路径。 - `hadoop fs -put <localsrc> <dst>`:从本地路径复制文件或目录到Hadoop文件系统中。 2. Hadoop作业相关命令: - `hadoop jar <jar> <class>`:运行一个Hadoop作业。 - `hadoop job -list`:列出当前运行的所有Hadoop作业。 - `hadoop job -kill <job-id>`:终止指定的Hadoop作业。 - `hadoop job -status <job-id>`:获取指定Hadoop作业的状态。 - `hadoop job -kill-task <task-id>`:终止指定的Hadoop任务。 - `hadoop job -list-attempt-ids <job-id> <task-id> <type>`:列出指定作业和任务的尝试ID。 3. Hadoop集群管理命令: - `start-all.sh`:启动Hadoop集群中的所有守护进程。 - `stop-all.sh`:停止Hadoop集群中的所有守护进程。 - `hadoop dfsadmin -report`:显示Hadoop集群的文件系统报告。 - `hadoop dfsadmin -safemode [enter|leave|get|wait]`:进入、离开、获取或等待Hadoop安全模式。 以上只是一些常用的Hadoop Shell命令,更多命令请参考Hadoop文档。如果您有任何其他问题,欢迎继续提问!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值