hadoop基本操作命令小结

Hadoop集群搭建常用命令、目录及注意 目录:(1)/usr/local/hadoop/(2)hadoop配置目录:/usr/local/hadoop/etc/hadoop(3)/usr/local/hadoop/sbin(4)share目录在/usr/local/hadoop下(5)将HDFS所有文件副本数调整为2,数据块大小为512MB:在/usr/local/hadoop/etc/hadoop/hdfs-site.xml文件中修改... 阅读详情

eclipse hadoop开发环境配置已经搞定,接下来就是开发hadoop程序了。但在这之前熟悉下hadoop的基本操作命令非常有必要,以下就先简单的小结下:

启动和关闭Hadoop

启动Hadoop
1.进入HADOOP_HOME目录。
2.执行bin/start-all.sh

关闭Hadoop
1.进入HADOOP_HOME目录。
2.执行bin/stop-all.sh

 

HDFS文件文件系统操作 Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统

类似。并且支持通配符,如*。

 
查看文件列表
查看hdfs中/user/hadoop目录下的文件和目录。
1.进入HADOOP_HOME目录。
2.执行bin/hadoop fs -ls /user/hadoop

列出hdfs中/user/hadoop目录下的所有文件(包括子目录下的文件)。
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -lsr /user/hadoop

 

创建文件目录
查看hdfs中/user/hadoop目录下再新建一个叫做newDir的新目录。
1.进入HADOOP_HOME目录。
2.执行bin/hadoop fs -mkdir /user/hadoop/newDir

 

删除文件
删除hdfs中/user/hadoop目录下一个名叫needDelete的文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rm /user/hadoop/needDelete

删除hdfs中/user/hadoop目录以及该目录下的所有文件
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop fs -rmr /user/hadoop

 

上传文件
上传一个本机/home/hadoop/newFile的文件到hdfs中/user/hadoop目录下
1.进入HADOOP_HOME目录。
2.执行bin/hadoop fs –put /home/hadoop/newFile /user/hadoop

 

下载文件
下载hdfs中/user/hadoop目录下的newFile文件到本机/home/hadoop/newFile中
1.进入HADOOP_HOME目录。
2.执行bin/hadoop fs –get /user/hadoop/newFile /home/hadoop/newFile

 

查看文件内容
查看hdfs中/user/hadoop目录下的newFile文件
1.进入HADOOP_HOME目录。
2.执行bin/hadoop fs –cat /home/admin/newFile

 

MapReduce Job操作
提交MapReduce Job
原则上说,Hadoop所有的MapReduce Job都是一个jar包。

运行一个/home/hadoop/ hadoop-0.20.2/job.jar的MapReduce Job
1.进入HADOOP_HOME目录。
2.执行bin/hadoop jar job.jar [jobMainClass] [jobArgs]

杀死某个正在运行的JOB 假设Job_Id为: job_201112161201_0069
1.进入HADOOP_HOME目录。
2.执行sh bin/hadoop job -kill job_201112161201_0069

 

更多Hadoop的命令
上面介绍的这些Hadoop的操作命令是我们最常用的。如果你希望了解更多,可以按照如下的方式获取命令的说明信息。
1.进入HADOOP_HOME目录。
2.执行bin/hadoop
可以看到更多命令的说明信息

hadoop基本操作命令 假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。 启动与关闭 启动Hadoop 进入HADOOP_HOME目录。 执行sh bin/start-all.sh 关闭Hadoop 进入HADOOP_HOME目录。 执行sh bin/stop-all.sh 文件操作Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符, 阅读详情

相关推荐

Hadoop基础命令的使用

搭建好Hadoop环境后,就可以使用Hadoop的一些命令来实现一些功能了。HDFS是Hadoop应用用到的一个最主要的分布式存储系统。本实验用一些常用的命令来熟悉Hadoop对文件的操作。熟练掌握hadoop基础命令的使用,理解HDFS和Hadoop的关系。本次环境是:Ubuntu16.04 + jdk1.8.0_151 + hadoop2.7.3 工具包在/simple/soft目录下安装好Hadoop环境之后,可以执行【】命令进行对hadoop进行操作。我们通过命令行和Hadoop打交道,进一步增加对

需要远程指导仿真实验、代码有问题的,请后台私信或者关注公众号 5658

Hadoop学习第四天之hadoop命令操作(上)

Hadoop命令操作 格式:hadoop fs 可以在/etc/profile 中添加 alias hf=’hadoopfs’ #简化每次命令的书写 -ls<path> 表示对hdfs下一级目录的查看 -lsr<path> 表示对hdfs目录的递归查看 -mkdir <path> 创建目录 -pu...

weixin_34010566的博客 202

ANSYS 2022R2 安装教程:系统准备、许可证配置与故障排查

ANSYS 是面向工程仿真的多物理场商业软件平台,其安装远非普通应用软件的图形化向导流程,而涉及操作系统版本、运行库精确版本、硬件虚拟化支持、许可证服务架构等系统级配置。理解 ANSYS License Manager 的服务机制与端口依赖、掌握 Visual C++ 和 .NET Framework 的启用逻辑,是保障 Fluent、Mechanical、HFSS 等求解器稳定调用的基础。该技术栈广泛应用于高校教学、航空航天结构分析、电子设备电磁兼容仿真等场景。本指南聚焦 ANSYS 2022R2 版本在

weixin_28559803的博客 595

Hadoop命令大全

hadoop fs -count [-h] (-h 参数使用便于操作人员读取单位信息格式)- hadoop fs 可操作任意文件系统,不仅仅是hdfs文件系统,使用范围更广。5.count:命令用于统计指定目录下的目录数、文件数、字节数。4.-df:统计文件系统的容量、可用空间和已用空间信息。- hdfs dfs 只能操作HDFS文件系统。-copyToLocal:从HDFS拷贝到本地。:追加一个文件到已经存在的文件末尾。目录中移动文件(注意区别-get)的另一个路径(注意区别-put)

m0_57376367的博客 4685

基于ROS的机械臂手眼标定-Aruco使用与相机标定

基于ROS的机械臂手眼标定-Aruco使用与相机标定 折腾了一段时间的机械臂的手眼标定,相关资料挺多的,但使用起来都比较复杂,新手一般比较难搞懂。于是想做一个比较简单易懂易用的手眼标定程序。 程序都是Copy的开源代码,所以也开源出来: 开源地址:https://gitee.com/ohhuo/handeye-calib 作为手眼标定中的重要一环,相机中标定板位姿关系获取直接影响标定精度,我们使用aruco这个开源程序来实现坐标的获取。 #mermaid-svg-WkFpFkV4QqzXMvJ4 .labe

生活不止眼前的苟且 1万+

机器学习系列(3)_逻辑回归应用之Kaggle泰坦尼克之灾

f作者: 寒小阳 &&龙心尘 时间:2015年10月。 出处: 声明:版权所有,转载请注明出处,谢谢。手把手机器学习之逻辑回归应用——Kaggle泰坦尼克之灾1.引言先说一句,年末双十一什么的一来,真是非(mang)常(cheng)欢(gou)乐(le)!然后push自己抽出时间来写这篇blog的原因也非常简单: 写完前两篇逻辑回归的介绍和各个角度理解之后,小伙伴们纷纷表示『好像很高级的样纸,

寒小阳 43万+

Hadoop Hdfs常用命令

本文档介绍Hadoop hdfs系统的一些常用命令。操作hdfs系统可以使用hadoop fs 也可以使用 hdfs dfs ,两者效果一样。

m0_67400973的博客 1498

【深大计算机网络】实验三 可靠传输机制 实验报告 附代码

【内附代码】【深大计算机网络】实验三 可靠传输机制 实验报告 附代码

m0_74268508的博客 1653

HADOOP基本操作命令

复习Hadoop基本命令

m0_67419104的博客 437

无线图像传输新突破:深度JSCC算法在低带宽环境下的性能实测

本文深入探讨了基于深度学习的信源信道联合编码(JSCC)算法在低带宽无线图像传输中的突破性表现。通过实测数据对比,深度JSCC在低信噪比环境下展现出卓越的鲁棒性,有效对抗传统方案的“悬崖效应”,实现图像质量的平滑下降,为远程医疗、工业巡检等严苛场景提供了新的解决方案。

weixin_29090089的博客 504

【忍者算法】从拼积木到最长连续序列:一道别出心裁的数组题目|LeetCode 128 最长连续序列

本题核心:通过预处理数据结构来优化查找!

忍者算法的博客 737

Hadoop基本操作命令

http://www.cnblogs.com/gpcuster/archive/2010/06/04/1751538.html 在这篇文章中,我们默认认为Hadoop环境已经由运维人员配置好直接可以使用。 假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。 启动与关闭 启动Hadoop 进入HADOOP_HOME目录。 执行sh bin/sta...

weixin_33775582的博客 998

数字信号处理(一):Xilinx Vivado DDS IP核设计实例(文末附源码)

前言 在数字信号处理时我们经常会用到数字变频,包数字下变频(DDC)和数字上变频(DUC),这其中会用到Xilinx公司的DDS IP核或者Altera公司的NCO IP核来产生本振频率,以现数字域信号频谱搬移。本文我们通过例化Xilinx公司的DDS IP核来产生混频器本振输入频率,并给出Modelsim仿真测试结果。 1、Xilinx DDS IP简介 Xilinx公司的DDS IP核使用AX...

FPGA_Designer 1万+

Hadoop原理与技术——Linus命令行基本操作

Hadoop原理与技术——Linus命令行基本操作

FGGIT的博客 978

海思图像质量之HiPQTool调试

文章目录一. HiPQTool 界面二. 图像调试三. 将调试参数写入程序中 一. HiPQTool 界面 二. 图像调试 三. 将调试参数写入程序中

lzg2011的博客 2377

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

Hadoop 基本操作命令全解析:掌控数据海洋的「舵手指南」

开发阶段:用put/get快速上传下载测试数据,cat/ls实时查看结果;运维阶段:靠监控集群健康,快速启停服务;调优阶段:借balancer均衡数据分布,distcp高效迁移跨集群数据。记住:命令的熟练来自反复实践!建议在本地伪分布式集群中多敲多试,遇到问题用查看详细用法。当你能流畅使用这些命令时,就已经迈出了掌控 Hadoop 的关键一步~ 💪。

m0_63329404的博客 1362

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Hadoop命令行基本操作

Hadoop 重要的端口 1.Job Tracker 管理界面:50030 2.HDFS 管理界面 :50070 3.HDFS通信端口:9000 4.MapReduce通信端口:9001 常用访问页面 1. HDFS 界面 http://hostname:50070 2. MapReduce 管理界面 http://hostname:50030格式化

乔的博客 1456

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Hadoop常见命令总结

本文主要介绍Hadoop常见命令总结。 进入HADOOP_HOME目录。 执行sh bin/start-all.sh 关闭Hadoop 进入HADOOP_HOME目录。 执行sh bin/stop-all.sh 1、查看指定目录下内容 Hadoopfs –ls [文件目录] eg: hadoop fs –ls /user/wangkai.pt ...

专注大数据与人工智能技术分享,欢迎私信加群互相学习! 2959

hadoop job 命令_HADOOP基本操作命令

在这篇文章中,我们默认认为Hadoop环境已经由运维人员配置好直接可以使用。假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop。启动与关闭启动HADOOP进入HADOOP_HOME目录。执行sh bin/start-all.sh进入HADOOP_HOME目录。执行sh bin/stop-all.sh关闭HADOOP文件操作Hadoop使用的是HDFS,能够实现的...

weixin_39534121的博客 141
上一篇: eclipse hadoop开发环境配置
下一篇: Ubuntu vncserver安装
cybercode
博客等级 码龄17年 52粉丝 23原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值