hadoop常用命令总结

[ hadoop ] 集群性能调优全面总结 引子 文章涵盖了hadoop框架的三个组成架构各自的优化方法,涉及存储,计算,故障排除等多个方面的具体调优内容,先后解决HDFS,MapReduce,Yarn的常见问题,最终结合小文件给出了Hadoop综合调优. 1 HDFS调优 1.1 核心参数 1.1.1 NameNode内存 Hadoop2.x系列,NN内存默认2000M,根据服务器(以4G为例)的3/4来配: hadoop-env.sh文件中配置:HADOOP_NAMENODE_OPTS=-Xmx3072m Hadoop3.x系列,had 阅读详情
jps:查看进程
hadoop dfsadmin -safemode  leave:关闭安全模式,安全模式下只读
hadoop dfsadmin -safemode  enter:进入安全模式
                            get:  获取安全模式信息
                            wait:挂起,直到安全模式结束
hadoop fs -help :查看帮助信息。
hadoop fs -ls / :查看路径下文件信息
hadoop fs -mkdir a ;创建一个目录,默认在/user/hadoop/下
hadoop fs -lsr /user :递归查看目录信息
hadoop fs -put /home/hadoop/nimei.txt hdfs://h85:9000/user/hadoop/a/:将本地文件传输到hdfs下的/user/hadoop/a下
hadoop fs -df /user/hadoop/a/:查看a目录的详细信息(大小,使用情况)。
hadoop fs -du /user/hadoop/a :显示a目录下的文件的大小及绝对路径
hadoop fs -dus /user/hadoop/a :显示a目录下的文件总大小及绝对路径
hadoop fs -mv /user/hadoop/a/nimei.txt /user/hadoop/a/aaa:移动文件并改名
hadoop fs  -cp /user/hadoop/a/aaa /user/hadoop/a/bbb:复制文件并改名
hadoop fs -rm /user/hadoop/a/aaa :删除单个文件
hadoop fs -rmr /user/hadoop/a/    :递归删除目录树
hadoop fs -moveFromLocal nige.txt hdfs://h85:9000/user/hadoop/a/aaa:把本地文件移动到hdfs:/user/hadoop/a下并改名
hadoop fs -get hdfs://h85:9000/user/hadoop/a/aaa /home/hadoop:从hdfs中下载文件到本地
hadoop fs -getmerge /user/hadoop/a /home/hadoop/b:把目录a中所有文件装载在一起并下载到本地起名为b
copyToLocal 拷贝到本地
moveToLocal 移动到本地路径
setrep    设置文件镜像等级(镜像个数)
tail 显示文件最后1K的内容
touchz 创建一个日期格式文件
test   -【ezd】判断是否存在,是否为空,是否是目录,是返回0,不是返回1。
hadoop fs -cat /user/hadoop/a/aa.txt :查看文件内容
hadoop fs -chmod 777 /user/hadoop/a/aa.txt :修改文件权限
+x
或者u=rwx,
chgrp 更改属组
chown 更改属主

fsck:检查hadoop文件的健康状况
hadoop fsck /user/hadoop/


hadoop dfsadmin -report
查看节点健康状况。(经常使用)
或者网页端登录:192.168.18.85:50070/

stop-all.sh关闭所有节点

HDFS启动:

$HADOOP_HOME_BASE/bin/hadoop-daemon.sh start namenode 启动namenode
NameNode
$HADOOP_HOME_BASE/bin/hadoop-daemon.sh start secondarynamenode 启动secondanamenode$HADOOP_HOME_BASE/bin/hadoop-daemons.sh start datanode 启动DataNode
$HADOOP_HOME_BASE/bin/hadoop-daemon.sh start datanode
NameNode、Secondary NameNode、 DataNode$HADOOP_HOME_BASE/bin/start-dfs.sh

关闭

$HADOOP_HOME_BASE/bin/hadoop-daemon.sh stop namenode$HADOOP_HOME_BASE/bin/hadoop-daemon.sh stop secondarynamenode
$HADOOP_HOME_BASE/bin/hadoop-daemons.sh stop datanode$HADOOP_HOME_BASE/bin/hadoop-daemon.sh stop datanode
NameNode、Secondary NameNode、 DataNode$HADOOP_HOME_BASE/bin/stop-dfs.sh


HDFS日志:
namenode:
位置:$HADOOP_HOME_BASE/logs/hadoop-$USER-namenode-$HOSTNAME.log
查看:tail -fn 100 $HADOOP_HOME_BASE/logs/hadoop-$USER-namenode-$HOSTNAME.log
DataNode:
位置:$HADOOP_HOME_BASE/logs/hadoop-$USER-datanode-$HOSTNAME.log
查看:tail -fn 100 $HADOOP_HOME_BASE/logs/hadoop-$USER-datanode-$HOSTNAME.log








全国大学校园网—拓扑图欣赏 全国大学网络拓扑图(一百张) 典型十张 1、 中央财经大学 2、国防科技大学 3、济南大学 4、西安石油大学 5、南通大学IPV6网络 6、中国矿业大学 7、青海师范大学 8、内蒙古科技大学 9、三峡大学 10、中共江苏省党校 剩余90张 点赞、评论获取 ... 阅读详情

相关推荐

使用Eggjs做服务端获取微信小程序云开发数据库的access_token

最近自己想写了一个微信小程序,恰巧里面有个云开发,恰巧里面有个数据库,那懒人的我,就直接用云开发里面的数据库了,做测试或者正式也好,对于刚开始来说,免费的配额是够用的。 后来想到在小程序云开发上面的数据怎么看才方便?刚好微信小程序有一个服务端API,那就方便很多了,那就直接敲个服务端来获取云开发上数据库的数据出来到自己的后台上面,那以后管理起来也方便很多。 看了一下服务端api之后,发现有三个重要...

kalenE992的博客 1705

Linux Jmeter测试流程

JVM 配置修改 jmeter jvm参数修改,打开jmeter安装目录/bin/jmeter(非jmeter.sh) HEAP="-Xms2g -Xmx2g -XX:MaxMetaspaceSize=256m" 测试流程 把csv 文件上传linux 路径上 把文件放到指定目录 jmx 文件 需要写好参数 文件路径 执行 Jmeter 指令 // jmeter 脚本的运行 jmeter -n -t all.jmx -l all.jtl // 将报告生成 html 文件报告 jme

zuozhiyoulaisam的专栏 294

PFC电压环与电流环的带宽设计:如何避免输入电流畸变?

本文深入探讨了PFC电路中电压环与电流环的带宽设计问题,揭示了快速电压环导致输入电流畸变的机制,并提供了避免THD上升的工程实践方法。通过分析双环控制架构、谐波失真原理及带宽设计黄金法则,帮助工程师优化PFC系统性能,实现高功率因数与低谐波失真的平衡。

weixin_28304023的博客 424

hadoop命令详解

一、用户命令1、archive命令 (1).什么是Hadoop archives?Hadoop archives是特殊的档案格式。一个Hadoop archive对应一个文件系统目录。 Hadoop archive的扩展名是*.har。Hadoop archive包含元数据(形式是_index和_masterindx)和数据文件(part-*)。_index文件包含了档案中的文件的文件名和位置信...

weixin_33690367的博客 401

从理论到实践:笛卡尔空间阻抗控制的实现挑战与变体解析

本文深入探讨了笛卡尔空间阻抗控制的核心原理、工程实现中的五大挑战及经典变体实战解析。通过详细的数学建模和实际案例分析,揭示了阻抗控制在工业机器人、医疗设备等领域的应用价值,特别是在力感知精度、动力学模型校准和实时计算等方面的关键技术突破。

weixin_30952535的博客 449

Spring AI Alibaba 1.x 源码分析-架构设计

本文通过分析Spring AI Alibaba 框架的源码,分析出其原理和架构设计,无论是用于项目开发、技术评估还是团队培训都具有重要价值。

program哲学 490

Hadoop常用命令。

这些是Hadoop中常用的一些命令,用于管理和操作HDFS、MapReduce作业以及集群资源。使用这些命令可以有效地管理和处理大规模的数据集。Hadoop是一个开源的分布式计算框架,用于处理大规模数据集的存储和计算。:用于操作Hadoop分布式文件系统(HDFS)的命令。:用于在Hadoop集群上运行Java程序的命令。:用于管理和监控MapReduce作业的命令。:用于管理和监控Hadoop集群资源的命令。:用于管理HDFS的命令。

高性价比服务器就选:蓝易云 514

【C++】构造函数之初始化列表(Initialization list of constructors)

本讲主要是构造函数的初始化列表的讲节,但是本节很重要,可以关乎后面写项目

m0_62599305的博客 2235

大数据02-HDFS的使用和基本命令

HDFS(Hadoop Distribute File System)是大数据领域一种非常可靠的存储系统,它以分布式方式存储超大数据量文件,但它并不适合存储大量的小数据量文件。同时HDFS是Hadoop和其他组件的数据存储层,运行在由价格廉价的商用机器组成的集群上的,而价格低廉的机器发生故障的几率比较高,因此HDFS在设计上采取了多种机制,在硬件故障的情况下保障数据的完整性。兼容廉价的硬件设备: 实现在硬件故障的情况下也能保障数据的完整性流数据读写:不支持随机读写的操作大数据集。

weixin_45735391的博客 3533

AI 实战篇 |基于 AI开放平台实现 人脸识别对比 功能,超详细教程【附带源码】

本篇文章来学习一下怎样使用 Unity实现简单地人脸识别 功能。 关于人脸识别,我们可以选择很多平台的SDK接入Unity来实现人脸识别的功能。

努力前行,总会成为自己心中的那道光 5万+

OCR文字识别领域经典论文总结

本篇将介绍文字识别经典论文,内容包括文字检测、文字识别、端到端识别等方法,具体将分别对论文算法简介、思路、代码等几个部分展开介绍。目前各部分只举例经典论文,算法没有全部写完,后续会将在此部分基础上更新更多论文综述及代码实战部分。.................................

专注大数据与人工智能技术分享,欢迎私信加群互相学习! 1万+

Linux中Hadoop常用命令

掌握Hadoop的常用命令是进行大数据处理的基础。通过本文的介绍,用户应能够熟悉并运用这些命令进行日常的Hadoop集群管理与维护。版权声明:本博客内容为原创,转载请保留原文链接及作者信息。参考文章Hadoop命令大全(完整)Hadoop常用命令。

ning的博客 1887

FPGA实现DDR接口

verilog// DDR2控制器状态机// 初始化序列// 发出初始化命令endendendend// 自动预充电end// 其他状态...endcaseendend。

whm128的博客 1001

hadoop常用命令和端口说明

一、常用命令 查看版本信息 hadoop version 查看HDFS下面包含的文件目录 hdfs dfs -ls / HDFS中创建一个文件目录input, hdfs dfs -mkdir /input 上传文件至input中 hadoop fs -put /usr/local/hadoop-3.1.2/README.txt /input hadoop fs -put /usr/loca...

朔语的博客 5238

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

Hadoop常用命令

Hadoop常用命令 语法:hadoop fs –命令 hadoop fs –help 查看帮助 hadoop fs -ls / 查看当前目录信息 3.hadoop fs –ls –R / 查看当前目录和文件 hadoop fs –mkdir /文件夹名字 hadoop fs -mkdir –p /文件夹/文件夹1/文件夹2 eg:hadoop fs -mkdir -p /a/b/c hadoop fs –rm -r /文件夹 eg: hadoop fs -rm -r /zo

JsonWuxin的博客 634

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

hadoop常用命令

常用命令实操 2.3.1 准备工作 1)启动Hadoop集群 [root@hadoop2 hadoop-3.1.3]$ sbin/start-dfs.sh [root@hadoop3 hadoop-3.1.3]$ sbin/start-yarn.sh 2)-help:输出这个命令参数 [root@hadoop2 hadoop-3.1.3]$ hadoop fs -help rm 2.3.2 上传 1)-moveFromLocal:从本地剪切粘贴到HDFS [root@hadoop2 hadoop-3.1.3

程序员杂谈 511

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

hadoop 常用命令总结

在本地记事本记得太多了,有的命令使用频次很低,时间长了容易忘记,分享出来后续使用时查找。

DataShare 772

hadoop的常用命令

`hdfs dfs -copyFromLocal localfile /path/to/hdfs`:与`put`命令功能相同。- `hdfs dfs -copyToLocal /path/to/hdfs localfile`:与`get`命令功能相同。- `hdfs dfs -rm -r -f /path/to/directory`:强制删除目录及其内容,不提示确认。- `hdfs dfs -get /path/to/hdfs localfile`:将HDFS中的文件下载到本地。

2301_81657245的博客 597

【Hadoop篇】--Hadoop常用命令总结

【Hadoop篇】--Hadoop常用命令总结 一、前述 分享一篇hadoop的常用命令的总结,将常用的Hadoop命令总结如下。 二、具体 1、启动hadoop所有进程start-all.sh等价于start-dfs.sh + start-yarn.sh 但是一般不推荐使用start-all.sh(因为开源框架中内部命令启动有很多问题)。 2、单进程启动。 sbin/sta...

weixin_34183910的博客 292

Hadoop集群的常用命令

检查 HDFS 健康状况:`hadoop fsck <路径> [-move | -delete | -openforwrite] [-files [-blocks [-locations | -racks]]]`删除文件或目录:`hdfs dfs -rm <路径>` 或 `hdfs dfs -rm -r <目录路径>`(递归删除)运行 MapReduce 作业:`hadoop jar <jar文件> <主类名> <输入路径> <输出路径>`复制文件:`hdfs dfs -cp <源路径> <目标路径>`

2301_80781830的博客 486

Hadoop常用命令总结

一、前述 分享一篇hadoop的常用命令的总结,将常用的Hadoop命令总结如下。 二、具体 1、启动hadoop所有进程start-all.sh等价于start-dfs.sh + start-yarn.sh 但是一般不推荐使用start-all.sh(因为开源框架中内部命令启动有很多问题)。 2、单进程启动。 sbin/start-dfs.sh -------------...

152

三、Hadoop 常用命令集总览

在大数据处理领域,Hadoop 作为一种广泛应用的分布式系统基础架构,其重要性不言而喻。熟练掌握 Hadoop 的常用命令对于高效的数据处理和分析工作至关重要。本文将对 Hadoop 的常用命令进行专业而详尽的列举,并结合实例进行深入讲解。

DarrylDen的博客 2773
上一篇: hadoop生态圈各个组件简介
下一篇: hive常用函数大全
AA赵师傅
博客等级 码龄9年 89粉丝 124原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值