hadoop的集群启动与关闭指令

文章介绍了如何启动和关闭Hadoop集群,包括HDFS和YARN集群的整体与单个节点的启停方法。整体启停通过start-dfs.sh,stop-dfs.sh,start-yarn.sh,stop-yarn.sh等脚本执行,而单个节点的控制涉及到hadoop-daemon.sh或yarn-daemon.sh命令。在关闭虚拟机前,需确保集群已全部停止,以避免影响下次使用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

前言

前面我们搭建好了集群,现在可以实现启动和关闭集群,实际上,启动集群就是在每台机子上启动相应的进程,这些进程我们通常称呼它们为角色,角色又有主从之分。我们要想使用集群,就必须得有这样的角色,就好比一个企业里的各种设施和配置都准备好了,得有员工才能工作,最终干活的肯定是这些员工(角色)。

一、启停集群

Hadoop集群 = hdfs集群 + yarn集群,集群的启停方式有两种:单个启停 和 整体启停。

  1. 单个启停指可以精准控制某个节点集群的启停,但指令比较麻烦,现实中较少用到;
  2. 整体启停指可以控制所有节点集群的启停,但由于是所有节点,现实生产环境中,集群一旦启动,不太可能会选择全部关闭。

1、整体启停

hdfs集群

start-dfs.sh
stop-dfs.sh

yarn集群

start-yarn.sh
stop-yarn.sh

hadoop集群(用到最多的一个)

start-all.sh
stop-all.sh  

注意:关闭虚拟机之前,必须关闭所有集群,以免影响下次使用

2、单个启停

hdfs集群

#hadoop2.x版本
hadoop-daemon.sh start|stop namenode|datanode|secondarynamenode
#hadoop3.x版本
hdfs --daemon start|stop namenode|datanode|secondarynamenode

yarn集群

#hadoop2.x版本
yarn-daemon.sh start|stop resourcemanager|nodemanager
#hadoop3.x版本
yarn --daemon start|stop resourcemanager|nodemanager
当你遇到Hadoop启动集群时权限不足的问题,通常是因为你在运行 Hadoop 的某些命令或服务时没有足够的操作系统级别的权限。以下是几种常见的解决方法: ### 1. 检查用户权限 确保你是以正确的用户身份运行 Hadoop 命令。通常建议创建专门的用户账户(例如 `hadoop` 或 `hduser`),并以此用户身份来操作整个 Hadoop 集群。 ```bash sudo addgroup hadoop sudo useradd -m hduser -g hadoop ``` 然后切换到该用户下尝试再次启动集群: ```bash su - hduser # 然后再试启动脚本... ``` ### 2. 设置文件夹文件权限 检查所有 Hadoop 相关目录及其内容是否设置了适当的读、写及执行权限给相应的用户组。 可以递归地设置目录下的权限为755(对于大多数情况),并且更改属主为你指定的那个特殊用户(hduser): ```bash chown -R hduser:hadoop /path/to/hadoop/directory/ chmod -R 755 /path/to/hadoop/directory/ ``` 其中 `/path/to/hadoop/directory/` 是指你安装了 Hadoop 配置文件所在的路径. ### 3. 使用 sudo 提升权限 如果上述调整仍无法解决问题,在短期内你可以考虑通过前缀 `sudo` 来临时提升指令执行期间所需的权限级别;不过这不是长久之计,并且存在安全隐患。 比如: ```bash sudo ./start-dfs.sh # 启动HDFS守护进程 sudo ./stop-dfs.sh # 关闭HDFS守护进程 ``` 请注意频繁使用此方式可能会带来安全风险,所以应该尽快找到更合适的解决方案而不是依赖于这种方式工作。 --- #### 具体步骤总结 - 创建一个新的非root用户用于管理Hadoop. - 将所有相关的Hadoop文件所属权分配给新建立起来的这个用户. - 调整适当的安全模式位使得程序能够正常访问资源而不受限制. 希望以上信息可以帮助您解决这个问题!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值