Hadoop动态添加节点

1 Hadoop动态添加节点

(一)设置新节点与集群NameNode的SSH无密码登录

(二)在hosts文件中添加主机名和IP地址,并将该文件同步到集群其它节点

(三)修改hadoop配置文件slaves,加入新节点的主机名

(四)在新节点通过命令hadoop-daemon.sh start datanode和yarn-daemon.sh start nodemanager启动datanode和nodemanager进程

(五)在新节点中通过命令start-balancer.sh均衡当前的HDFS块,在执行前可通过命令Hdfs dfsadmin -setBalancerBandwidth字节数 设置带宽

2 Hadoop动态删除节点

(一)在hadoop配置文件hdfs-site.xml中配置如下:

<property>

<name>dfs.hosts.exclude</name>

<value>/home/hadoop/app/cdh/hadoop-2.6.0-cdh5.7.1/etc/hadoop/exclude</value>

</property>

(二)在配置文件exclude中添加需要删除的节点主机名

(三)通过命令hdfs dfsadmin -refreshNodes执行节点刷新操作

(四)通过命令hdfs dfsadmin -report可查看该节点状况

3 HBase动态添加节点

(一)在HBase的配置文件regionserver中添加新节点的主机名

(二)在新节点通过命令hbase-daemon.sh start regionserver启动HRegionServer

(三)进入hbase shell,通过命令balance_switch true进行region平衡

4 HBase动态删除节点

(一)通过命令graceful_stop.sh主机名 停止需要删除的节点

(二)在HBase的配置文件regionserver中移除删除节点的主机名

### 如何在Hadoop分布式文件系统中添加新的DataNode节点 要在现有的Hadoop集群中添加一个新的DataNode节点,需要遵循一系列配置和操作流程。以下是详细的说明: #### 配置新增加的机器 1. **安装Java环境** 新增的机器上必须先安装与现有集群相同版本的JDK,并确保`JAVA_HOME`变量已正确设置[^4]。 2. **同步Hadoop软件包** 将当前使用的Hadoop版本复制到新节点并解压至指定路径。确保该路径与其他节点一致以便于管理。 3. **修改核心配置文件** - 编辑 `core-site.xml`, 设置相同的 `fs.defaultFS` 参数指向 NameNode 的 URI。 ```xml <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://<namenode-ip>:9000</value> </property> </configuration> ``` - 修改 `hdfs-site.xml` 文件中的参数以匹配主集群配置,特别是 `dfs.replication` 和存储目录定义部分。 ```xml <configuration> <property> <name>dfs.datanode.data.dir</name> <value>/path/to/data/directory</value> </property> </configuration> ``` 4. **SSH免密登录配置** 如果尚未完成,则需为主节点和其他数据节点配置无密码 SSH 访问权限。这通常涉及将主节点上的公钥分发给所有目标主机包括这个新加的数据节点。 5. **更新slaves列表** 在NameNode服务器上的 `$HADOOP_HOME/etc/hadoop/slaves` 文件里追加新加入 DataNodes 的 IP 地址或者主机名。 6. **格式化名称节点 (可选)** 当首次初始化整个 HDFS 或者遇到某些特殊错误时才可能需要用到此命令;一般情况下不需要再次执行格式化动作除非特别必要[^3]。 7. **重启服务** 使用如下脚本来停止旧的服务实例然后再重新开启它们: ```bash stop-dfs.sh && start-dfs.sh ``` 8. **验证状态** 登陆Web UI界面 http://<namenode-host>:50070 来确认新增加的那个 datanode 是否成功注册到了 namenode 上面并且正常工作着。 如果一切顺利的话,你应该能够看到最新的datanodes出现在web ui界面上. ```python print("New Datanode successfully added.") ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值