Hadoop添加节点datanode

最新推荐文章于 2024-03-30 12:29:15 发布

iteye_10680

最新推荐文章于 2024-03-30 12:29:15 发布

阅读量175

点赞数

CC 4.0 BY-SA版权

分类专栏： hadoop系列文章标签：大数据

本文链接：https://blog.youkuaiyun.com/iteye_10680/article/details/82574070

hadoop系列专栏收录该内容

15 篇文章

订阅专栏

本文详细介绍了如何部署Hadoop集群，包括安装JDK、SSH配置、主机名修改、Namenode配置、数据节点启动及数据均衡操作，确保集群高效运行。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.部署hadoop
和普通的datanode一样。安装jdk，ssh

2.修改host
和普通的datanode一样。添加namenode的ip

3.修改namenode的配置文件conf/slaves
添加新增节点的ip或host

4.在新节点的机器上，启动服务
[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start datanode 
[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start tasktracker
5.均衡block
[root@slave-004 hadoop]# ./bin/start-balancer.sh
这个会非常耗时 
1）如果不balance，那么cluster会把新的数据都存放在新的node上，这样会降低mapred的工作效率 
2）设置平衡阈值，默认是10%，值越低各节点越平衡，但消耗时间也更长 
[root@slave-004 hadoop]# ./bin/start-balancer.sh -threshold 5 
3）设置balance的带宽，默认只有1M/s


<property> 
<name>dfs.balance.bandwidthPerSec</name> 
<value>1048576</value> 
<description> 
Specifies the maximum amount of bandwidth that each datanode 
can utilize for the balancing purpose in term of 
the number of bytes per second. 
</description> 
</property>