Hadoop添加节点datanode

最新推荐文章于 2023-06-20 22:30:46 发布

小小哭包

最新推荐文章于 2023-06-20 22:30:46 发布

阅读量565

点赞数

分类专栏：大数据计算机 Java 文章标签： hadoop 大数据分布式

本文链接：https://blog.youkuaiyun.com/caryxp/article/details/131103108

版权

Java 同时被 3 个专栏收录

123 篇文章

订阅专栏

计算机

79 篇文章

订阅专栏

大数据

64 篇文章

订阅专栏

文章介绍了如何在Hadoop集群中添加新节点，包括安装JDK和SSH，修改主机名解析，更新namenode配置，启动datanode和tasktracker服务。接着，讨论了数据均衡的重要性，如不均衡可能导致效率下降，并展示了如何启动和调整平衡器的阈值及带宽限制。最后，提醒注意防火墙设置和主机名解析的准确性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.部署hadoop
和普通的datanode一样。安装jdk，ssh
2.修改host
和普通的datanode一样。添加namenode的ip
3.修改namenode的配置文件conf/slaves
添加新增节点的ip或host
4.在新节点的机器上，启动服务

[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start datanode  
[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start tasktracker

5.均衡block

[root@slave-004 hadoop]# ./bin/start-balancer.sh

这个会非常耗时
1）如果不balance，那么cluster会把新的数据都存放在新的node上，这样会降低mapred的工作效率
2）设置平衡阈值，默认是10%，值越低各节点越平衡，但消耗时间也更长

[root@slave-004 hadoop]# ./bin/start-balancer.sh -threshold 5

3）设置balance的带宽，默认只有1M/s

<property>  
  <name>dfs.balance.bandwidthPerSec</name>  
  <value>1048576</value>  
  <description>  
        Specifies the maximum amount of bandwidth that each datanode  
        can utilize for the balancing purpose in term of  
        the number of bytes per second.  
  </description>  
</property>

注意：
1. 必须确保slave的firewall已关闭;
2. 确保新的slave的ip已经添加到master及其他slaves的/etc/hosts中，反之也要将master及其他slave的ip添加到新的slave的/etc/hosts中