【图文跟进 】HADOOP 核心设计——负载均衡

本文探讨了HADOOP集群何时达到负载均衡状态,即当每个datanode的存储数据与其硬件资源相当时。同时指出,集群在运行中可能会出现从节点负载不均衡的情况,小规模集群可通过自动负载均衡在一段时间后达到平衡。对于大规模集群,可通过手动负载均衡,如使用start-balancer.sh命令并调整带宽来提高响应速度。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

问题一:什么时候负载时均衡的呢?

解析:hdfs集群中的每一个datanode上的存储的数据和自己的硬件占比是相当的,这个时候我们可以认为这个hdfs集群是负载均衡的

问题二:有没有可能造成从节点负载不均衡?

解析:集群的运行过程中,有可能造成集群中的从节点的负载不均衡,如果集群规模比较小的时候,集群有自动负载均衡的能力,集群会自己在一段时间之后,达到相对的负载均衡

 

集群实现负载均衡的过程实际上就是数据块移动的过程(跨节点)

  • 714行,默认情况下负载均衡的带宽,1M/s  很慢的
    • 这个速度针对集群规模比较小的时候可以的
    • 集群规模比较大的时候就不可以了  太慢了

        

集群规模大的时候:手动负载均衡
1.start-balancer.sh -t 10%  这个命令不会立即执行  提升负载均衡的响应时效

 

2.调整带宽

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值