分布式系统负载平衡研究

一 负载平衡概述：

(1)负载平衡目的：

*是在包含大量节点的分布式系统中，同时考虑各节点的计算性能、节点之间的通讯性能等参数，把不同的任务以最合理的方式分配到相应的节点去完成，负载平衡问题也称为任务调度问题。

(2)分类方法1：

*静态负载平衡(SLB：Static Load Balancing)：根据服务器和网络的负载特性，预先制定一个调度策略或分配算法，在集群运行的整个阶段都按照这个不变的策略或算法给各个节点分配任务。SLB比较简单，但不能保证负载时刻平衡。

*动态负载平衡(DLB：Dynamic Load Balancing)：在集群运行时实时检测系统的负载信息，动态地将任务在各个节点之间进行分配和调整以达到系统负载均匀分配。相对于SLB，具有更大灵活性和针对性，可根据当前负载状态有目的的进行负载平衡，临时决定每个任务的执行过程。DLB比较复杂，虽然能获得较好的平衡效果，但必然导致一定的额外开销。

(3)分类方法2(按管理方式)：

*集中式负载平衡策略：指定负载平衡协调节点统一来完成负载信息的收集、负载的分配。缺点：管理节点计算量大，内存开销大，易产生瓶颈等特点，所以不适应大规模分布式系统的负载平衡任务。

*分布式负载平衡策略：每个节点自主完成负载的分配。优点：非集中式、可扩展性等。缺点：每个节点进行自我决策，没有节点能掌握整个系统的全局状态，因此很难达到最优负载平衡。

(4)超大规模分布式系统负载平衡策略：

*层次结构负载平衡策略：将大型规模并行中的计算节点映射成一个层次树。发起平衡时，首先从1层以上的节点为管理节点发起负载平衡(叶子节点为0层)，如果平衡失败再进行以2层上的节点为管理节点发起负载平衡。以此类推，层层递增，最后形成集中式负载平衡。

*混合式负载平衡策略：结合集中式与分布式的一种策略。基本思想与层次结构类似，将所有节点组织成层次树。只是层次结构不同的是每层采用不同的策略进行优化。

二 负载指标的选择：

(1)负载指标：对一个处理节点上运行的所有任务占用资源的量化评价，是对资源情况的一种数值表示；合适的负载评价指标的确定是一个负载平衡算法要面对的首要问题。

(2)常用的负载指标有：CPU队列长度、CPU利用率、可用内存大小、内存利用率、I/O次数等。

(3)负载信息的收集和管理(收集方式决定了管理方式，管理方式也制约收集方式)：

*收集方式：周期方式(定期从各个节点收集信息)；按需驱动方式(该方式只在需要的时候才收集负载信息)。

*管理方式：集中管理(有一个专门节点来管理整个系统的负载信息)；分布式管理(没有集中存放位置，各个节点自己收集管理负载信息)。

三 负载平衡方案的四个阶段：

(1)处理器负载评估(Processor Load Evaluation)：计算系统中每个处理器的负载值，用来检测负载不平衡和进行负载迁移决定。

(2)负载平衡盈利能力测定(Load Balancing Profitability Determination)：用来评估负载平衡带来的加速和进行负载平衡开销之间的盈利。

(3)任务迁移策略(Task Migration Strategy)：决定任务迁移的sources和destinations。

(4)任务选择策略(Task Selection Strategy)：source processors选择最合适的tasks来进行负载平衡，发送到合适的destinations。

(5)补充：

*(1)和(4)取决于应用程序，是完全分布式的，它们可以在在每个处理器独立执行。

*(2)和(3)可以分布式执行或集中执行。

*选自Strategies for Dynamic Load Balancing On Highly Parallel Computers。