种群增量学习进化算法 Population-Based Incremental Learning （PBIL）

缘起

两年前，自己的一项工作用到了PBIL算法，当时就发现网上关于PBIL算法的介绍很少。事实上，如果不是导师提及，我也不会选择用这个算法。最后我是在一个同学的硕士学位论文中找到了关于这个算法的准确的中文介绍。但是，两年后当我再想用这个算法的时候，大脑一篇空白，完全忘记了它的原理。于是又重复了一遍两年前的工作，重新去寻找关于这个算法的介绍。为了避免再次发生这种情况，我把我找到关于PBIL的内容介绍搬到这里，并附上源码。

种群增量学习进化算法 Population-Based Incremental Learning （PBIL）

背景

进化算法有四个主要的分支：遗传算法（GA），进化规划（EP）， 进化策略（ES）和遗传编程（GP）。前三者是独立发展起来的最经典的进化算法，它们有明显类似性：

1. 维持可行解群体
2. 解的性能（适应值）由已知目标函数来评估
3. 探索机制（算子）决定新试验解的生成

它们的产生为求解复杂系统优化问题提供了一种通用框架，其算法鲁棒性强且易于实现。但是在实际应用中，也暴露出一些问题。以遗传算法为例，遗传算法的基本依据是模式定理和构造块（Building Block）假设理论。它通过构造块之间的选择和重组操作，产生更好的解。但是，应用实践表明遗传算法在实际的重组操作过程中可能会破坏个体的构造块从而产生连锁问题，导致算法逼近局部最优。因此，人们提出能否可以不使用重组操作，而是重最优的解集合中提取信息，然后利用这个信息的分布概率产生新解，由此实现算法的连锁学习。按照这种思想，部分学者从统计学的观点出发，将构造性概率模型引入到进化过程中，形成一类基于概率分析的进化算法，它不同于传统的生物繁殖过程，这类算法实际上是抽取最优解的整体信息，对它们的分布进行评价，再利用这种分布产生新的群体。PBIL就是这种思想很有代表性的一种实现。

基本原理

PBIL算法最初由卡内基梅隆大学的Baluja.S在1994年提出。该算法集成了基于函数优化的遗传搜索和竞争学习两种策略，将进化过程视为学习过程，通过竞争学习所获取的知识——学习概率（Learning Probability）来指导后代的产生。这种概率是整个进化过程的信息积累，同普通遗传算法的基因重组和变异相比，用它指导产生的后代将会更优生，因此能获得较快的收敛速度和理想的计算结果。

同标准遗传算法一样，PBIL算法也是一个基于二进制编码的算法。设代表二进制编码，其长度为, 第个基因为 的取值为0或1，即该基因的等位基因只有（0,1）两个；代表一个维的概率向量（Probability Vector），向量中各元素表示当前种群中的个体在对应基因位上不同取值时的学习概率；其中