14、概率算法：原理、策略与实现

概率算法：原理、策略与实现

1. 概率算法概述

概率算法是一类使用候选解决方案的概率模型来建模问题或搜索问题空间的算法。许多元启发式和计算智能算法都可被视为概率算法，其与其他算法的区别在于在解决问题时明确使用概率工具。本章介绍的大多数算法被称为分布估计算法（Estimation of Distribution Algorithms，EDA）。

分布估计算法（EDA），也称为概率模型构建遗传算法（Probabilistic Model - Building Genetic Algorithms，PMBGA），是进化计算领域的扩展。它将候选解决方案的种群建模为概率模型，通常包括从概率模型在问题空间中创建候选解决方案，以及将生成的候选解决方案集合简化为概率模型的迭代过程。

除了基本的分布估计算法，还有许多扩展算法，如下表所示：
| 扩展类型 | 具体算法 |
| ---- | ---- |
| 对UMDA的扩展 | 二元边际分布算法（BMDA）、因子化分布算法（FDA） |
| 对cGA的扩展 | 扩展紧凑遗传算法（ECGA） |
| 对BOA的扩展 | 层次贝叶斯优化算法（hBOA）、增量贝叶斯优化算法（iBOA） |
| 贝叶斯网络算法 | 贝叶斯网络估计算法、学习因子化分布算法（LFDA） |
| 其他 | 概率增量程序进化（PIPE）、基于正态分布向量学习的随机爬山算法（SHCLVND） |

下面是分布估计算法及其扩展的关系流程图：

graph LR
    A[分布估计算法（EDA）] --> B[