8、进化计算：优化与学习的替代方案及经典算法解析

进化计算：优化与学习的替代方案及经典算法解析

1. 线性规划与最小生成树问题

线性规划问题的目标是在约束条件下找到一个 $n$ 维向量 $x$，使成本函数达到最优。约束条件可以表示为一个集合 $F = {x : x \in R^n, Ax = b, x \geq 0}$，成本函数 $c$ 通过映射 $c : x \to d^T x$ 来定义。解决线性规划问题的一般过程如下：
1. 利用约束条件创建超平面，形成一个封闭区域，即“可行”区域。
2. 找出可行区域的角点坐标，也就是各对直线的交点。
3. 在“优化方程”中测试这些角点，以找到最高或最低值。

当变量只能取整数值时，线性规划就变成了整数规划。

最小生成树（MST）问题与旅行商问题类似。给定一个整数 $n > 0$ 和一个 $n \times n$ 的对称距离矩阵 $[d_{ij}]$，其中 $d_{ij} \in Z^+$，问题是找到一个在 $n$ 个顶点上的生成树，使其边的总长度最小。这里，可行集 $F = {$ 所有生成树 $(V, E)$，其中 $V = {1, 2, …, n}}$，成本函数 $c$ 定义为 $c : (V, E) \to \sum_{[i, j] \in E} d_{ij}$。生成树用无向图 $(V, E)$ 表示，该图是连通且无环的，边通常用括号表示。

2. 最优性的基本术语

在连续变量的情况下，为了进一步研究优化问题，需要精确定义一些术语，这些术语适用于所有优化问题。

连续性：实值函数 $f(x)$ 定义在 $R^n$ 的子集 $S$ 上，如果 $x_k \to x$ 意味着 $f(x_k) \t