11、采样与退火算法：原理、应用及收敛性分析

采样与退火算法：原理、应用及收敛性分析

1. 模拟退火算法

1.1 基本原理

模拟退火算法旨在最小化能量函数 $H$。首先，选择一个随 $n$ 增大至无穷的冷却进度表 $\beta(n)$，定义 $\gamma = \min{H(z) : z \in X}$ 以及 $F_n(x) = \beta(n) \cdot (H(x) - \gamma)$。对于任意 $x \in X$，$H(x) - \gamma$ 非负，所以 $F_n$ 随 $n$ 递增，且在 $H$ 的极小值点处 $F_n$ 为 0。这使得序列 $(F_n) n$ 满足条件 (7.8) 和 (7.9)。由于 $F_n$ 与 $\beta(n)H$ 确定相同的吉布斯场 $\Pi_n$，根据命题 5.2.1，极限分布 $\pi {\infty}$ 是 $H$ 极小值点上的均匀分布。

设 $(S_k) {k \geq 1}$ 为访问方案，$\Delta = \max{\Delta {ij} : j \neq 0}$（或大致估计为 $H$ 值域的直径）。则在第 $k$ 个时期内，$H$ 的最大振荡满足 $\Delta_k < \beta(\tau(k))\Delta$。若对于某个 $k_0$ 和 $c \in R$，所有 $k > k_0$ 都满足条件：
[ -c\ln k < \beta(\tau(k)) ]
则有：
[ \sum_{k>1} \exp(-c\Delta_k) \leq \sum_{k>1} \exp(-\beta(\tau(k))\Delta) \leq c’ \sum_{k>1} \frac