10、模拟退火与马尔可夫链相关研究

模拟退火与马尔可夫链相关研究

1. 有限时间退火

1.1 退火调度概述

在实际应用中，资源和 CPU 时间是有限的，因此有限时间退火显得尤为重要。模拟退火中，对于现实常数和冷却调度，只有理论调度才能达到最大后验概率（MAP）。HAJEK（1988）的一个著名结果给出了 $P$（最小）$\to 1$ 的必要条件，但指数调度在 $H$ 有适当局部最小值时会违反该条件。

1.2 冷却调度的选择

当计算时间限制为 $N$ 次扫描时，理论（对数）冷却调度不一定是关于自然性能标准的最优选择。多数论文会仔细调整温度参数以获得良好结果，但通用结果较少。大部分研究集中在与吉布斯采样器密切相关的 Metropolis 类型算法上。

不同学者对冷却调度进行了研究：
- HOFFMANN 和 SALA MAN（1990）为一个需要跨越一个峰值的三点函数找到了一种调度，其最优平均最终能量调度在 $N \to \infty$ 时与 HAJEK（1988）找到的最优理论调度一致。
- CATON’（在 AZENCOTT（1992a）中）表明，对于全局最小化器集合 $M$，通过指数调度 $A_{\lambda}$（其中 $\lambda$ 与 $N$ 无关，$\rho_N = (c\ln N)^{-1/N}$）可以得到在第 5.3 节计算的速率 $P(G/ \vee M) \sim (c/n)^{\alpha}$（具有最佳可能的 $\alpha$）。
- AZENCOTT 得出“适当调整的指数冷却调度优于对数冷却调度”的结论。

然而，HAJEK 和 SASAKI（1989）构造了一类问题，对于这类问题，任何单调调度