模拟退火算法

模拟退火算法解决的问题

Kirkpatrick等人受到Metropolis等人用蒙特卡罗模拟的启发而发明了“模拟退火”这个名词，因为它和物体退火过程相类似。寻找问题的最优解（最值）即类似寻找系统的最低能量。因此系统降温时，能量也逐渐下降，而同样意义地，问题的解也“下降”到最值。

退火的物理描述

退火是物体逐渐降温的物理现象，温度越低，物体的能量状态就越低，自然状态下慢慢降温（即退火）时，可以找到系统最低能量状态。反之，如果系统急速冷却，反而有可能导致达到的不是最低能量状态。

模拟退火(Simulate Anneal)

模拟退火其实也是一种Greedy算法，但是它的搜索过程引入了随机因素。模拟退火算法以一定的概率来接受一个比当前解要差的解，因此有可能会跳出这个局部的最优解，达到全局的最优解。
结合代码的解释请参阅博客，MCMC方法里的M-H采样里面也有接受率这一概念，以一个概率去选择接受这个状态与否。