PRML读书会第十一章 Sampling Methods（MCMC， Markov Chain Monte Carlo，Metropolis-Hastings，Gibbs Sampling)-优快云博客

本文介绍了Markov Chain Monte Carlo (MCMC) 方法，包括Metropolis-Hastings算法和Gibbs Sampling。通过这些方法，可以解决统计学中复杂的分布积分问题，特别是在贝叶斯方法中。Metropolis-Hastings算法通过接受率公式确保细致平稳条件，而Gibbs Sampling作为其特例，每次只对一个变量进行采样。此外，还讨论了步长选择、slice sampling和Hamiltonian MCMC等技术，以及如何判断MCMC的burn-in阶段何时收敛。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

主讲人网络上的尼采

（新浪微博:@Nietzsche_复杂网络机器学习）

网络上的尼采(813394698) 9:05:00
今天的主要内容：Markov Chain Monte Carlo，Metropolis-Hastings，Gibbs Sampling，Slice Sampling，Hybrid Monte Carlo。

上一章讲到的平均场是统计物理学中常用的一种思想，将无法处理的复杂多体问题分解成可以处理的单体问题来近似，变分推断便是在平均场的假设约束下求泛函L(Q)极值的最优化问题，好处在于求解过程中可以推出精致的解析解。变分是从最优化的角度通过坐标上升法收敛到局部最优，这一章我们将通过计算从动力学角度见证Markov Chain Monte Carlo收敛到平稳分布。

先说sampling的原因，因为统计学中经常会遇到对复杂的分布做加和与积分，这往往是intractable的。MCMC方法出现后贝叶斯方法才得以发展，因为在那之前对不可观测变量（包括隐变量和参数）后验分布积分非常困难，对于这个问题上一章变分用的解决办法是通过最优化方法寻找一个和不可观测变量后验分布p(Z|X)近似的分布，这一章我们看下sampling的解决方法，举个简单的例子：比如我们遇到这种形式，z是个连续随机变量，p(z)是它的分布，我们求f(z)的期望。如果我们从p(z)中sampling一个数据集z^(l)，然后再求个平均来近似f(z)的期望，so,问题就解决了，关键是如何从p(z)中做无偏的sampling。
为了说明sampling的作用，我们先举个EM的例子，最大似然计算中求分布的积分问题，我们在第九章提到了，完整数据的log似然函数是对隐变量Z的积分：