62、马尔可夫链蒙特卡罗方法与Metropolis–Hastings算法详解

马尔可夫链蒙特卡罗方法与Metropolis–Hastings算法详解

1. 马尔可夫链蒙特卡罗方法（MCMC）概述

MCMC方法是一种强大的采样技术，在统计学和机器学习领域有着广泛的应用。与接受 - 拒绝方法相比，MCMC方法更容易实现，因为它只需要定义一个马尔可夫链，而不需要定义推荐分布。通常情况下，MCMC方法比接受 - 拒绝方法更高效，虽然在燃烧期的样本会被丢弃，但不会有大量被拒绝的样本。

2. MCMC方法的基本步骤

MCMC方法可以总结为以下三个步骤：
1. 构建马尔可夫链 ：在随机变量 (x) 的状态空间 (\mathbb{S}) 上构建一个满足遍历定理的马尔可夫链，并使其平稳分布为目标分布 (p(x))。
2. 生成样本序列 ：从状态空间中的某一点 (x_0) 开始，使用构建好的马尔可夫链进行随机游走，生成样本序列 (x_0, x_1, \cdots, x_t, \cdots)。
3. 计算遍历均值 ：应用马尔可夫链的遍历定理，确定正整数 (m) 和 (n)（(m < n)），得到样本集 ({x_{m + 1}, x_{m + 2}, \cdots, x_n})，计算函数 (f(x)) 的均值（遍历均值）：
[
\hat{E}f = \frac{1}{n - m} \sum_{i = m + 1}^{n} f(x_i)
]
这就是MCMC方法的计算公式。

然而，在实际应用中，还需要解决几个重要问题：
- 如何定义马尔可夫链以确保MCMC方法的条