13、马尔可夫链蒙特卡罗算法的推广、改进与收敛性分析

马尔可夫链蒙特卡罗算法的推广、改进与收敛性分析

1. 马尔可夫和吉布斯类型采样器的推广与改进

1.1 马尔可夫 - 黑斯廷斯算法

在许多情况下，更新过程并非基于能量函数 $H$ 来表述，而是通过想要采样的场 $\Pi$ 来实现。给定提议矩阵 $G$ 和 $X$ 上的严格正概率分布 $\Pi$，马尔可夫采样器可定义如下：
- 当 $\Pi(y) < \Pi(x)$ 时，$\pi(x,y) = G(x,y)\frac{\Pi(y)}{\Pi(x)}$；
- 当 $\Pi(y) > \Pi(x)$ 且 $x \neq y$ 时，$\pi(x,y) = G(x,y)$；
- 当 $x = y$ 时，$\pi(x,y) = 1 - \sum_{z\neq x} \pi(x,z)$。

若 $\Pi$ 是能量函数 $H$ 的吉布斯场，那么上述定义等价于另一种形式。黑斯廷斯（1970）提出了更通用、更灵活的马尔可夫算法形式。对于任意转移核 $G$，定义如下：
- 当 $x \neq y$ 时，$\pi(x,y) = G(x,y)A(x,y)$；
- 当 $x = y$ 时，$\pi(x,y) = 1 - \sum_{z\neq x} \pi(x,z)$。

其中，$A(x,y) = \frac{1}{1 + \frac{G(x,y)\Pi(x)}{G(y,x)\Pi(y)}}$，且 $S$ 是对称矩阵，使得对于所有的 $x$ 和 $y$，有 $0 < A(x,y) < 1$。当 $G(x,y)$ 和 $G(y,x)$ 要么都为正，要么都为零时，这种定义是合理的。详细平衡方程很容易验证，因此 $\Pi$