19、马尔可夫链蒙特卡罗方法详解

马尔可夫链蒙特卡罗方法详解

1. 引言

蒙特卡罗积分的数值方法依赖于从近似后验密度函数 $p(x|y, C)$ 的分布中生成随机样本，这里的 $x$ 是未知参数的随机向量。现在我们将介绍基于直接从后验密度函数 $p(x|y, C)$ 生成随机变量的数值方法。

1.1 生成随机变量的方法

• 特殊情况 ：在某些特殊情况下，$p(x|y, C)$ 是可处理的，从而可以直接抽取随机样本。
• 比例计算 ：当 $p(x|y, C)$ 难以处理但可表示为可处理密度函数的比例时，可以通过可处理密度函数的随机样本的比例来计算随机变量。
• 正态分布转换 ：还可以从正态分布的观测值中生成样本，并通过未知参数的估计值对其进行变换，以获得参数的随机变量。

1.2 马尔可夫链蒙特卡罗方法概述

马尔可夫链蒙特卡罗（MCMC）方法是生成后验密度函数 $p(x|y, C)$ 随机变量的通用方法。它在未知参数 $x$ 的参数空间 $X$ 中模拟一个马尔可夫链，使得该链的极限分布就是目标分布，即具有后验密度函数 $p(x|y, C)$ 的分布。随机变量 $x$ 从近似分布中生成，然后逐步向目标分布的更好近似移动。样本是顺序抽取的，每个样本的分布依赖于前一次抽取，从而形成一个马尔可夫链。在模拟的每一步，近似分布都会得到改进，直到收敛到目标分布。下面将介绍两种 MCMC 方法：Metropolis 算法和 Gibbs 采样器。

2. Metropolis 算法