61、基于粒子的近似推理中的重要性采样方法

基于粒子的近似推理中的重要性采样方法

在概率推理中，我们常常需要估计某个函数相对于特定分布的期望。重要性采样是一种通用的方法，它可以帮助我们解决在某些情况下难以直接从目标分布采样的问题。

重要性采样概述

设 $X$ 是一个变量（或一组变量），其取值空间为 $Val(X)$。重要性采样的目标是估计函数 $f(x)$ 相对于目标分布 $P(X)$ 的期望。通常，我们可以直接从 $P$ 中生成样本 $x[1], \ldots, x[M]$，然后通过下式估计期望：
[IE_P [f] \approx \frac{1}{M} \sum_{m=1}^{M} f(x[m])]

然而，在某些情况下，直接从 $P$ 采样可能是不可能的，或者计算成本非常高。例如，$P$ 可能是贝叶斯网络的后验分布，或者是马尔可夫网络的先验分布。这时，我们可以选择从另一个分布 $Q$（称为提议分布或采样分布）中采样。

提议分布 $Q$ 可以是任意的，但需要满足当 $P(x) > 0$ 时，$Q(x) > 0$，即 $Q$ 不能“忽略” $P$ 中概率非零的状态。重要性采样的计算性能强烈依赖于 $Q$ 与 $P$ 的相似程度。

未归一化重要性采样

如果我们从 $Q$ 而不是 $P$ 生成样本，就不能简单地对生成样本的 $f$ 值求平均，需要调整估计器以补偿不正确的采样分布。基于以下观察：
[IE_{P(X)}[f(X)] = IE_{Q(X)} \left[ \frac{f(X)P(X)}{Q(X)} \right]]

我们可以使用相对于 $Q$ 的标准期望估计器。具体来说，从 $Q$ 生成一组样本 $D