机器学习系列：变分推断

1. Introduction

我们已经知道概率模型可以分为，频率派的优化问题和贝叶斯派的积分问题。从贝叶斯角度来看推断，对于 $\hat{x}$ 这样的新样本，需要得到： $$p(\hat{x}|X)={\int }_{\theta }p(\hat{x},\theta |X)d\theta ={\int }_{\theta }p(\theta |X)p(\hat{x}|\theta ,X)d\theta$$ 如果新样本和数据集独立，那么推断就是概率分布依参数后验分布的期望。

我们看到，推断问题的中心是参数后验分布的求解，推断分为：

1. 精确推断
2. 近似推断-参数空间无法精确求解
   • 确定性近似-如变分推断,找到近似的函数进行推断
   • 随机近似-如 MCMC，MH，Gibbs，通过采样的方式进行近似推断

2. 基于平均场假设的变分推断

我们记 $Z$ 为隐变量和参数的集合，$Z_i$ 为第 $i$ 维的参数，于是，回顾一下 EM 中的推导： $$\log p(X)=\log p(X,Z)-\log p(Z|X)=\log \frac{p(X,Z)}{q(Z)}-\log \frac{p(Z|X)}{q(Z)}$$ 左右两边分别积分： $$\begin{gathered} Left:{\int }_{Z}q(Z)\log p(X)dZ=\log p(X) \\ Right:{\int }_Z[\log \frac{p(X,Z)}{q(Z)}-\log \frac{p(Z|X)}{q(Z)}]q(Z)dZ=ELBO+KL(q,p) \end{gathered}$$令$L(q)=ELBO$， 第二个式子可以写为变分和 KL 散度的和： $$L(q)+KL(q,p)$$我们的目的是找到一个q近似等于p，观察$KL$散度的式子$:{\int }_Z\log \frac{p(Z|X)}{q(Z)}q(Z)dZ$,如果p=q，那么$KL=0$，而式子左端是个固定值，那么就相当于对 $L(q)$ 最大值。 $$\hat{q}(Z)=\underset{q(Z)}{\mathrm{argmax}}L(q)$$ 假设 $q(Z)$ 可以划分为 $M$ 个组（平均场近似）： $$q(Z)=\prod _{i=1}^M{q}_i(Z_i)$$ 因此，在 $L(q)={\int }_{Z}q(Z)\log p(X,Z)dZ-{\int }_{Z}q(Z)\log q(Z)$ 中，看 $p(Z_j)$ ，第一项： $$\begin{array}{rl}{\int }_{Z}q(Z)\log p(X,Z)dZ& ={\int }_Z\prod _{i=1}^M{q}_i(Z_i)\log p(X,Z)dZ\\ & ={\int }_{Z_j}{q}_j(Z_j){\int }_{Z-Z_j}\prod _{i\ne j}{q}_i(Z_i)\log p(X,Z)dZ\\ & ={\int }_{Z_j}{q}_j(Z_j)\mathbb{E}\prod i\ne j{q}_i(Z_i)[\log p(X,Z)]d{Z}_j\end{array}$$
第二项： $${\int }_{Z}q(Z)\log q(Z)dZ={\int }_Z\prod _{i=1}^M{q}_i(Z_i)\sum _{i=1}^M\log q_i(Z_i)dZ$$ 展开求和项第一项为： $${\int }_Z\prod _{i=1}^M{q}_i(Z_i)\log q_1(Z_1)dZ={\int }_{Z_1}{q}_1(Z_1)\log q_1(Z_1)d{Z}_1$$ 所以： $${\int }_{Z}q(Z)\log q(Z)dZ=\sum _{i=1}^M{\int }_{Z_i}{q}_i(Z_i)\log q_i(Z_i)d{Z}_i={\int }_{Z_j}{q}_j(Z_j)\log q_j(Z_j)d{Z}_j+Const$$ 两项相减，令 $\mathbb{E}\prod i\ne j{q}_i(Z_i)[\log p(X,Z)]=\log \hat{p}(X,Z_j)$ 可以得到： $$-{\int }_{Z_j}{q}_j(Z_j)\log \frac{q_j(Z_j)}{\hat{p}(X,Z_j)}d{Z}_j\le 0$$ 于是最大的 $q_j(Z_j)=\hat{p}(X,Z_j)$ 才能得到最大值。我们看到，对每一个 $q_j$，都是固定其余的 $q_i$，求这个值，于是可以使用坐标上升的方法进行迭代求解，上面的推导针对单个样本，但是对数据集也是适用的。
基于平均场假设的变分推断存在一些问题：

1. 假设太强，$Z$ 非常复杂的情况下，假设不适用
2. 期望中的积分，可能无法计算