3、卷积方法在高斯过程建模中的应用

卷积方法在高斯过程建模中的应用

1. 卷积方法简介

卷积方法是获得高斯过程的一种便捷方式。通过将白噪声与平滑核进行卷积，可以得到高斯过程。设 $w(s)$ 为白噪声过程，$k(·; φ)$ 为可能依赖于低维参数 $φ$ 的核，则高斯过程可表示为：
$x(s) = \int_{S} k(u - s; φ)w(u)du = \int_{S} k(u - s; φ)dW(u)$
其中 $W$ 是维纳过程。该过程 $x(s)$ 的协方差函数仅依赖于位移向量 $d_{s,s′} = s - s′$，即：
$C(d_{s,s′}) = cov(x(s), x(s′)) = \int_{S} k(u - s; φ)k(u - s′; φ)du = \int_{S} k(u - d_{s,s′}; φ)k(u; φ)du$

1.1 各向同性核与协方差函数的关系

若 $S$ 是 $R^p$ 且 $k(s)$ 是各向同性的，则 $x(s)$ 也是各向同性的，其协方差函数 $C(d_{s,s′})$ 仅依赖于 $d_{s,s′}$ 的大小 $d$。在一定条件下，平滑核 $k(d)$ 与协方差图 $C(d)$ 存在一一对应关系。例如，对于给定的 $C(·)$，$k(·; φ)$ 可通过 $C$ 的谱密度平方根的逆傅里叶变换得到。

1.2 离散近似

通过固定有限个均匀间隔的点 $s_1, …, s_M$，可得到上述积分的离散近似：
$x(s) \approx \sum_{i = 1}^{M} k(s_i - s; φ)w(s_i)$
其中 $w(·)$ 是白噪声。

1.3 核的选择对结果