9、统计推断、非参数方法与机器学习和科学哲学的关联

统计推断、非参数方法与机器学习和科学哲学的关联

统计推断之预测分布

在多元多元回归模型中，我们先考虑其回归和尺度矩阵的非信息先验分布：
[p(\beta, \Sigma^{-1}) \propto |\Sigma^{-1}|^{\frac{p + 1}{2}}]

假设误差遵循矩阵变量椭圆对称分布，已进行实验的响应矩阵 (Y) 和未来实验的响应矩阵 (Y_f) 的联合密度可表示为：
[f(Y, Y_f|\beta, \Sigma^{-1}) \propto |\Sigma^{-1}|^{\frac{n + n_f}{2}}g\left(\text{tr}\left{\Sigma^{-1}\left[R_1(Y, Z) + R_2(Y_f, Z_f)\right]\right}\right)]
其中：
[R_1(Y, Z) = (Y - \beta Z)(Y - \beta Z)^T]
[R_2(Y_f, Z_f) = (Y_f - \beta Z_f)(Y_f - \beta Z_f)^T]

设 (p(\beta, \Sigma^{-1}|Y, Y_f)) 为 (\beta) 和 (\Sigma^{-1}) 的后验密度，未来响应矩阵 (Y_f) 的预测分布可通过求解以下积分得到：
[p(Y_f|Y) \propto \int_{\beta}\int_{\Sigma^{-1}} p(Y, Y_f|\beta, \Sigma)p(\beta, \Sigma^{-1})d\Sigma^{-1}d\beta]

为计算矩阵积分，令 (\Sigma^{-1} = \Omega)，则 (d\Sigma = |\Ome