问题概述
问题是这样的,一个
n
n
n元的随机向量
x
=
[
x
1
x
2
]
x = \left [ \begin{matrix}x_1 \\ x_2\end{matrix} \right ]
x=[x1x2] 服从正态分布
N
(
x
,
μ
,
Σ
)
N(x,\mu,\Sigma)
N(x,μ,Σ),其中
μ = [ μ 1 μ 2 ] \mu = \left [ \begin{matrix}\mu_1 \\ \mu_2\end{matrix} \right ] μ=[μ1μ2]
Σ = [ Σ 11 Σ 12 Σ 21 Σ 22 ] \Sigma = \left [ \begin{matrix}\Sigma_{11}&\Sigma_{12} \\ \Sigma_{21}&\Sigma_{22}\end{matrix} \right ] Σ=[Σ11Σ21Σ12Σ22]
注意到, x 1 x_1 x1和 x 2 x_2 x2的维度分别是 p p p和 q q q,且 p + q = n p+q=n p+q=n,且有 Σ = Σ T \Sigma=\Sigma^T Σ=ΣT和 Σ 21 = Σ 21 T \Sigma_{21}=\Sigma_{21}^T Σ21=Σ21T。
此时应该有如下两个结论:
结论1:
x
1
,
x
2
x_1,x_2
x1,x2的边缘分布也是正态分布,均值为向量
μ
i
\mu_i
μi,协方差矩阵为
Σ
i
i
(
i
=
1
,
2
)
\Sigma_{ii}(i=1,2)
Σii(i=1,2)。
结论2:
给定
x
j
x_j
xj时,
x
i
x_i
xi的条件分布也是正态分布,均值为向量
μ
i
∣
j
=
μ
i
+
Σ
i
j
Σ
j
j
−
1
(
x
j
−
μ
j
)
\mu_{i|j}=\mu_i + \Sigma_{ij}\Sigma_{jj}^{-1}(x_j-\mu_j)
μi∣j=μi+ΣijΣjj−1(xj−μj),协方差矩阵为
Σ
i
∣
j
=
Σ
j
j
−
Σ
i
j
T
Σ
i
i
−
1
Σ
i
j
\Sigma_{i|j}=\Sigma_{jj}-\Sigma_{ij}^T\Sigma_{ii}^{-1}\Sigma_{ij}
Σi∣j=Σjj−ΣijTΣii−1Σij
课上老师给出了结论2中关于均值和协方差矩阵的简单证明方法,我纠结的点主要在如何去证明条件分布本身是正态分布。在参考链接中得到了答案。
参考链接:
详细证明:http://fourier.eng.hmc.edu/e161/lectures/gaussianprocess/node7.html
A glimpse:http://www.stats.ox.ac.uk/~steffen/teaching/bs2HT9/gauss.pdf
问题解析出处参考:https://stats.stackexchange.com/questions/30588/deriving-the-conditional-distributions-of-a-multivariate-normal-distribution
5774

被折叠的 条评论
为什么被折叠?



