多元正态分布的条件分布与边缘分布

问题概述

问题是这样的,一个 n n n元的随机向量
x = [ x 1 x 2 ] x = \left [ \begin{matrix}x_1 \\ x_2\end{matrix} \right ] x=[x1x2] 服从正态分布 N ( x , μ , Σ ) N(x,\mu,\Sigma) N(x,μ,Σ),其中

μ = [ μ 1 μ 2 ] \mu = \left [ \begin{matrix}\mu_1 \\ \mu_2\end{matrix} \right ] μ=[μ1μ2]

Σ = [ Σ 11 Σ 12 Σ 21 Σ 22 ] \Sigma = \left [ \begin{matrix}\Sigma_{11}&\Sigma_{12} \\ \Sigma_{21}&\Sigma_{22}\end{matrix} \right ] Σ=[Σ11Σ21Σ12Σ22]

注意到, x 1 x_1 x1 x 2 x_2 x2的维度分别是 p p p q q q,且 p + q = n p+q=n p+q=n,且有 Σ = Σ T \Sigma=\Sigma^T Σ=ΣT Σ 21 = Σ 21 T \Sigma_{21}=\Sigma_{21}^T Σ21=Σ21T

此时应该有如下两个结论

结论1
x 1 , x 2 x_1,x_2 x1,x2的边缘分布也是正态分布,均值为向量 μ i \mu_i μi,协方差矩阵为 Σ i i ( i = 1 , 2 ) \Sigma_{ii}(i=1,2) Σii(i=1,2)

结论2
给定 x j x_j xj时, x i x_i xi的条件分布也是正态分布,均值为向量 μ i ∣ j = μ i + Σ i j Σ j j − 1 ( x j − μ j ) \mu_{i|j}=\mu_i + \Sigma_{ij}\Sigma_{jj}^{-1}(x_j-\mu_j) μij=μi+ΣijΣjj1(xjμj),协方差矩阵为 Σ i ∣ j = Σ j j − Σ i j T Σ i i − 1 Σ i j \Sigma_{i|j}=\Sigma_{jj}-\Sigma_{ij}^T\Sigma_{ii}^{-1}\Sigma_{ij} Σij=ΣjjΣijTΣii1Σij

课上老师给出了结论2中关于均值和协方差矩阵的简单证明方法,我纠结的点主要在如何去证明条件分布本身是正态分布。在参考链接中得到了答案。

参考链接:
详细证明:http://fourier.eng.hmc.edu/e161/lectures/gaussianprocess/node7.html
A glimpse:http://www.stats.ox.ac.uk/~steffen/teaching/bs2HT9/gauss.pdf
问题解析出处参考:https://stats.stackexchange.com/questions/30588/deriving-the-conditional-distributions-of-a-multivariate-normal-distribution

评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值