机器学习之高斯分布例题

本文详细探讨了三维正态分布的性质,包括计算特定点的概率密度,构建并应用白化变换矩阵,将分布转换为以原点为中心、协方差为单位阵的形式。此外,还讨论了马氏距离在变换前后的一致性以及概率密度在线性变换下的一般变化规律。最后证明了白化变换如何确保高斯分布的协方差与单位阵成比例。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

考虑三维正态分布p(x∣ω)∼N(μ∣Σ)p({\bf x}\mid\omega)\sim N({\bf \mu}\mid\Sigma)p(xω)N(μΣ),其中μ=(122){\bf \mu}=\left( \begin{matrix}1\\2\\2\end{matrix} \right)μ=122Σ=(100052025)\Sigma=\left( \begin{matrix} 1 & 0 & 0 \\ 0 & 5 & 2 \\ 0 & 2 &5 \end{matrix} \right)Σ=100052025

(a) 求点x0=(0.5,0,1)Tx_0=(0.5,0,1)^Tx0=(0.5,0,1)T处的概率密度;

解:根据正态分布密度公式:

N(μ∣Σ)=1(2π)D/21∣Σ∣1/2exp{ −12(x−μ)TΣ−1(x−μ)}N({\bf \mu}\mid\Sigma)= \frac {1}{(2\pi)^{D/2}}\frac {1}{|\Sigma|^{1/2}}exp\left \{ \frac{-1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu) \right \}N(μΣ)=(2π)D/21Σ1/21exp{ 21(xμ)TΣ1(xμ)}

其中,由题目条件可知 x0−μ=(−0.5−2−1),∣Σ∣−1=(1000521−2210−221521),∣Σ∣=21x_0-\mu=\left( \begin{matrix}-0.5\\-2\\-1\end{matrix} \right),|\Sigma|^{-1}=\left( \begin{matrix} 1&0&0 \\ 0&\frac{5}{21}&-\frac{2}{21} \\ 0&-\frac{2}{21}&\frac{5}{21} \end{matrix} \right),|\Sigma|=21x0μ=0.521,Σ1=10002152120212215,Σ=21

因此,
p(x0∣μ)=1(2π)3/21∣Σ∣1/2exp{ −12(x0−μ)TΣ−1(x0−μ)}=1168π3exp{ −89168}\begin{aligned} p(x_0\mid\mu)&=\frac {1}{(2\pi)^{3/2}}\frac {1}{|\Sigma|^{1/2}}exp\left \{ \frac{-1}{2}(x_0-\mu)^T\Sigma^{-1}(x_0-\mu) \right \} \\ &=\frac{1}{\sqrt{168\pi^3}}exp \left \{ -\frac{89}{168} \right \} \end{aligned}p(x0μ)=(2π)3/21Σ1/21exp{ 21(x0μ)TΣ1(x0μ)}=168π3 1exp{ 16889}

(b) 构造白化变换矩阵Aω(Aω=ΦΛ−1/2)A_\omega(A_\omega=\Phi\Lambda^{-1/2})Aω(Aω=ΦΛ

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值