机器学习之高斯分布例题

最新推荐文章于 2022-10-17 20:00:42 发布

原创

最新推荐文章于 2022-10-17 20:00:42 发布 · 2k 阅读

8 ·

CC 4.0 BY-SA版权

本文详细探讨了三维正态分布的性质，包括计算特定点的概率密度，构建并应用白化变换矩阵，将分布转换为以原点为中心、协方差为单位阵的形式。此外，还讨论了马氏距离在变换前后的一致性以及概率密度在线性变换下的一般变化规律。最后证明了白化变换如何确保高斯分布的协方差与单位阵成比例。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

考虑三维正态分布 $p(x∣ω)∼N(μ∣Σ)p({\bf x}\mid\omega)\sim N({\bf \mu}\mid\Sigma)$ ，其中 $μ=(122){\bf \mu}=\left( \begin{matrix}1\\2\\2\end{matrix} \right)$ 及 $Σ=(100052025)\Sigma=\left( \begin{matrix} 1 & 0 & 0 \\ 0 & 5 & 2 \\ 0 & 2 &5 \end{matrix} \right)$

(a) 求点 $x_0=(0.5,0,1)^T$ 处的概率密度；

解：根据正态分布密度公式：

$−12(x−μ)TΣ−1(x−μ)}N({\bf \mu}\mid\Sigma)= \frac {1}{(2\pi)^{D/2}}\frac {1}{|\Sigma|^{1/2}}exp\left \{ \frac{-1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu) \right \}$

其中，由题目条件可知 $x0−μ=(−0.5−2−1),∣Σ∣−1=(1000521−2210−221521),∣Σ∣=21x_0-\mu=\left( \begin{matrix}-0.5\\-2\\-1\end{matrix} \right),|\Sigma|^{-1}=\left( \begin{matrix} 1&0&0 \\ 0&\frac{5}{21}&-\frac{2}{21} \\ 0&-\frac{2}{21}&\frac{5}{21} \end{matrix} \right),|\Sigma|=21$

因此，
$−89168}\begin{aligned} p(x_0\mid\mu)&=\frac {1}{(2\pi)^{3/2}}\frac {1}{|\Sigma|^{1/2}}exp\left \{ \frac{-1}{2}(x_0-\mu)^T\Sigma^{-1}(x_0-\mu) \right \} \\ &=\frac{1}{\sqrt{168\pi^3}}exp \left \{ -\frac{89}{168} \right \} \end{aligned}$