协方差矩阵公式推导

最新推荐文章于 2024-11-14 12:59:51 发布

weixin_30877493

最新推荐文章于 2024-11-14 12:59:51 发布

阅读量1.1k

点赞数

CC 4.0 BY-SA版权

文章标签：数据结构与算法

原文链接：http://www.cnblogs.com/thinkers-dym/p/4492817.html

本文详细阐述了如何将n维随机变量的协方差矩阵写成向量形式，通过逐步推导证明了其与一维随机向量方差公式的一致性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

已知n维随机变量\(\vec{X}=(X_{1},X_{2},...,X_{n})\)的协方差矩阵为\(C = \begin{bmatrix}c_{11} & c_{12} & ... & c_{1n} \\c_{21} & c_{22} & ... & c_{2n} \\. & .& &.\\. & .& &.\\. & .& &.\\c_{n1} & c_{n2} &...&c_{nn}\end{bmatrix} \)，其中\(c_{ij} = E\big\{[X_{i}-E(X_{i})][X_{j}-E(X_{j})]\big\}\)。那么，能否将协方差矩阵写成向量形式呢？即写成和一维随机向量的方差公式类似的形式：\(D(X) = E(X-E(X))^{2} \)。

我们来证明一下，设\(X_{i}\)的样本量为m，由协方差矩阵的公式，可知：

\(C = \frac{1}{m}\begin{bmatrix} (X_{1}-E(X_{1}))^{T}(X_{1}-E(X_{1})) & ... & (X_{1}-E(X_{1}))^{T}(X_{n}-E(X_{n})) \\ (X_{2}-E(X_{2}))^{T}(X_{1}-E(X_{1})) & ... & (X_{2}-E(X_{2}))^{T}(X_{n}-E(X_{n})) \\. &. & .\\. &. & .\\. &. & .\\ (X_{n}-E(X_{n}))^{T}(X_{1}-E(X_{1})) & ... & (X_{n}-E(X_{n}))^{T}(X_{n}-E(X_{n})) \end{bmatrix} \)

\( = \frac{1}{m}\begin{bmatrix} (X_{1}-E(X_{1}))^{T} \\ (X_{2}-E(X_{2}))^{T} \\ .\\. \\. \\ (X_{n}-E(X_{n}))^{T} \end{bmatrix} \begin{bmatrix} X_{1}-E(X_{1}), & X_{2}-E(X_{2}), &...,& X_{n}-E(X_{n}) \end{bmatrix} \)

\( = \frac{1}{m}(\vec{X}-E(\vec{X}))^{T}(\vec{X}-E(\vec{X})) \)

\( = E((\vec{X}-E(\vec{X}))^{T}(\vec{X}-E(\vec{X}))) \)

推导结果与一维随机向量的方差公式是一致的，所以，我们的猜测是正确的，证毕。

转载于:https://www.cnblogs.com/thinkers-dym/p/4492817.html