本文详细介绍了协方差矩阵的概念，从数学角度阐述了其前世今生，包括2阶中心距和2阶混合中心距，并展示了二维及多维随机变量的协方差矩阵构造。接着，文章将协方差矩阵引入到机器学习场景，解释了在大量样本中如何计算协方差矩阵，并通过实例展示了计算过程。最后，提供了快速计算协方差矩阵的公式。
一、数学中协方差矩阵的前世今生
1、前世
（1）随机变量XXX的2阶中心距：EEE{
[X−E(X)]2[X-E(X)]^2[X−E(X)]2}
（2）随机变量X和YX和YX和Y的2阶混合中心距：EEE{
[X−E(X)][Y−E(Y)][X-E(X)][Y-E(Y)][X−E(X)][Y−E(Y)]}
2、今生
协方差矩阵由2阶中心距和2阶混合中心距共同定义。
（1）二维变量的协方差矩阵
设二维随机变量（X1,X2X_1,X_2X1,X2），可得到四个2阶中心距，分别为：
c11c_{11}c11=EEE{
[X1−E(X1)]2[X_1-E(X_1)]^2[X1−E(X1)]2}
c12c_{12}c12=EEE{
[X1−E(X1)][X2−E(X2)][X_1-E(X_1)][X_2-E(X_2)][X1−E(X1)][X2−E(X2)]}
c21c_{21}c21=EEE{
[X2−E(X2)][X1−E(X1)][X_2-E(X_2)][X_1-E(X_1)][X2−E(X2)][X1−E(X1)]}
c22c_{22}c22=EEE{
[X2−E(X2)]2[X_2-E(X_2)]^2[X2−E(X2)]2}
由c11c_{11}c11，
最低0.47元/天 解锁文章
扫一扫
3944
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
