我们先回忆一下方差
协方差
协方差描述了不同特征之间的相关情况,通过计算协方差,可以判断不同特征之间的关联关系,
如果(X, Y)是二维随机变量,且D(X)>0, D(Y)>0,则X,Y的协方差的定义是:
协方差矩阵
二维协方差矩阵
由协方差性质可知:cov(A,B)=cov(B,A)
cov(A,A)=D(A)
可见矩阵由方差和协方差两部分组成,是个对称矩阵。
协方差只能处理二维问题,对于三维以上数据,就需要计算多个协方差,然后用矩阵将其组织起来,这就是协方差矩阵。