PCA主成分分析-从五个点说起-最大方差法

PCA(Principal Components Analysis,主成分分析)是降维规约技术中的常用方法。目的：找出一个更好捕获数据变异性的，新的维（属性）集合。或者说，所选取的第一维要尽可能的多获取数据的变异性。第二维与第一个正交，并且尽可能地多捕获剩余的变异性，如此下去。

PCA主成分分析-从五个点说起（代码为R）

现有如下五个点：

为了便于计算方差和写方差，将原点移动至中心点，此时的绝对距离是不变的。X1，X2的均值均为6，移动后坐标如下：

计算得到的x1,x2坐标轴下的方差协方差如下：

此时x1和x2的方差相差不大。x1的方差+x2的方差=18.8，也就是总投影长度。

计算方差写方差矩阵的特征根和特征向量。

value的为特征根，即方差，第一个主成分的方差为16.027217，第二个为2.772783。加起来和变换前的方差一致。第一个主成分占了85.25%的贡献率。vectors为特征向量。

计算新坐标：原坐标*特征向量。

从最大方差法解释：

问：为什么一开始可以用方差协方差矩阵计算？
PCA