机器学习算法之PCA（简单明了）

在多元统计分析中，主成分分析（Principal components analysis，PCA）是一种分析、简化数据集的技术。主成分分析经常用于减少数据集的维数，同时保持数据集中的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。主成分分析由卡尔·皮尔逊于1901年发明，用于分析数据及建立数理模型。其方法主要是通过对协方差矩阵进行特征分解，以得出数据的主成分（即特征向量）与它们的权值（即特征值）。

1.回顾一下线性代数（Linear algebra）的知识：特征值、特征向量、奇异值分解（SVD）

首先，我们定义一个n*n的矩阵A和一个非零向量