pca
pca可用于数据降维,也可以用于特征选择。pca通过将数据集映射到方差最大的方向上,保留影响分类最大的因素,减少数据维数。
pca求解方法
pca如何将数据集映射到方差最大的方向上呢?
对于方阵而言
通过特征值 λ \lambda λ和特征向量 x x x,即 A x = λ x Ax=\lambda x Ax=λx,将特征值从大到小排序,选择特征值较大的特征向量就是方差较大的方向。
对于不是方阵的矩阵
通过SVD来求解,将矩阵分解成 A = U ∑ V A=U\sum V A=U∑V,其中 U U U