PCA主成分分析
PCA(principal components analysis)主成分分析是一种较老的一种应用于降维的方法,其目的是在于找到一种线性映射,将原始输入向量映射至较低维向量空间,同时使得向量间的方差最大(为了使得各向量能区分的更好)。并且,该线性映射不是普通的线性映射,而是正交的,使得映射后各维度正交以更好地解释。
下面来具体解释一下PCA的内部推导过程
原理篇
构造映射
根据我们的思路,假设我们的线性映射对应的向量为 ai a i 且正交,原向量为 xi x i ,经过映射后的向量为 yi y i ,原向量矩阵的协方差矩阵为 Σ Σ ,那么我们的目的可如下表示
argmaxaiVaryi a r g m a x a i V a r y i
a′iai=1