SVD与PCA的问题

摘要：

继上一篇文章对PCA分析后，这篇文章将介绍一个每提及PCA时，都会提到的名字SVD。

SVD是什么？

SVD，奇异值分解。是属于矩阵分解里面的一种方法。
在谈论SVD之前，其实有必要回忆另外的一种很常用的矩阵分解。

可以看到，对于任意的n×n的对称矩阵A，都存在$A=VDV^T$。
那么假如矩阵A不是方针那么是否存在类似的分解呢？没错，这个就是SVD分解。

说的简单一点，就是对于任意m×n的矩阵A，可以将其分解为$A=USV^T$。

那么U、S、V是什么呢？如何求解呢？其实思路很简单。

我们两边同时右乘一个$A^T$在$A=USV^T$中，可以获得：

$AA^T=USV^TA^T$，同时，我们有 AT=VSTUT A T = V S T