机器学习（十）：PCA

1. PCA

1.1 PCA算法

为什么要使用主成分分析？正如名字所示，其目的显而易见，不再赘述，此处从自动编码器的角度审视PCA。

最小化如下损失函数：

$$C=\frac 1{2m} \sum_{i=1}^m ||y^{(i)}-WW^Tx^{(i)}||^2$$ 根据 $WW^T$的对称性，我们使用eigen-decompose： $$WW^T=VDV^T$$ 其中V是单位正交阵，D是对角矩阵，都是d*d维， $VV^T=I$， $D$中的非零值小于 d¯