特征值分解与奇异值分解

矩阵的本质：线性变换

要想弄清楚特征值分解与奇异值分解的原理，首先要明白：矩阵的本质就是线性变换

首先看一个对角矩阵：

将此变换矩阵作用于向量(x,y)上后，向量(x,y)的x方向扩大了三倍，y方向不变

如图所示：

当M为如下所示的对角阵时：

变换矩阵的作用可以看作——把原向量沿着右边平行四边形的两条对角线方向上各自伸缩一定的倍数：