奇异值（SVD)分解

超定方程

奇异值分解经常用在求解一个超定方程的最小二乘解，超定方程就是线性无关方程组的个数大于未知数个数的方程组。

奇异矩阵

奇异矩阵和非奇异矩阵是相对方阵的，如果方阵A的行列式det(A)=0，则称A为奇异矩阵，否则称A为非奇异矩阵。

奇异值分解

任何矩阵都可以进行奇异值分解：SVD(A${}_{m\ast n}$)=U${}_{m\ast m}$${\Sigma }_{m\ast n}$$V$${}_{n\ast n}^T$，U和V均为正交矩阵。$\Sigma$为对角矩阵。
A${}^T$A非零的特征值的非负平方根称为A的奇异值。$\Sigma$是对角矩阵对角线从大到小存放A的奇异值$\sigma$，若$\lambda$是AT{^{T}}