矩阵分解

我们考虑复数域上的矩阵。
1.Schur上三角化
每个复方阵都酉相似于某个上三角矩阵。
证明：（数学归纳法）
设$A\in M_n$,对阶数n作归纳法。
$n=1$,显然成立。
假设结论对$n-1$阶矩阵成立，现在考虑n阶的$A$.
任取$A$的一个特征值$\lambda$,和一个相应的特征向量$x_1$,将$x_1$扩充为$C^n$的一个标准正交基：$x_1,x_2,\cdots,x_n$,令$U_1=(x_1,x_2,\cdots,x_n)$,则$U_1$是酉矩阵，且：

$$U_1^*AU_1=\left( \begin{matrix} \lambda & y^* \\ 0&A_1 \end{matrix} \right)$$ 其中$A_1\in M_{n-1}$.
由归纳假设，存在酉矩阵$U_2\in M_{n-1}$使得$U_2^*A_1U_2$为上三角矩阵，令$U=U_1diag(1,U_2)\in M_n$,则$U$为酉矩阵，且
$$U^*AU=\left( \begin{matrix} \lambda & y^*U_2 \\ 0&U_2^*A_1U_2 \end{matrix} \right)$$ 为上三角矩阵。

2.谱分解
每个正规矩阵都酉相似于一个对角阵，即若$A\in M_n$正规，则存在酉矩阵$U\in M_n$满足：

$$A=Udiag(\lambda_1,\lambda_2,\cdots,\lambda_n)U^*$$ ,其中$\lambda_1,\lambda_2,\cdots,\lambda_n$是$A$的特征值。
证明：
存在酉矩阵$U$和上三角矩阵$T$满足$A=UTU^*$.从$A^*A=AA^*$得$TT^*=T^*T$.逐次比较$TT^*$和$T^*T$的第$i$个对角元素，$i=1,2,\cdots,n$知$T$的第$i$行的非对脚元素全部为零。

对角阵的记号$diag(s_1,\cdots,s_p)$也可以表示长方阵，其行数和列数可以从上下文看出。
3.奇异值分解
设$A\in M_{m,n}$则存在酉矩阵$U\in M_m$和酉矩阵$V\in M_n$使得：

$$UAV=diag(s_1,\cdots,s_p)$$ 这里$s_1\ge \cdots\ge s_p\ge 0,p=\min(m,n)$.
证明：同样可以用数学归纳法。略。

4.极分解
设$A\in M_n$,则存在半正定矩阵$P,Q$和酉矩阵$U,V$满足

$$A=PU=VQ$$
证明：
由奇异值分解定理，存在酉矩阵$W,Z$满足：
$$A=WDZ,\quad D=diag(s_1,\cdots,s_n),\quad s_1\ge \cdots\ge s_n\ge 0$$ 令$P=WDW^*,U=WZ,V=WZ,Q=Z^*DZ$即可。

5.满秩分解
设$A\in M_{m,n}$，其秩$rank\,A=r$，则有$F\in M_{m,r},G\in M_{r,n}$满足$A=FG$.
证明：
由奇异值分解定理，存在酉矩阵$U,V$使得

$$A=U\left( \begin{matrix} D&0\\ 0&0 \end{matrix} \right)V$$ 其中$D=diag(s_1,\cdots,s_r),s_1\ge \cdots\ge s_r> 0$.
记$\sqrt{D}=diag(\sqrt{s_1},\cdots,\sqrt{s_r})$,取
$$F=\left( \begin{matrix} \sqrt{D}\\ 0 \end{matrix} \right),\quad G=\left(\sqrt{D},0\right)V$$ 即可。

6.QR分解
设$A\in M_n$,则存在酉矩阵$Q$和上三角矩阵$R\in M_n$使得$A=QR$.
证明：
利用线性代数中的Gram-Schmidt正交化过程。