《矩阵论》学习笔记 第0章 复习与引申

《矩阵论》学习笔记。学习视频为东南大学周建华教授的矩阵论课程，B站上可以搜到。

一、 矩阵乘法中应注意的问题

1. 矩阵乘法中存在非零因子

例1.
已知$$N=\left[\begin{array}{ccccc}0& 1& & & \\ & 0& 1& & \\ & & 0& \ddots & 1\\ & & & \ddots & 0\end{array}\right]$$求$N^s$
解：$$N^s=\left[\begin{array}{cccc}0& 0& \cdots & 0\\ 0& 0& \cdots & 0\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & 0\end{array}\right]$$

2. 矩阵乘法不可交换

例2.
设$$A=\left[\begin{array}{cc}{d}_1& 0\\ 0& d_2\end{array}\right]$$其中，$d_1$，$d_2$互异，求所有与$A$可交换的矩阵。
解：设$$B=\left[\begin{array}{cc}{b}_{11}& b_{12}\\ b_{21}& b_{22}\end{array}\right]$$则
$$AB=\left[\begin{array}{cc}{d}_1{b}_{11}& d_1{b}_{12}\\ d_2{b}_{21}& d_2{b}_{22}\end{array}\right]$$
$$AB=BA$$ $$\Downarrow$$
$$\{\begin{array}{l}{d}_1{b}_{12}=b_{12}{d}_2\\ d_2{b}_{21}=b_{21}{d}_1\end{array}$$
$$\Downarrow$$
$$b_{12}=b_{21}=0$$
只有对角矩阵相乘才可以交换。

3. 乘法消去律不成立

对给定的矩阵$A$,当$A$满足什么条件时，由$AB=AC$必可推出$B=C$?
$A$可逆。

4. 一些代数恒等式不再成立

如：
$$(A+B)(B+A)\ne A^2-B^2$$
当$$AB=BA$$时，相应的二项式定理成立，即，
$$(A+B{)}^m=A^m+C_m^1{A}^{m-1}B+C_m^2{A}^{m-2}{B}^2+\cdots +C_m^{m-1}A{B}^{m-1}+B^m$$
例3.
计算下述矩阵的k次幂
$$A=\left[\begin{array}{ccccc}\lambda & 1& 0& \cdots & 0\\ 0& \lambda & 1& \cdots & 0\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 0& 0& 0& \cdots & 1\\ 0& 0& 0& \cdots & \lambda \end{array}\right]$$
解：$A=\lambda I+N$且$\lambda$ $I$与$N$可交换
$$\begin{gathered} A^k=(\lambda I+N{)}^k=(\lambda I{)}^k+C_k^1(\lambda I{)}^{k-1}N+C_k^2(\lambda I{)}^{k-2}{N}^2+\cdots +C_k^{k-1}(\lambda I)N^{k-1}+N^k \\ =\left[\begin{array}{ccccc}{\lambda }^k& C_k^1{\lambda }^{k-1}& C_k^2{\lambda }^{k-2}& \cdots & C_k^{n-1}{\lambda }^{k-n+1}\\ 0& {\lambda }^k& C_k^1{\lambda }^{k-1}& \cdots & C_k^{n-2}{\lambda }^{k-n+2}\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 0& 0& 0& \cdots & C_k^2{\lambda }^{k-2}\\ 0& 0& 0& \cdots & {\lambda }^k\end{array}\right] \end{gathered}$$
#二、分块矩阵
$$A_{ij}=(a_{ij}{)}_{s\times n},B=(b_{ij}{)}_{s\times n}$$

1. $A$,$B$均按按行进行分块

$$A=\left[\begin{array}{c}{\alpha }_1\\ {\alpha }_2\\ ⋮\\ {\alpha }_s\end{array}\right]B=\left[\begin{array}{c}{\beta }_1\\ {\beta }_2\\ ⋮\\ {\beta }_s\end{array}\right]$$
$$A+B=\left[\begin{array}{c}{\alpha }_1+{\beta }_1\\ {\alpha }_2+{\beta }_2\\ ⋮\\ {\alpha }_s+{\beta }_s\end{array}\right]$$
$$r(A+B)\le r(A)+r(B)$$

2. $A$按行分块，$B$不分块

$$\begin{gathered} AB=({\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n)\left[\begin{array}{cccc}{b}_{11}& b_{12}& \cdots & b_{1t}\\ b_{21}& b_{22}& \cdots & b_{2t}\\ ⋮& ⋮& \ddots & ⋮\\ b_{n1}& b_{n2}& \cdots & b_{nt}\end{array}\right] \\ =(\sum _{k=1}^n{b}_{k1}{\alpha }_k,\sum _{k=1}^n{b}_{k2}{\alpha }_k,\cdots ,\sum _{k=1}^n{b}_{kt}{\alpha }_k) \end{gathered}$$
从上式可知，$AB$的列向量是$A$的列向量的线性组合，且组合系数刚好是$B$的相应的各个列的元素。因此
$$r(AB)\le r(A),r(B)$$

3. $A$不分块，$B$按行分块

$$\begin{gathered} AB=\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{s1}& a_{s2}& \cdots & a_{sn}\end{array}\right]\left[\begin{array}{c}{\beta }_1\\ {\beta }_2\\ ⋮\\ {\beta }_n\end{array}\right] \\ =\left[\begin{array}{c}{\sum }_{k=1}^n{a}_{1k}{\beta }_k\\ {\sum }_{k=1}^n{a}_{2k}{\beta }_k\\ ⋮\\ {\sum }_{k=1}^n{a}_{sk}{\beta }_k\end{array}\right] \end{gathered}$$
从上式可知，$AB$的行向量是$B$的行向量的线性组合，且组合系数刚好是$A$的相应的各个行的元素。因此
$$r(AB)\le r(A),r(B)$$

4. 将$A$看作一块，$B$按列分块

$$A({\eta }_1,{\eta }_2,\cdots ,{\eta }_t)=(A{\eta }_1,A{\eta }_2,\cdots ,A{\eta }_t)$$
若$AB=0$，则$A{\eta }_j=0(j=1,2,\cdots ,t)$,${\eta }_j$是$AX=0$的解向量，因此由$n-r$个向量是线性无关的，$r$为$A$的秩
$$\begin{gathered} r({\eta }_1,{\eta }_2,\cdots ,{\eta }_t)\le n-r \\ r(B)+r(A)\le n \end{gathered}$$

5. 将矩阵分成四块

例4.
证明：上三角矩阵的乘积仍是上三角矩阵
证：
$$A=\left[\begin{array}{cc}{A}_1& \alpha \\ 0& a_{n\times n}\end{array}\right],B=\left[\begin{array}{cc}{B}_1& \beta \\ 0& b_{n\times n}\end{array}\right]$$
$$AB=\left[\begin{array}{cc}{A}_1{B}_1& A_1\beta +\alpha b_{n\times n}\\ 0& a_{n\times n}{b}_{n\times n}\end{array}\right]$$
由上式可知，上三角矩阵的乘积仍是上三角矩阵。

三、 非齐次线性方程组

1. 线性方程组

对于非齐次线性方程组。
$AX=b$，其中$A=(a_{ij}{)}_{s\times n},b=(b_1,b_2,\cdots ,b_s{)}^T$

1. 有解$\iff r(A)=r(A,b)$。
2. 若$r(A)=r(A,b)=r$则有唯一解$\iff r=n$。
3. 若$r(A)=r(A,b)=r<n$，则通解中含有$r-n$个自由未知量。

对于齐次线性方程组
$AX=0$，其中$A=(a_{ij}{)}_{s\times n}$

1. 有非零解当且仅当$r(A)<n，n_1,n_2,\cdots ,n_t$（线性无关并且任一解都可由它们线性表示）是$AX=0$的解。
2. 若$r(A)<n$，则其基础解系中含有$n-r$个解向量。
3. 若$r(A)<r$，则其任意$n-r$个线性无关的解向量是其基础解系。

2. Gauss消元法

用初等变换将增广矩阵化成阶梯形矩阵。第一步，确定自由变量。第二步，用回代法找出通解。
例4.
设$A$是$s\times n$矩阵，$b$是$s$维列向量，证明

1. $r(A)=r(A^{H}A)$
2. 线性方程$A^{H}AX=A^{H}b$恒有解。

注：$A^H$为$A$的共轭转置。

1. 证：
   要证$r(A)=r(A^{H}A)$，即证$AX=0$的基础解系$S_1$与$A^{H}AX=0$的基础解系$S_2$相同。即$S_1\in S_2$的同时$S_2\in S_2$。
   显然
   $$A\eta =0\Rightarrow A^{H}A\eta$$
   $AX=0$的解必然是$A^{H}AX=0$的解。
   $$A^{H}A\eta =0$$
   等号两边同时乘以${\eta }^H$，得
   $${\eta }^H{A}^{H}A\eta ={\eta }^{H}0$$
   $${\bar{\eta }}^T{\bar{A}}^{T}A\eta =0$$
   $$(\bar{A}\bar{\eta }{)}^{T}A\eta =0$$
   $$(A\eta {)}^{H}A\eta =0$$
   因为
   $$A\eta =\left[\begin{array}{c}{k}_1\\ k_2\\ ⋮\\ k_n\end{array}\right]$$
   所以
   $$(A\eta {)}^{H}A\eta =({\bar{k}}_1,{\bar{k}}_2,\cdots ,{\bar{k}}_s)\left[\begin{array}{c}{k}_1\\ k_2\\ ⋮\\ k_n\end{array}\right]={\bar{k}}_1{k}_1+{\bar{k}}_2{k}_2+\cdots +{\bar{k}}_s{k}_s=0$$
   因为
   $${\bar{k}}_1{k}_1\ge 0,{\bar{k}}_2{k}_2\ge 0,\cdots ,{\bar{k}}_s{k}_s\ge 0$$
   因此
   $$k_1=k_2=\cdots =k_s$$
   $$\Downarrow$$
   $$A\eta =0$$
   2)证：
   要证$A^{H}AX=A^{H}b$恒有解，即证$r(A^{H}A)=r(A^{H}A,A^{H}b)$
   显然
   $$r(A^{H}A)\le r(A^{H}A,A^{H}b)$$
   $$r(A^{H}A,A^{H}b)=r(A^H(A,b))\le r(A^H)=r(A)$$
   由第一问可知
   $$r(A^{H}A)=r(A)$$
   所以
   $$r(A^{H}A,A^{H}b)\le r(A^{H}A)$$
   因此
   $$r(A^{H}A)=r(A^{H}A,A^{H}b)$$
   $A^{H}AX=A^{H}b$恒有解

四、向量组的极大无关组和秩

若向量组${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_s$的部分组${\alpha }_{i1},{\alpha }_{i2},\cdots ,{\alpha }_{ik}$线性无关。且${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_s$中每个向量都可由${\alpha }_{i1},{\alpha }_{i2},\cdots ,{\alpha }_{ir}$线性表示，则称${\alpha }_{i1},{\alpha }_{i2},\cdots ,{\alpha }_{ir}$是向量组${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_s$的极大无关组。称$r$是向量组${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_s$的秩。
若向量组${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_s$的秩为$r$，则其中任意$r$个线性无关的向量是其极大无关组。

1. 矩阵的秩

矩阵A的秩=A中非零子式的最高阶数=A的行（列）向量组的秩

2. 有关矩阵的秩的不等式

1. $r(A+B)\le r(A)+r(B)$
2. $r(AB)\le r(A),r(B)$
3. 若$A_{s\times n}{B}_{n\times t}=0r(A)+r(B)\le n$
4. $r(A_{s\times n}{B}_{n\times t})\ge r(A)+r(B)-n$
5. $M=\left[\begin{array}{cc}A& C\\ 0& B\end{array}\right],r(M)\ge r(A)+r(B)$

例5.
若$A$是可逆矩阵，证明$r(AB)=r(B)$
法一：
显然
$$r(AB)\le r(B)$$
同时
$$B=A^{-1}AB$$
可得
$$r(B)\le r(A^{-1}),r(AB)$$
则
$$r(B)\le r(AB)$$
所以
$$r(AB)=r(B)$$
法二：
$\exists$初等矩阵$A_1,A_2,\cdots ,A_s$，使$A=A_1{A}_2\cdots A_s$
$$AB=(A_1,A_2,\cdots ,A_s)B$$
$B$经过一系列初等行变换变成$A\Rightarrow r(AB)=r(B)$

例6.
设$A$是$n$阶幂等矩阵，证明$r(A)+r(I-A)=n$
证：
$$r(A)+r(I-A)\ge r(A+I-A)=r(I)=n$$
同时，由于$A$为幂等矩阵
$$A(I-A)=A-A^2=0$$
$$r(A)+r(I-A)\le n$$
所以
$$r(A)+r(I-A)=n$$

3. 矩阵的等价标准型

如果$s\times n$矩阵的秩为$r$，则$A$必与$M=\left[\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right]$等价
$s\times n$矩阵$A,B$等价$\iff r(A)=r(B)\iff$存在可逆矩阵$P,Q$使$B=PAQ$

4. 满秩分解

例7.
假设$s\times n$矩阵$A$的秩为$r$，证明存在$s\times r$矩阵$B$及$r\times n$矩阵$C$，使得$A=BC$（矩阵的满秩分解）
证：
$$r(A)\le r(B),r(C)\le r\Rightarrow r(B)=r(C)=r$$
由矩阵的等价标准型可知，$\exists s\times n$矩阵$M=\left[\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right]$使得$A$与$M$等价，$s\times n$矩阵$\left[\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right]$等于$s\times r$矩阵$\left[\begin{array}{c}{I}_r\\ 0\end{array}\right]$乘以$r\times n$矩阵$(I_{r}0)$
即$$\begin{gathered} A=P\left[\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right]Q=P\left[\begin{array}{c}{I}_r\\ 0\end{array}\right](I_{r}0)Q \\ B=P\left[\begin{array}{c}{I}_r\\ 0\end{array}\right]C=(I_{r}0)Q \end{gathered}$$
由此可知存在$s\times r$矩阵$B$及$r\times n$矩阵$C$，使得$A=BC$
例8.
求$A=\left[\begin{array}{ccccc}1& 0& -1& 2& 1\\ 2& 3& 1& 0& -1\\ 1& 3& 2& -2& -2\\ 0& -3& -3& 4& -3\end{array}\right]$的满秩分解
$$A\to \left[\begin{array}{ccccc}1& 0& -1& 2& 1\\ 2& 3& 1& 0& -1\\ 1& 3& 2& -2& -2\\ 0& -3& -3& 4& -3\end{array}\right]\to \left[\begin{array}{ccccc}1& 0& -1& 0& 1\\ 0& 1& 1& 0& -1\\ 0& 0& 0& 1& 0\\ 0& 0& 0& 0& 0\end{array}\right]$$
$$A=\left[\begin{array}{ccc}1& 0& 2\\ 2& 3& 0\\ 1& 3& -2\\ 0& -3& 4\end{array}\right]\left[\begin{array}{ccccc}1& 0& -1& 0& 1\\ 0& 1& 1& 0& -1\\ 0& 0& 0& 1& 0\end{array}\right]$$