一、零空间
Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 所有的解构成一个子空间,称为零空间。AAA 是 m×nm\times nm×n 的矩阵,它可以是方阵也可以是矩形的。右侧的向量 b=0\boldsymbol b=\boldsymbol 0b=0,我们可以立即求出它的一个解是 x=0\boldsymbol x=\boldsymbol 0x=0,对于可逆矩阵来说这是它的唯一解,对于不可逆矩阵,则 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 有非零解,这些解都在 AAA 的零空间中。
消元法可以找到所有的解,并且鉴别这个非常重要的子空间。零空间 N(A) 由Ax=0 所有的解组成。这些向量 x 都在 Rn 中。零空间\,\pmb N(A)\,由A\boldsymbol x=\boldsymbol 0\,所有的解组成。这些向量\,\boldsymbol x\,都在\,\pmb {\textrm R}^n\,中。零空间N(A)由Ax=0所有的解组成。这些向量x都在Rn中。下面来检验这些解可以形成子空间。假设 x\boldsymbol xx 和 y\boldsymbol yy 都在零空间中,即有 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 且 Ay=0A\boldsymbol y=\boldsymbol 0Ay=0,由矩阵的乘法法则可得 A(x+y)=0+0A(\boldsymbol x+\boldsymbol y)=\boldsymbol 0+\boldsymbol 0A(x+y)=0+0;同样可得 A(cx)=c0A(c\boldsymbol x)=c\boldsymbol 0A(cx)=c0,右侧的向量仍然是零。因此,x+y\boldsymbol x+\boldsymbol yx+y 和 cxc\boldsymbol xcx 都在零空间 N(A)\pmb N(A)N(A) 中,即在零空间中向量的加法和数乘封闭,所以,它是一个子空间。
注: 解 x\boldsymbol xx 有 nnn 个分量,它们是 Rn\pmb{\textrm R}^nRn 中的向量,因此零空间 N(A)\pmb N(A)N(A) 是 Rn\pmb{\textrm R}^nRn 的一个子空间,列空间 C(A)\pmb{C}(A)C(A) 是 Rm\textrm{\pmb{R}}^mRm 的一个子空间。
【例1】描述 A=[1236]A=\begin{bmatrix}1&2\\3&6\end{bmatrix}A=[1326] 的零空间,这是一个奇异矩阵!
解: 对线性方程 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 使用消元法:x1+2x2=03x1+6x2=0→x1+2x2=00=0\begin{matrix}x_1+2x_2=0\\3x_1+6x_2=0\kern 4pt\end{matrix}\rightarrow\begin{matrix}x_1+2x_2=0\\\kern 35pt0=0\end{matrix}x1+2x2=03x1+6x2=0→x1+2x2=00=0这里实际上只有一个方程,第二个方程是第一个方程的 333 倍。在行图像中,直线 x1+2x2=0x_1+2x_2=0x1+2x2=0 与直线 3x1+6x2=03x_1+6x_2=03x1+6x2=0 完全相同,这条直线就是零空间 N(A)\pmb N(A)N(A),它包含所有的解 (x1,x2)(x_1,x_2)(x1,x2)。
有一个有效的方法用来描述 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 的解:取直线上的一点(一个特殊解),该直线上所有的点都是这个点的倍数。我们让第二个分量 x2=1x_2=1x2=1(一个特殊选择),由方程 x1+2x2=0x_1+2x_2=0x1+2x2=0,则第一个分量一定是 x1=−2x_1=-2x1=−2,这个特殊解 s=(−2,1)\boldsymbol s=(-2,1)s=(−2,1)。
特殊解 As=0A=[1236] 的零空间包含 s=[−21]的所有倍数特殊解\,A\boldsymbol s=\boldsymbol 0\kern 10ptA=\begin{bmatrix}1&2\\3&6\end{bmatrix}\,的零空间包含\,\boldsymbol s=\begin{bmatrix}-2\\\kern 7pt1\end{bmatrix}的所有倍数特殊解As=0A=[1326]的零空间包含s=[−21]的所有倍数
通过计算 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 的特殊解,这是描述零空间最好的方法。因为我们令自由变量 x2=1x_2=1x2=1,所以这个解是特殊解。A 的零空间由所有 Ax=0 特殊解的线性组合组成。A\,的零空间由所有\,A\boldsymbol x=\boldsymbol 0\,特殊解的线性组合组成。A的零空间由所有Ax=0特殊解的线性组合组成。【例2】x+2y+3z=0x+2y+3z=0x+2y+3z=0 来自于 1×31\times31×3 的矩阵 A=[123]A=\begin{bmatrix}1&2&3\end{bmatrix}A=[123],Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 产生一个平面。该平面上的所有向量都与 (1,2,3)(1,2,3)(1,2,3) 垂直,这个平面就是 AAA 的零空间。这里由两个自由变量 yyy 和 zzz:将它们设为 000 和 111[123][xyz]=0 有两个特殊解 s1=[−210]和 s2=[−301]\begin{bmatrix}1&2&3\end{bmatrix}\begin{bmatrix}x\\y\\z\end{bmatrix}=0\,有两个特殊解\,\boldsymbol s_1=\begin{bmatrix}-2\\\kern 7pt\pmb1\\\kern 7pt\pmb0\end{bmatrix}和\,\boldsymbol s_2=\begin{bmatrix}-3\\\kern 7pt\pmb0\\\kern 7pt\pmb1\end{bmatrix}[123]xyz=0有两个特殊解s1=−210和s2=−301向量 s1\boldsymbol s_1s1 和 s2\boldsymbol s_2s2 都在平面 x+2y+3=0x+2y+3=0x+2y+3=0 上,该平面上所有的向量就是 s1\boldsymbol s_1s1 和 s2\boldsymbol s_2s2 的线性组合。
注意 s1\boldsymbol s_1s1 和 s2\boldsymbol s_2s2 的特殊性,后面两个是自由分量,我们特意将它们设成 1,01,01,0 和 0,10,10,1,则由方程 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 可以确定第一分量分别是 −2-2−2 和 −3-3−3。
x+2y+3z=6x+2y+3z=\pmb 6x+2y+3z=6 所有的解也都在一个平面上,但是这个平面不是子空间,因为 x=0\boldsymbol x=\boldsymbol 0x=0 时不在该平面上。
本节有两个关键步骤:
(1)将 AAA 简化成行阶梯形式 RRR
(2)求 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 的特殊解
二、主元列和自由列
A=[123]A=\begin{bmatrix}1&2&3\end{bmatrix}A=[123] 的第一列是唯一的主元,所以 x\boldsymbol xx 的第一分量不是自由的。自由分量对应的是没有主元的列。特殊选择(111 或 000)只能用在特殊解的自由变量。
【例3】求 A、B、CA、B、CA、B、C 的零空间,并且求出 Cx=0C\boldsymbol x=\boldsymbol 0Cx=0 的两个特殊解。A=[1238]B=[A2A]=[123824616]C=[A2A]=[122438616]A=\begin{bmatrix}1&2\\3&8\end{bmatrix}\kern 10ptB=\begin{bmatrix}\kern 7ptA\\2A\end{bmatrix}=\begin{bmatrix}1&2\\3&8\\2&4\\6&16\end{bmatrix}\kern 10ptC=\begin{bmatrix}A&2A\end{bmatrix}=\begin{bmatrix}1&2&2&4\\3&8&6&16\end{bmatrix}A=[1328]B=[A2A]=132628416C=[A2A]=[132826416]解: Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 只有一个解 x=0\boldsymbol x=\boldsymbol 0x=0,AAA 零空间就是 Z\pmb {\textrm Z}Z,只包含 R2\pmb{\textrm R}^2R2 空间中的一个点 x=0\boldsymbol x=\boldsymbol 0x=0,我们可以通过消元法来得到答案:Ax=[1238][x1x2]=[00]消元后得[1202][x1x2]=[00]即有[x1=0x2=0]A\boldsymbol x=\begin{bmatrix}1&2\\3&8\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix}=\begin{bmatrix}0\\0\end{bmatrix}消元后得\begin{bmatrix}1&2\\0&2\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix}=\begin{bmatrix}0\\0\end{bmatrix}即有\begin{bmatrix}x_1=0\\x_2=0\end{bmatrix}Ax=[1328][x1x2]=[00]消元后得[1022][x1x2]=[00]即有[x1=0x2=0]AAA 是可逆矩阵,没有特殊解,两列都有主元。
矩形矩阵 BBB 与 AAA 是相同的零空间 Z\pmb{\textrm Z}Z。Bx=0B\boldsymbol x=\boldsymbol 0Bx=0 的前两个方程会得到 x=0\boldsymbol x=\boldsymbol 0x=0,后两个方程同样会得到 x=0\boldsymbol x=\boldsymbol 0x=0。如果我们增加额外的方程(额外的行),零空间不可能会变大,因为多出来的行会对零空间中的 x\boldsymbol xx 有更多的限制条件。
矩形矩阵 CCC 和前两个矩阵的零空间不同,它有额外的列而不是额外的行,这样解 x\boldsymbol xx 就有 444 个分量,消元会在 CCC 的前两列产生主元,但是 CCC 和 UUU 的后两列是自由列,它们没有主元:
对于自由变量 x3x_3x3 和 x4x_4x4,我们选取特殊的 111 和 000。首先令 x3=1,x4=0x_3=1,x_4=0x3=1,x4=0,然后令 x3=0,x4=1x_3=0,x_4=1x3=0,x4=1,主元变量 x1x_1x1 和 x2x_2x2 就可以由方程 Ux=0U\boldsymbol x=\boldsymbol 0Ux=0(或 Cx=0C\boldsymbol x=\boldsymbol 0Cx=0)解出。这样就得到了 CCC 零空间的两个特殊解,也是 UUU 的零空间:消元法不会改变解。
特殊解Cs=0Us=0s1=[−2010],s2=[0−201]}主元变量}自由变量\begin{matrix}特殊解\\C\boldsymbol s=\boldsymbol 0\\U\boldsymbol s=\boldsymbol 0\end{matrix}\kern 15pt\boldsymbol s_1=\begin{bmatrix}-2\\\kern 7pt0\\\kern 7pt1\\\kern 7pt0\end{bmatrix},\boldsymbol s_2=\begin{bmatrix}\kern 7pt0\\-2\\\kern 7pt0\\\kern 7pt1\end{bmatrix}\begin{matrix}\left.\rule{0mm}{5mm}\right\}主元变量\\\left.\rule{0mm}{5mm}\right\}自由变量\end{matrix}特殊解Cs=0Us=0s1=−2010,s2=0−201}主元变量}自由变量
三、简化行阶梯形式 R
若 AAA 是矩形矩阵,当我们得到上三角 UUU 后,还可以继续化简,通过下面两步,可以得到最简的形式 RRR:
1、将主元上方变为 0;在 R 中,使用主元行向上消元2、将主元变为 1.将整个主元行除以它的主元\begin{matrix}1、将主元上方变为\,0;&在\,R\,中,使用主元行向上消元\\2、将主元变为 \,1.\kern 19pt&将整个主元行除以它的主元\kern 10pt\end{matrix}1、将主元上方变为0;2、将主元变为1.在R中,使用主元行向上消元将整个主元行除以它的主元
这些步骤不会改变方程右侧的零向量,零空间都是一样的:N(A)=N(U)=N(R)\pmb N(A)=\pmb N(U)=\pmb N(R)N(A)=N(U)=N(R)。得到简化行阶梯形式(Reduced row echelon form)R=rref(A)R=rref(A)R=rref(A) 后,能更容易观察零空间。RRR 的主元列包含单位矩阵 III。
简化形式 RU=[12240204]变为 R=[10200102]简化形式 \,R\kern 15ptU=\begin{bmatrix}1&2&2&4\\0&2&0&4\end{bmatrix}变为\,R=\begin{bmatrix}\pmb1&\pmb0&2&0\\\pmb0&\pmb1&0&2\end{bmatrix}简化形式RU=[10222044]变为R=[10012002]
UUU 的行 111 减去行 222,然后行 222 乘上 12\displaystyle\frac{1}{2}21 得到主元等于 111。现在有 (自由列 3)=2(主元列 1)\pmb{(自由列\,3)=2(主元列\,1)}(自由列3)=2(主元列1),因此 −2-2−2 会出现在 s1=(−2,0,1,0)\boldsymbol s_1=(-2,0,1,0)s1=(−2,0,1,0),特殊解可以很容易从 Rx=0R\boldsymbol x=\boldsymbol 0Rx=0 求得。RRR 的每个自由列,改变所有的符号就可以得到 s\boldsymbol ss。第二个特殊解是 s2=(0,−2,0,1)\boldsymbol s_2=(0,-2,0,1)s2=(0,−2,0,1)。
对于很多矩阵来说,Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 仅有唯一解 x=0\boldsymbol x=\boldsymbol 0x=0,它们的零空间 N(A)=Z\pmb N(A)=\textrm {\pmb Z}N(A)=Z 仅仅包含零向量,没有特殊解。唯一可以产生 b=0\boldsymbol b=\boldsymbol 0b=0 的列的组合就是 “零组合”。Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 的就是平凡(trivial)解(只有 x=0\boldsymbol x=\boldsymbol 0x=0),但是这个概念不平凡。
这种零空间是 Z\pmb{\textrm Z}Z 的情况是非常重要的,它说明 AAA 的各列是无关的, 没有组合(除了零组合)可以得到零向量。所有的列都有主元,没有自由列。
阶梯矩阵 R 的主元变量和自由变量A=[ppfpf∣∣∣∣∣∣∣∣∣∣∣∣∣∣∣∣∣∣∣∣]R=[10a0c01b0d0001e00000]s1=[−a−b100]s2=[−c−d0−e1]3个主元列pI在主元列特殊解 Rs1=0 和 Rs2=02个自由列fF在自由列从 R 中取−a 到−eR 中显露3个主元:秩 r=3Rs=0 则 As=0R 中表明:column 3=a(column 1)+b(column 2),A 中也有同样的关系。特殊解 s1 也表明了上述组合,(−a,−b,1,0,0) 有 Rs1=0。A 的零空间=R 的零空间=s1 和 s2 的所有组合。\pmb{阶梯矩阵\,R\,的主元变量和自由变量}\\A=\begin{bmatrix}p&p&f&p&f\\|&|&|&|&|\\|&|&|&|&|\\|&|&|&|&|\\|&|&|&|&|\end{bmatrix}\kern 10ptR=\begin{bmatrix}\pmb1&0&a&0&c\\0&\pmb1&b&0&d\\0&0&0&\pmb1&e\\0&0&0&0&0\end{bmatrix}\kern 10pt\boldsymbol s_1=\begin{bmatrix}-a\\-b\\\kern 7pt\pmb1\\\kern 7pt0\\\kern 7pt\pmb0\end{bmatrix}\kern 10pt\boldsymbol s_2=\begin{bmatrix}-c\\-d\\\kern 7pt\pmb0\\-e\\\kern 7pt\pmb1\end{bmatrix}\\3个主元列p\kern 72ptI在主元列\kern 71pt特殊解\,R\boldsymbol s_1=\boldsymbol 0\,和\,R\boldsymbol s_2=\boldsymbol 0\\2个自由列f\kern 69ptF在自由列\kern 70pt从\,R\,中取-a\,到-e\kern 33pt\\R\,中显露\kern 82pt3个主元:秩 \,r=3\kern 38ptR\boldsymbol s=\boldsymbol 0\,则\,A\boldsymbol s=\boldsymbol 0\kern 43pt\\R\,中表明:column\,3=a(column\,1)+b(column\,2),A\,中也有同样的关系。\kern 0pt\\特殊解\,\boldsymbol s_1\,也表明了上述组合,(-a,-b,1,0,0)\,有\,R\boldsymbol s_1=\boldsymbol 0。\kern 65pt\\A\,的零空间=R\,的零空间=\boldsymbol s_1\,和\,\boldsymbol s_2\,的所有组合。\kern 105pt阶梯矩阵R的主元变量和自由变量A=p∣∣∣∣p∣∣∣∣f∣∣∣∣p∣∣∣∣f∣∣∣∣R=10000100ab000010cde0s1=−a−b100s2=−c−d0−e13个主元列pI在主元列特殊解Rs1=0和Rs2=02个自由列fF在自由列从R中取−a到−eR中显露3个主元:秩r=3Rs=0则As=0R中表明:column3=a(column1)+b(column2),A中也有同样的关系。特殊解s1也表明了上述组合,(−a,−b,1,0,0)有Rs1=0。A的零空间=R的零空间=s1和s2的所有组合。下面是有 333 个主元的 4×74\times74×7 简化行阶梯矩阵 RRR 的步骤:
R=[10xxx0x01xxx0x000001x0000000]三个主元变量 x1,x2 x6四个自由变量 x3,x4,x5,x7N(R)中有四个特殊解主元行和主元列中含有 IR=\begin{bmatrix}\pmb1&\pmb0&x&x&x&\pmb0&x\\\pmb0&\pmb1&x&x&x&\pmb0&x\\\pmb0&\pmb0&0&0&0&\pmb1&x\\0&0&0&0&0&0&0\end{bmatrix}\begin{matrix}三个主元变量\,x_1,x_2\,x_6\\\kern 18pt四个自由变量\,x_3,x_4,x_5,x_7\\\pmb N(R)中有四个特殊解\kern 4pt\\\kern 5pt主元行和主元列中含有\,I\end{matrix}R=10000100xx00xx00xx000010xxx0三个主元变量x1,x2x6四个自由变量x3,x4,x5,x7N(R)中有四个特殊解主元行和主元列中含有I
问题: 矩阵 RRR 的列空间和零空间分别是什么?
答: RRR 的列空间有 444 个分量,因此它在 R4\pmb {\textrm R}^4R4 中。每个列的第四个分量都是 000,因此所有列的线性组合即列空间的每个向量的第四个分量都是 000,列空间 C(R)\pmb C(R)C(R) 由所有形如 (b1,b2,b3,0)(b_1,b_2,b_3,0)(b1,b2,b3,0) 的向量组成,对于这些向量 Rx=bR\boldsymbol x=\boldsymbol bRx=b 有解。
零空间 N(R)\pmb N(R)N(R) 是 R7\pmb{\textrm R}^7R7 的子空间,Rx=0R\boldsymbol x=\boldsymbol 0Rx=0 的解是四个特殊解的所有组合——每个特殊解对应一个自由变量:
- 列 3,4,5,73,4,5,73,4,5,7 没有主元,因此四个自由变量是 x3,x4,x5,x7x_3,x_4,x_5,x_7x3,x4,x5,x7。
- 将其中一个自由变量设为 111,另外三个自由变量设为 000。
- 求出 Rx=0R\boldsymbol x=\boldsymbol 0Rx=0 的三个主元变量 x1,x2,x6x_1,x_2,x_6x1,x2,x6 就得到 s\boldsymbol ss。
计算主元的个数得到一个非常重要的定理:假设 AAA 的列数多于行数,当 n>mn>mn>m 时,则至少有一个自由变量,Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 至少有一个特殊解,这个解不是零。
假设 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 未知数的个数比方程的个数多(n×mn\times mn×m,列数比行数多),则至少有一个自由列,Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 有非零解。
一个又矮又宽的矩阵(n>mn> mn>m)的零空间必有非零向量,因为主元的个数不可能超过 mmm,所以至少有 n−mn-mn−m 个自由变量。(矩阵只有 mmm 行,每行不可能存在 222 个主元)。一行可能没有主元 —— 这意味着存在自由变量,这里的重点是:当存在自由变量时,它可以被设为 111,此时 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 至少有一些列非零解。
零空间是一个子空间,它的 “维度” 就是自由变量的数量。
四、矩阵的秩
数字 m、nm、nm、n 给出了矩阵的大小,但是不一定是线性系统的真正大小,例如方程 0=00=00=0 就不算。如果矩阵 AAA 有两个相同的行,那么消元后第二行将会消失;同样的如果行 333 是行 111 和行 222 组合,那么行 333 在上三角矩阵 UUU 和简化阶梯矩阵 RRR 中都会变成 000。我们不会计算全 000 的行,AAA 的真正大小是由矩阵的秩(rank)决定的。
秩的定义A 的秩就是主元的个数,用 r 表示。\pmb{秩的定义}\kern 20ptA\,的秩就是主元的个数,用\,r\,表示。秩的定义A的秩就是主元的个数,用r表示。
最终的矩阵 RRR 有 rrr 个非零行。下面是一个 3×43\times43×4 矩阵的例子,秩 r=2r=2r=2:4 列,2 个主元A=[112412251326]R=[102301010000]4\,列,2\,个主元\kern 10ptA=\begin{bmatrix}1&1&2&4\\1&2&2&5\\1&3&2&6\end{bmatrix}\kern 10ptR=\begin{bmatrix}\pmb1&\pmb0&2&3\\\pmb0&\pmb1&0&1\\0&0&0&0\end{bmatrix}4列,2个主元A=111123222456R=100010200310AAA 的前两列是 (1,1,1)(1,1,1)(1,1,1) 和 (1,2,3)(1,2,3)(1,2,3),它们是不同的方向,这些是主元列(将会在 RRR 中显现)。第三列 (2,2,2)(2,2,2)(2,2,2) 是第一列的倍数,该列不会有主元;第四列 (4,5,6)(4,5,6)(4,5,6) 是前三列的和,因此第四列也没有主元。矩阵 AAA 和 RRR 的秩就是 222。每个自由列都是前面主元列的组合,特殊解 s 会告诉我们这些组合:Column 3=2(column 1)+0(column 2)s1=(−2,−0,1,0)Column 4=3(column 1)+1(column 2)s2=(−3,−1,0,1)\pmb{每个自由列都是前面主元列的组合,特殊解\,\boldsymbol s\,会告诉我们这些组合:}\\\textrm{Column}\,\,3=\pmb2(\textrm{column}\,\,1)+\pmb0(\textrm{column}\,\,2)\kern 8pt\boldsymbol s_1=(\pmb{-2,-0},1,0)\\\textrm{Column}\,\,4=\pmb3(\textrm{column}\,\,1)+\pmb1(\textrm{column}\,\,2)\kern 8pt\boldsymbol s_2=(\pmb{-3,-1},0,1)每个自由列都是前面主元列的组合,特殊解s会告诉我们这些组合:Column3=2(column1)+0(column2)s1=(−2,−0,1,0)Column4=3(column1)+1(column2)s2=(−3,−1,0,1)RRR 的列 333 中的数字 2,02,02,0 出现在 s1\boldsymbol s_1s1 中(符号相反);RRR 的列 444 中的数字 3,13,13,1 出现在 s2\boldsymbol s_2s2 中(符号相反)。
五、秩一
秩一矩阵只有一个主元,消元后第一列产生 000 后,其它列也会得到 000,每一行都是主元行的倍数,同时每一列都是主元列的倍数。秩一矩阵A=[131026203930]→R=[1310000000]\pmb{秩一矩阵}\kern 10ptA=\begin{bmatrix}\pmb1&3&10\\\pmb2&6&20\\\pmb3&9&30\end{bmatrix}\rightarrow R=\begin{bmatrix}\pmb1&3&10\\0&0&0\\0&0&0\end{bmatrix}秩一矩阵A=123369102030→R=1003001000秩一矩阵的列空间是一维的,这里所有的列都是通过 u=(1,2,3)\boldsymbol u=(1,2,3)u=(1,2,3) 的直线,AAA 的列分别是 u\boldsymbol uu,3u3\boldsymbol u3u 和 10u10\boldsymbol u10u,将这些数字放在一行 vT=[1310]\boldsymbol v^T=\begin{bmatrix}1&3&10\end{bmatrix}vT=[1310] 就可以得到这个特殊的秩一形式 A=uvTA=\boldsymbol u\boldsymbol v^TA=uvT:A=列乘行=uvT[131026203930]=[123][1310]A=列乘行=\boldsymbol u\boldsymbol v^T\kern 10pt\begin{bmatrix}1&3&10\\2&6&20\\3&9&30\end{bmatrix}=\begin{bmatrix}\pmb1\\\pmb2\\\pmb3\end{bmatrix}\begin{matrix}\begin{bmatrix}\pmb1&\pmb3&\pmb{10}\end{bmatrix}\\\\\\\end{matrix}A=列乘行=uvT123369102030=123[1310]对于秩一矩阵,Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 会很好理解,由方程 u(vTx)=0\boldsymbol u(\boldsymbol v^T\boldsymbol x)=\boldsymbol 0u(vTx)=0 可以得到 vTx=0\boldsymbol v^T\boldsymbol x=\boldsymbol 0vTx=0,因此,所有零空间中的向量 x\boldsymbol xx 都与行空间中的 v\boldsymbol vv 垂直。r=1r=1r=1 的几何意义是:行空间=直线,零空间=垂直的平面行空间=直线,零空间=垂直的平面行空间=直线,零空间=垂直的平面。
【例4】当所有的行都是主元行的倍数时,则矩阵的秩有:r=1r=1r=1:
[134268]与[0305]与[52]与[6]都为秩一矩阵\begin{bmatrix}1&3&4\\2&6&8\end{bmatrix}与\begin{bmatrix}0&3\\0&5\end{bmatrix}与\begin{bmatrix}5\\2\end{bmatrix}与\begin{bmatrix}6\end{bmatrix}都为秩一矩阵[123648]与[0035]与[52]与[6]都为秩一矩阵
这些矩阵在 MATLAB 中可以使用简化行阶梯指令 R=rref(A)R=rref(A)R=rref(A) 来检验:
R=[134000]与[0100]与[10]与[1]都只有一个主元R=\begin{bmatrix}1&3&4\\0&0&0\end{bmatrix}与\begin{bmatrix}0&1\\0&0\end{bmatrix}与\begin{bmatrix}1\\0\end{bmatrix}与\begin{bmatrix}1\end{bmatrix}都只有一个主元R=[103040]与[0010]与[10]与[1]都只有一个主元
第二个秩的定义更高阶,它处理整个行与整个列——处理的是向量而不只是数字。这三个矩阵 AAA、UUU 和 RRR 都有 rrr 个无关行。
AAA、UUU 和 RRR 同样也有 rrr 个无关列(主元列)。
秩的第三个定义是线性代数的最高层次,它处理的是向量空间。秩 rrr 是列空间的维数,也是行空间的维数。而 n−rn-rn−r 是零空间的维数。
六、消元法:大局
这里在向量和子空间层次来说明消元法,其中 AAA 简化至 RRR。消元法从第一主元开始,一次移动一列(从左到右),以及一次移动一行(从上到下)。在移动时,消元法可以回答以下两个问题:
问题1:该列是前面列的线性组合吗?
如果该列有主元,那么就不是,主元列与前面的列是无关的。如果该列没有主元,则它是前面列的组合。
问题2:该行是前面行的线性组合吗?
如果该行有主元,则不是,主元行与前面的行是无关的。如果该行没有主元,则它是前面行的组合。
通过矩阵消元这一过程,就可以同时回答以上两个问题,实际上消元得到的是上三角矩阵 UUU,并不是行简化矩阵 RRR,从 UUU 到 RRR 需要从底部向上进行消元。UUU 可以告诉我们哪些列是前面较早列的组合(失去主元的),而 RRR 则会告诉我们是什么样的组合。
换句话说,通过 RRR 我们可以得到 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 的特殊解。 我们可以通过不同的行交换和消元的方法从 AAA 得到 RRR,但是得到的 RRR 是相同的(因为 AAA 决定了特殊解)。RRR 展现了三个基础子空间的 “基底(base)”:
- AAA 的列空间 —— 选择 AAA 的主元列为基底。
- AAA 的行空间 —— 选择 RRR 的非零行为基底。
- AAA 的零空间 —— 选择 Rx=0R\boldsymbol x=\boldsymbol 0Rx=0 的特殊解为基底。
我们从消元法也得到了一个最重要的数值 —— 秩 rrr 。这个数字主元列和主元行的个数,n−rn-rn−r 是自由列和特殊解的个数。
简化 [AI]\begin{bmatrix}A&I\end{bmatrix}[AI] 到 [RE]\begin{bmatrix}R&E\end{bmatrix}[RE] 可以得到 AAA 的几乎所有信息(包括 EA=REA=REA=R)。矩阵 EEE 是 AAA 到 RRR 的消元记录;当 AAA 是可逆方阵时,RRR 就是 III,EEE 就是 A−1A^{-1}A−1。
七、主要内容总结
- 零空间 N(A)\pmb{ N}(A)N(A) 是 Rn\pmb{\textrm R}^nRn 的子空间,它包含 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 的所有解。
- 对 AAA 进行消元可以得到一个行简化矩阵 RRR,它含有主元列和自由列。
- 每个自由列都可以得到一个特殊解,令其中一个自由变量为 111,其它的为 000 即可求出特殊解。
- AAA 的秩 rrr 是主元的个数,R=rref(A)R=rref(A)R=rref(A) 的所有主元都是 111。
- Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 的完整解是 n−rn-rn−r 个特殊解的组合。
- 如果 n>mn>mn>m,则 AAA 至少有一个自由列,Ax=0A\boldsymbol x=\boldsymbol 0Ax=0 有非零解。
八、例题
【例5】如果 EA=REA=REA=R 且 EEE 可逆,则为什么 AAA 和 RRR 有相同的零空间?
解: 若 Ax=0A\boldsymbol x=\boldsymbol 0Ax=0,则 Rx=EAx=E0=0R\boldsymbol x=EA\boldsymbol x=E\boldsymbol 0=\boldsymbol 0Rx=EAx=E0=0;
若 Rx=0R\boldsymbol x=\boldsymbol 0Rx=0,则 Ax=E−1Rx=E−10=0A\boldsymbol x=E^{-1}R\boldsymbol x=E^{-1}\boldsymbol 0=\boldsymbol 0Ax=E−1Rx=E−10=0。
所以 AAA 和 RRR 有相同的零空间,且有相同的行空间和秩。
【例6】创建一个 3×43\times43×4 的矩阵 RRR,并且 Rx=0R\boldsymbol x=\boldsymbol 0Rx=0 的特殊解为 s1\boldsymbol s_1s1 和 s2\boldsymbol s_2s2:s1=[−3100],s2=[−20−61]主元列是列 1 和列 3自由变量是 x2和 x4\boldsymbol s_1=\begin{bmatrix}-3\\\kern 7pt1\\\kern 7pt0\\\kern 7pt0\end{bmatrix},\kern 5pt\boldsymbol s_2=\begin{bmatrix}-2\\\kern 7pt0\\-6\\\kern 7pt1\end{bmatrix}\kern 10pt\begin{matrix}主元列是列\,1\,和列\,3\\自由变量是\,x_2和\,x_4\end{matrix}s1=−3100,s2=−20−61主元列是列1和列3自由变量是x2和x4描述所有可能的矩阵A,它的零空间 N(A)=所有的 s1和 s2 的组合\pmb N(A)=所有的\,\boldsymbol s_1和\,\boldsymbol s_2\,的组合N(A)=所有的s1和s2的组合。
解: 简化矩阵 RRR 在列 111 和列 333 的主元为 111,由于没有第三主元,所以 RRR 的行 333 全为 000。自由列 222 和 444 是主元列的组合:RRR 的 3,0,2,63,0,2,63,0,2,6 是从 s1\boldsymbol s_1s1 和 s2\boldsymbol s_2s2 中的 −3,−0,−2,−6-3,-0,-2,-6−3,−0,−2,−6 得来的,每个 A=ERA=ERA=ER。
每个 3×43\times43×4 的矩阵至少有一个特殊解,这个矩阵有两个:R=[130200160000]有Rs1=0 且 Rs2=0R=\begin{bmatrix}\pmb1&\pmb3&0&\pmb2\\0&\pmb0&\pmb1&\pmb6\\0&0&0&0\end{bmatrix}有R\boldsymbol s_1=\boldsymbol 0\,且\,R\boldsymbol s_2=\boldsymbol 0R=100300010260有Rs1=0且Rs2=0【例7】求矩阵 AAA 和 BBB 的行简化形式 RRR 以及它们的秩(与 ccc 有关)。哪个是矩阵 AAA 的主元列?特殊解是什么?求特殊解A=[12136348c]B=[cccc]求特殊解\kern 10ptA=\begin{bmatrix}1&2&1\\3&6&3\\4&8&c\end{bmatrix}\kern 15ptB=\begin{bmatrix}c&c\\c&c\end{bmatrix}求特殊解A=13426813cB=[cccc]解: 对于矩阵 AAA,它的第二行是第一行的 333 倍,若 c≠4c\neq4c=4,则 AAA 的秩为 222;主元列是列 111 和列 333,自由变量是 x2x_2x2,注意 RRR 的形式,行 333 移到了行 222 的位置。c≠4R=[120001000]c=4R=[121000000]c\neq4\kern 10ptR=\begin{bmatrix}\pmb1&2&0\\0&0&\pmb1\\0&0&0\end{bmatrix}\kern 15ptc=4\kern 10ptR=\begin{bmatrix}\pmb1&2&1\\0&0&0\\0&0&0\end{bmatrix}c=4R=100200010c=4R=100200100当 c=4c=4c=4 时,只有列 111 是主元列(秩一),第二和第三个变量是自由变量。特殊解:c≠4 特殊解(−2,1,0)c=4 另一特殊解 (−1,0,1)c\neq4\kern 5pt\,特殊解(-2,1,0)\kern 10ptc=4\,另一特殊解\,(-1,0,1)c=4特殊解(−2,1,0)c=4另一特殊解(−1,0,1)2×22\times22×2 的矩阵 B=[cccc]B=\begin{bmatrix}c&c\\c&c\end{bmatrix}B=[cccc],当 c≠0c\neq0c=0 时,r=1r=1r=1;当 c=0c=0c=0 时,r=0r=0r=0。c≠0R=[1100]c=0R=[0000]零空间为 R2c\neq0\kern 5ptR=\begin{bmatrix}1&1\\0&0\end{bmatrix}\kern 10ptc=0\kern 5ptR=\begin{bmatrix}0&0\\0&0\end{bmatrix}\kern 5pt零空间为\,\pmb{\textrm R}^2c=0R=[1010]c=0R=[0000]零空间为R2