线性代数：矩阵消元详解-优快云博客

本文是麻省理工线性代数课程的学习笔记，重点介绍矩阵消元法解决线性方程组的过程，包括消元法、回代、消元矩阵和单位矩阵的概念。通过消元将矩阵转换为上三角矩阵，进而求解方程组。讨论了消元失效的情况，如主元为0时可通过行交换解决，以及如何利用单位矩阵和置换矩阵进行矩阵变换。

消元法
扩展
- 单位矩阵
- 置换矩阵

本节是网易公开课上的麻省理工大学线性代数课程第二节：矩阵消元的学习笔记。

消元法

本节将讨论 消元法 来求解线性方程组。

线性方程组的系数矩阵如果是一个好的矩阵（good matrix）可以使用消元法来得到结果，否则无法得到结果。消元完成后，使用回代就可以得到方程组的解。

需要求解的方程组如下：

 x + 2y + z = 2
3x + 8y + z = 12
     4y + z = 2

方程组使用矩阵可以表示为 Ax = b ：

⎡ ⎣ ⎢ 130284111 ⎤ ⎦ ⎥ ⎡ ⎣ ⎢ x y z ⎤ ⎦ ⎥ = ⎡ ⎣ ⎢ 2122 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 2 & 1\\ 3 & 8 & 1\\ 0 & 4 & 1 \end{bmatrix} \begin{bmatrix} x\\ y\\ z \end{bmatrix}= \begin{bmatrix} 2\\ 12\\ 2 \end{bmatrix}\\$

思考一个问题，方程一乘以多少，然后用方程二减去它能够将方程二的系数 $x$ 消去。用矩阵语言描述即系数矩阵 A 的第一行乘以多少，然后用第二行减去它能够使得第二行第一列的元素为0。这里将系数矩阵 A 的第一个元素（1）称为主元，与方程中的 $x$ 系数对应。乘以的这个数称为消元乘数。

很简单，我们将第一行乘以3，然后用第二行减去它，就能够将第二行第一列的元素变为0。

⎡ ⎣ ⎢ 130284111 ⎤ ⎦ ⎥ \to r o w 2 = r o w 2 - 3 r o w 1 ⎡ ⎣ ⎢ 100224 1 - 2 1 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 2 & 1\\ 3 & 8 & 1\\ 0 & 4 & 1 \end{bmatrix} \overset{row2=row2-3row1}{\rightarrow} \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 4 & 1 \end{bmatrix}$

这里我们将矩阵的第二行第一列的元素（(2,1)）变为了0，所以使用 (2,1) 作为这一步的代号。下一步我们需要将第三行第一列变为0，代号为 (3,1)。很幸运的是，我们发现它已经是0了。以上的操作都是针对主元一来进行的，即保留第一个方程的系数 $x$ ，将第二个和第三个方程的系数 $x$ 都消去。

接下来我们要操作的是主元二，即保留第一个和第二个方程的系数 $y$ ，将第三个方程的系数 $y$ 都消去。对应到矩阵中的操作为将第三行第二列的元素变为0，代号为 (3,2)。操作过程为将第二行乘以多少，然后用第三行减去它，将第三行第二列元素变为0。答案很明显，消元乘数为2。

⎡ ⎣ ⎢ 100224 1 - 2 1 ⎤ ⎦ ⎥ \to r o w 3 = r o w 3 - 2 r o w 2 ⎡ ⎣ ⎢ 100220 1 - 2 5 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 4 & 1 \end{bmatrix} \overset{row3=row3-2row2}{\rightarrow} \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 0 & 5 \end{bmatrix}$

经过上面的操作，我们得到了一个新的上三角矩阵，我们称它为矩阵 U。它的对角线表示所有主元，主元之积（1 * 2 * 5 = 10）为它的行列式。消元的目的是为了根据系数矩阵 A 计算出矩阵 U。

注意：主元不能为0。

消元失效

什么情况下消元会失效呢？失效在这里是指不能得到三个主元。
主元为0，不代表主元永远是0。如果主元为0，可以使用行交换，来重新得到一个主元。

例如，如果将原始的系数矩阵 A 中的第二行第二列元素由8改为6，这样经过第一步操作后得到如下结果：

⎡ ⎣ ⎢ 130264111 ⎤ ⎦ ⎥ \to r o w 2 = r o w 2 - 3 r o w 1 ⎡ ⎣ ⎢ 100204 1 - 2 1 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 2 & 1\\ 3 & 6 & 1\\ 0 & 4 & 1 \end{bmatrix} \overset{row2=row2-3row1}{\rightarrow} \begin{bmatrix} 1 & 2 & 1\\ 0 & 0 & -2\\ 0 & 4 & 1 \end{bmatrix}$

这时候，主元二为0，但是我们可以考虑将第二行和第三行进行交换，就可以解决这个问题。但是有时候主元下面的位置也为0，就没法通过这种方式解决了。例如将原始系数矩阵 A 的第三行第三列改为-4。

⎡ ⎣ ⎢ 130284 11 - 4 ⎤ ⎦ ⎥ \to r o w 2 = r o w 2 - 3 r o w 1 ⎡ ⎣ ⎢ 100224 1 - 2 - 4 ⎤ ⎦ ⎥ \to r o w 3 = r o w 3 - 2 r o w 1 ⎡ ⎣ ⎢ 100220 1 - 2 0 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 2 & 1\\ 3 & 8 & 1\\ 0 & 4 & -4 \end{bmatrix} \overset{row2=row2-3row1}{\rightarrow} \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 4 & -4 \end{bmatrix} \overset{row3=row3-2row1}{\rightarrow} \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 0 & 0 \end{bmatrix}$

这时候，主元三为0，也就是说不存在主元三，矩阵因此不可逆。可逆矩阵是之后的一节内容，这里先简单的提下。

行交换可以解决主元为0的“暂时性失效”问题，但是当底下的行也没有非0元素时，消元就彻底失效了。

回代

之前讨论的都只是系数矩阵 A 的变换，可以想象，在对方程进行消元时，右侧向量也会发生变化。如果把右侧向量加入到系数矩阵中会得到一个新的矩阵，称为增广矩阵。按照之前的逻辑，现在对增广矩阵进行变换。

⎡ ⎣ ⎢ 130284111 | | | 2122 ⎤ ⎦ ⎥ \to r o w 2 = r o w 2 - 3 r o w 1 ⎡ ⎣ ⎢ 100224 1 - 2 1 | | | 262 ⎤ ⎦ ⎥ \to r o w 3 = r o w 3 - 2 r o w 2 ⎡ ⎣ ⎢ 100220 1 - 2 5 | | | 26 - 10 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 2 & 1 & | &2\\ 3 & 8 & 1 & | &12\\ 0 & 4 & 1 & | & 2 \end{bmatrix} \overset{row2=row2-3row1}{\rightarrow} \begin{bmatrix} 1 & 2 & 1 & | &2\\ 0 & 2 & -2 & | &6\\ 0 & 4 & 1 & | &2 \end{bmatrix} \overset{row3=row3-2row2}{\rightarrow} \begin{bmatrix} 1 & 2 & 1 & | &2\\ 0 & 2 & -2 & | &6\\ 0 & 0 & 5 & | &-10 \end{bmatrix}$

右侧向量 b 经过消元后的结果为一个向量 $[2, 6, -10]$
，该向量称为向量 c 。

将变换后的增广矩阵转为方程：

 x + 2y +  z = 2
     2y - 2z = 6
          5z = -10

该方程表示为矩阵形式为 Ux=c 。

根据方程三求出 z=-2，将 z=-2 带入方程二中，求出y=1，将 z=-2,y=1 带入方程一种，求出 x=2。

消元矩阵

之前已经使用矩阵表示了消元的过程，但是它只是一种简化版，想要真正使用矩阵进行消元，需要学习下面的知识。即使用矩阵乘以矩阵来得到消元后的矩阵。

现在要做的是使用矩阵来完成上面代号为 (2,1) 的过程，即将第二行第一列的元素变为0。即求出等式中的最左边矩阵。

⎡ ⎣ ⎢ ⎤ ⎦ ⎥ ⎡ ⎣ ⎢ 130284111 ⎤ ⎦ ⎥ = ⎡ ⎣ ⎢ 100224 1 - 2 1 ⎤ ⎦ ⎥

$\begin{bmatrix} & & & & \\ & & & & \\ & & & & \end{bmatrix} \begin{bmatrix} 1 & 2 & 1\\ 3 & 8 & 1\\ 0 & 4 & 1 \end{bmatrix}= \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 4 & 1 \end{bmatrix}$
观察下，只需要改变第二行就可以了。所以要求的矩阵的第一行和第二行分别为 [1,0,0] 和 [0,0,1] 。

⎡ ⎣ ⎢ 100001 ⎤ ⎦ ⎥ ⎡ ⎣ ⎢ 130284111 ⎤ ⎦ ⎥ = ⎡ ⎣ ⎢ 100224 1 - 2 1 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 0 & 0\\ & & \\ 0 & 0 & 1 \end{bmatrix} \begin{bmatrix} 1 & 2 & 1\\ 3 & 8 & 1\\ 0 & 4 & 1 \end{bmatrix}= \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 4 & 1 \end{bmatrix}$

然后求出第二行。

⎡ ⎣ ⎢ 1 - 3 0 010001 ⎤ ⎦ ⎥ ⎡ ⎣ ⎢ 130284111 ⎤ ⎦ ⎥ = ⎡ ⎣ ⎢ 100224 1 - 2 1 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 0 & 0\\ -3 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix} \begin{bmatrix} 1 & 2 & 1\\ 3 & 8 & 1\\ 0 & 4 & 1 \end{bmatrix}= \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 4 & 1 \end{bmatrix}$
求出的这个矩阵称为初等矩阵，记为

E21 $E_{21}$ 。现在我们要使用矩阵来求除代号为 (3,2) 的过程。即求出初等矩阵

E32 $E_{32}$ 。这儿不讲求解过程，直接给出结果。

⎡ ⎣ ⎢ 100 01 - 2 001 ⎤ ⎦ ⎥ ⎡ ⎣ ⎢ 100224 1 - 2 1 ⎤ ⎦ ⎥ = ⎡ ⎣ ⎢ 100220 1 - 2 5 ⎤ ⎦ ⎥

$\begin{bmatrix} 1 & 0 & 0\\ 0 & 1 & 0 \\ 0 & -2 & 1 \end{bmatrix} \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 4 & 1 \end{bmatrix}= \begin{bmatrix} 1 & 2 & 1\\ 0 & 2 & -2\\ 0 & 0 & 5 \end{bmatrix}$

上面的过程用可以表示为：