MIT线性代数Linear Algebra公开课笔记 第二讲 消元矩阵（消元法的矩阵表示）（lecture 2 Elimination with matrices）

本节是Gilbert Strang的MIT线性代数公开课中【第二讲 消元矩阵（消元法的矩阵表示）（lecture 2 Elimination with matrices）】的笔记，参考他在 MIT Linear Algebra课程网站上公开分享的 lecture summary (PDF) & Lecture video transcript (PDF)等文档，整理笔记如下，笔记中的大部分内容是从 MIT Linear Algebra课程网站上的资料中直接粘贴过来的，本人只是将该课程视频中讲述的内容整理为文字形式，前面的章节可在本人的其他博客中找到（此处戳第一讲），后面的章节会按照视频顺序不断更新~

lecture 2 Elimination with matrices

Method of Elimination（消元法）

Success

Elimination is the technique most commonly used by computer software to solve systems of linear equations. It finds a solution x to Ax = b whenever the matrix A is invertible.

Example 1：
$$\begin{gathered} x+2y+z=2 \\ 3x+8y+z=12 \\ 4y+z=2 \end{gathered}$$
  其中， $A=\left[\begin{array}{lll}1& 2& 1\\ 3& 8& 1\\ 0& 4& 1\end{array}\right]$ and $\mathbf{b}=\left[\begin{array}{r}2\\ 12\\ 2\end{array}\right]$.

消元法具体步骤：

  固定方程一，用该方程乘以某个数，然后从方程二中将其减去，目的是消除方程二中的x变量，目的决定系数值，以此类推，下面用矩阵形式表示整个消元过程（为方便，下述消元过程中都进行减法（Gilbert Strang的习惯））：

 注意：主元不能为0

Failure

消元法什么情况下会失效？ （失效指的是不能得到三个主元。）

若给定的矩阵某个主元为0（等效于给定的方程组中的某一个方程不含有某一个变量），此时需要行交换，找出合适的主元。

假如Example 1中的主元二为6，则经过第一步(2,1)后，主元二变为0，此时只要此0下面的元素不是0就可以继续消元过程，在该例中是4，则可以进行行交换，进而保证交换后的矩阵，主元二不为0；但是，若主元二为0，同时它下面的元素不是4了，而是0，那么就没有办法了，则失效。

另外，若Example 1中矩阵第三行第三列处的1改为-4，则不存在主元三，则矩阵不可逆，则方程组注定无解，此时消元确定失效。行交换只能解决主元为0的暂时性失效，但是当0主元下面彻底没有非0值时，消元彻底失效。

Back substitution（回代）

将右侧向量代入，作为新的一列代入矩阵中，则此时的矩阵称为增广矩阵，对方程进行消元的过程中，右侧向量也会同步变化。Example 1中对应的增广矩阵的变化如下
  将消元最终的结果写成方程组的形式：
$$\begin{gathered} x+2y+z=2 \\ 2y-2z=6 \\ 5z=-10 \end{gathered}$$  即 $Ux=c$，则很容易解得 $z=-2$ ；将其回代到第二个方程，得$y=1$; 再代回第一个方程，得$x=2$；此过程即为回代，因为方程组是三角的，所以反向。

Elimination Matrices（消元矩阵）

矩阵和矢量的乘法

矩阵乘以列向量得到矩阵各列的线性组合。
[ − − − − − − −