MIT18.06线性代数课程笔记3a：矩阵相乘的五种看待角度

课程简介

18.06是Gilbert Strang教授在MIT开的线性代数公开课，课程视频以及相关资料请见https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/index.htm。

课程笔记

上节课，Strang在讲解高斯消元的过程中给出了三种矩阵相乘的看待角度，也可以说是计算方法：MIT18.06线性代数课程笔记2a：矩阵相乘的三种看待角度。
这节课，他首先系统的给出了矩阵相乘的五种方法，之后又讲解了矩阵求逆的概念。本文主要总结矩阵相乘的相关内容。

1. 定义

矩阵$A_{m\times n}$和矩阵$B_{n\times p}$相乘$AB=C$，有$C$是$m\times p$的矩阵，且$A$的列数必须等于$B$的行数。$AB=C$，则有

$$c_{ij} = a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{in}b_{nj}$$

2. 五种计算方法

2.1. $A$的行向量和$B$的列向量相乘

这个方法非常直接简单，从上诉公式可得

$$c_{ij} = [a_{i1},a_{i2},\cdots,a_{in}]\cdot [b_{1j},b_{2j},\cdots,b_{nj}]^T$$
所以 $C$向量的第$i$行第 $j$列为$A$的第 $i$个行向量乘以$B$的第 $j$个列向量。

2.2. $A$与 $B$的列向量相乘

详情可以参考MIT18.06线性代数课程笔记2a：矩阵相乘的三种看待角度。
结论是$C$的第 $j$列是$A$与 $B$的第$j$列相乘的结果，而矩阵 $A$和列向量相乘的结果为矩阵$A$各列向量的线性组合。

2.3. $A$的行向量与$B$相乘

详情可以参考MIT18.06线性代数课程笔记2a：矩阵相乘的三种看待角度。
结论是$C$的第$i$行是$A$的第$i$个行向量与$B$相乘的结果，而$A$的第$i$个行向量与$B$相乘的结果为矩阵$B$各行向量的线性组合。

2.4. $A$的列向量和$B$的行向量相乘

考虑$A$的第$k$个列向量和$B$的第$k$个行向量相乘的结果：

$$[a_{1k},a_{2k},\cdots,a_{mk}]^T\cdot [b_{k1},b_{k2},\cdots,b_{kp}] = a_k\cdot b'_k$$
有$a_k\cdot b'_k$为$m\times p$的矩阵，且$[a_k\cdot b'_k]_{ij} = a_{ik}*b_{kj}$。所以$c_{ij} = [a_1\cdot b'_1]_{ij}+[a_2\cdot b'_2]_{ij}+\cdots+[a_n\cdot b'_n]_{ij}$，从而有$C=a_1\cdot b'_1+a_2\cdot b'_2+\cdots+a_n\cdot b'_n$。

所以$C$为$n$个$A$的列向量和$B$的行向量相乘矩阵的加和。

2.5. 分块矩阵相乘

分块矩阵对于如何分块没有限制，只要满足矩阵相乘的条件，即$A$的列数等于$B$的行数。

先说结论：

$$\begin{bmatrix}A_1,A_2\\A_3,A_4\end{bmatrix} \begin{bmatrix}B_1,B_2\\B_3,B_4\end{bmatrix} = \begin{bmatrix}A_1B_1+A_2B_3,A_1B_2+A_2B_4 \\A_3B_1+A_4B_3,A_3B_2+A_4B_4\end{bmatrix}$$
课上Strang并没有对其作出解释，这里笔者根据自己的理解写一段证明，正确性有待验证，还望指教。

1. 先证明

   $$[A_1,A_2]^TB=[A_1B,A_2B]^T$$ ，即可以对左侧矩阵做行切分。

   考虑矩阵乘法的row picture，即$C$的第$i$行为$B$的行向量的线性组合，系数由$A$的第$i$行唯一确定。所以对左侧矩阵做行切分，并不影响输出结果，因为$C$的第$i$行只与$A$的第$i$行有关。

2. 类似的，有$A[B_1,B_2] = [AB_1,AB_2]$，即可以对右侧矩阵做列切分。

   证明方法和上面类似，因为输出的第$j$个列向量是$A$列向量的线性组合，系数由$B$的第$j$个列向量唯一确定。所以对右侧矩阵做列切分，不影响输出结果。

3. 若对左侧矩阵做列切分，则必然需要对右侧矩阵做行切分，从而满足矩阵相乘的条件。若对右侧矩阵做行切分，也必然对应着左侧矩阵的列切分。从而最后一种情况是$[A_1,A_2][B_1,B_2]^T = A_1B_1+A_2B_2$。

   这里需要用到矩阵乘法的第四种计算方法：$A$的列向量和$B$的行向量的乘法。对左侧矩阵做列切分以及对右侧矩阵做行切分都没有影响到$A$的列向量以及$B$的行向量，从而$A_1B_1$等于$n_1$个$A$的列向量和$B$的行向量相乘相加的结果，$A_2B_2$等于$n_2$个$A$的列向量和$B$的行向量相乘相加的结果，两者相加即可得到$n$个$A$的列向量和$B$的行向量相乘相加的结果，即为$AB$。

4. 对任意分块矩阵相乘应用上诉三个结论以及矩阵的结合律即可得到最终结论。