机器学习中的数学(PartⅡ)——线性代数：2.2矩阵

概述

本节内容也相对简单，首先介绍了矩阵的定义，矩阵的表示方法；然后介绍了矩阵的加法和乘法，与标量的乘法，以及一些矩阵相关算数运算的性质，包括满足结合律、交换律；矩阵的逆和转置；最后又回顾了如何使用矩阵简约地表示线性方程组。

---

矩阵的定义和表示

这部分比较简单，直接贴原文：

 但是这里有一个表示方法，就是一个m×n的矩阵可以用一个mn长度的长向量表示，如图2.4所示。

有一类特殊的矩阵——单位阵，是方阵，且主对角线元素全为1，其余元素均为0。

---

矩阵加法和乘法

加法就是对应元素相加，乘法不再赘述，高中知识点。

需要说明的是：

• 矩阵乘法的表示形式为，需要显式地写出中间的符号（但后续书中表示矩阵乘法好像都省略了。。。）；
• 矩阵乘法不是对应元素相乘，而对应元素相乘通常出现在编程语言中，被称为哈达玛积(Hadamard product)。

标量与矩阵的乘法

标量与矩阵相乘就是标量与矩阵中的每个元素相乘。有如下性质：

---

矩阵算数运算的性质

• 结合律：可以把和看作是一个函数，是输入，结合律可以看作是复合函数。

• 分配律：

•  与单位阵的乘法：

---

逆和转置 

逆矩阵，定义直接贴图：

 注意，此处和都是方阵。

但并非所有方阵都有逆矩阵，如果对于一个方阵，不存在逆，则称为正则(regular)/可逆(invertible)/非奇异(nonsingular)矩阵，否则称为奇异(singular)/不可逆(noninvertible)矩阵。

如何判断一个矩阵是否可逆呢？可以通过计算其行列式（后续内容）来判断，矩阵行列式不为0则可逆。

---

转置，简单说就是把一个矩阵的行变成列，行列维度互换。

---

逆和转置的重要特性

---

对阵矩阵

对于矩阵而言，如果，则是对称矩阵。

注意：

• 对阵矩阵必定是方阵；
• 两个对称矩阵的和总是对称矩阵，但乘积得到的矩阵通常不是对称矩阵；

• 如果一个矩阵可逆，则其转置也可逆，有定义如下：

---

表示线性方程组

可使用矩阵简洁地表示线性方程组。在上述例子中，缩放矩阵第一列，缩放矩阵第二列，缩放矩阵的第三列。可进一步表示为。

---

总结