线性代数 | 要义 / 本质 （下篇）

注：本文为 “线性代数 | 要义 / 本质” 相关合辑。
略排未全校，如有内容异常，请看原文。

---

• 线性代数 | 要义 / 本质 （上篇）-优快云博客
  https://blog.youkuaiyun.com/u013669912/article/details/153110982

---

【直观详解】线性代数的本质（下篇）

5 行列式的几何意义

The purpose of computation is insight, not numbers - Richard Hamming
计算的目的不在于数字本身，而在于洞察其背后的意义 ——理查德·汉明（没错，是发明汉明码的那个人）

5.1 行列式的定义

行列式是衡量线性变换对空间体积（面积 / 体积）缩放比例的指标，记为 $\det (A)$ 或 $|A|$。

• 二维空间：对于矩阵 $A=\left[\begin{array}{cc}a& b\\ c& d\end{array}\right]$，其行列式为 $\det (A)=ad-bc$，几何意义是 “标准基 { ı ^ , ȷ ^ } \{\hat {\imath}, \hat {\jmath}\} {^,^​} 构成的单位正方形，经 $A$ 变换后形成的平行四边形的面积”；

  

• 三维空间：对于矩阵 $A=\left[\begin{array}{ccc}a& b& c\\ d& e& f\\ g& h& i\end{array}\right]$，其行列式为 $\det (A)=a(ei-fh)-b(di-fg)+c(dh-eg)$，几何意义是 “标准基 { ı ^ , ȷ ^ , k ^ } \{\hat {\imath}, \hat {\jmath}, \hat {k}\} {^,^​,k^} 构成的单位立方体，经 $A$ 变换后形成的平行六面体的体积”。

5.2 行列式的符号与降维

5.2.1 行列式的符号意义

行列式的正负表示线性变换是否改变空间的“定向”，具体判断方式随空间维度不同而变化：

1. 二维空间：以单位向量 $\hat{ı}$ 为参照，若 $\hat{ȷ}$ 经变换后从 $\hat{ı}$ 的左侧转移至右侧（效果类似“纸的翻面”），则行列式为负；反之，$\hat{ȷ}$ 相对 $\hat{ı}$ 方位不变，行列式为正。
2. 三维空间：空间定向通过右手定则判断——右手四指沿 $\hat{ı}\to \hat{ȷ}\to \hat{k}$ 顺序弯曲，大拇指指向为空间正定向。变换后定向方向相反，行列式为负；定向方向不变，行列式为正。

5.2.2 行列式与空间降维的关系

若矩阵 $A$ 的行列式 $\det (A)=0$，则该矩阵对应的线性变换会导致空间维度降低：

• 二维空间变换后降为直线；
• 三维空间变换后降为平面或直线。

其本质是：$\det (A)=0$ 时，矩阵 $A$ 的列向量线性相关，张成的空间维度小于矩阵阶数（如二阶矩阵列向量张成一维空间，三阶矩阵列向量张成二维或一维空间）。

5.2.3 线性变换的性质与行列式的作用

1. 线性变换的基本性质：
   线性变换保持图形的平行性，但改变图形的大小与方向；且不必然保持形状——仅旋转、反射等特殊线性变换保形，剪切变换等会改变图形形状。

2. 行列式在二维线性变换中的作用：
   行列式是描述矩阵缩放作用的标量值，可确定二维线性变换的两个关键结果：

   • 判断朝向变化：行列式为正，图形朝向不变；行列式为负，图形朝向反转。
   • 确定面积缩放比例：行列式的绝对值等于面积缩放比例。绝对值为 1 时面积不变，大于 1 时面积放大，小于 1 时面积缩小。

5.3 行列式的重要性质

由几何意义可直接推导行列式的核心性质：

1. $\det (M_1{M}_2)=\det (M_1)\det (M_2)$：复合变换的体积缩放比例等于各变换缩放比例的乘积；

2. $\det (A^{-1})=\frac{1}{\det (A)}$：逆变换的缩放比例是原变换的倒数（若原变换放大 $k$ 倍，逆变换缩小 $\frac{1}{k}$ 倍）；

3. $\det (kA)=k^n\det (A)$：$n$ 阶矩阵的数乘变换，体积缩放比例为 $k^n$（二维：面积缩放 $k^2$，三维：体积缩放 $k^3$）。

行列式直观理解

行列式是矩阵的一个数值特征，为建立行列式计算公式与几何直观的联系，二阶矩阵 $\left[\begin{array}{cc}a& b\\ c& d\end{array}\right]$ 的行列式，对应其列向量张成图形的有向面积：

• 当 $b=c=0$ 时，矩阵为 $\left[\begin{array}{cc}a& 0\\ 0& d\end{array}\right]$，$a$ 是 $\hat{i}$ 在 $x$ 轴的缩放比例，$d$ 是 $\hat{j}$ 在 $y$ 轴的缩放比例，行列式 $ad$ 是单位正方形按 $a$、$d$ 拉伸后的面积（拉伸倍数）。

• 当 $b$、$c$ 非 $0$ 时，行列式 $ad-bc$ 综合了 $x$、$y$ 轴拉伸与图形“倾斜压缩”的效果，为变换后图形的有向面积（总缩放比例）。

  

6 逆矩阵、列空间与零空间

To ask the right question is harder than to answer it - Georg Cantor
提出正确的问题比回答它更难 ——格奥尔格·康托尔

6.1 线性方程组的几何意义

线性方程组的一般形式为 $A\vec{x}=\vec{v}$，其中 $A$ 为 $n\times n$ 矩阵，$\vec{x}$ 为待求向量，

几何直观来翻译个公式即 $A\vec{x}$ 经过 $A$ 矩阵变换后，恰好落在 $\vec{v}$ 上

从线性变换的角度，该方程的几何意义是：找到向量 $\vec{x}$，使其经 $A$ 变换后恰好等于 $\vec{v}$。

6.2 逆矩阵与方程组求解

6.2.1 逆矩阵的定义

若存在矩阵 $A^{-1}$，使得 $A^{-1}A=I$（$I$ 为单位矩阵，$I=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]$（二维），$I=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]$（三维）），则称 $A^{-1}$ 为 $A$ 的逆矩阵。

• 几何意义：$A^{-1}$ 对应的变换是 $A$ 的 “逆操作”—— 若 $A$ 将 $\vec{x}$ 变换为 $\vec{v}$，则 $A^{-1}$ 将 $\vec{v}$ 变换回 $\vec{x}$。
  

6.2.2 线性方程组的解

在线性代数中，任意一个 $m\times n$ 型线性方程组均可以表示为矩阵形式 $A\mathbf{x}=\mathbf{v}$，其中各符号的定义如下：

• $A\in {\mathbb{R}}^{m\times n}$：称为系数矩阵，由方程组中未知量的系数按原顺序构成；
• $\mathbf{x}\in {\mathbb{R}}^n$：称为未知向量，包含方程组中所有待求解的未知量；
• $\mathbf{v}\in {\mathbb{R}}^m$：称为常数项向量，由方程组等号右侧的常数项构成。

该矩阵形式的核心意义在于：线性方程组 $A\mathbf{x}=\mathbf{v}$ 与从向量空间 ${\mathbb{R}}^n$ 到 ${\mathbb{R}}^m$ 的线性变换 $T_A:{\mathbb{R}}^n\to {\mathbb{R}}^m$（定义为 $T_A(\mathbf{x})=A\mathbf{x}$）一一对应。这种对应关系将“求解方程组”转化为“分析线性变换的性质”，我们可从逆变换、列空间、零空间三个维度，系统讨论方程组解的存在性、唯一性及解集合的结构。

1. 逆变换与方程组的唯一解

当线性变换 $T_A$ 满足“可逆”条件时，方程组 $A\mathbf{x}=\mathbf{v}$ 存在唯一解，具体推导与结论如下：

1.1 可逆的等价条件

线性变换 $T_A$ 可逆，等价于其对应的系数矩阵 $A$ 满足两个条件：

1. $A$ 是方阵（即 $m=n$，方程组的“方程个数”等于“未知量个数”）；
2. $A$ 的行列式非零（即 $\det (A)\ne 0$，此时 $A$ 称为可逆矩阵或非奇异矩阵）。

行列式非零的几何意义是：线性变换 $T_A$ 不会导致向量空间“降维”（例如，${\mathbb{R}}^3$ 中的变换不会将向量映射到 ${\mathbb{R}}^2$ 或更低维的空间），因此每个输出向量 $\mathbf{v}$ 都能唯一对应一个输入向量 $\mathbf{x}$。

1.2 唯一解的代数形式

若 $A$ 可逆，则其逆矩阵 $A^{-1}$ 存在且唯一（满足 $A^{-1}A=A{A}^{-1}=I$，其中 $I$ 为单位矩阵）。对 $A\mathbf{x}=\mathbf{v}$ 两边同时左乘 $A^{-1}$，可通过矩阵运算直接求解 $\mathbf{x}$：
$$A^{-1}A\mathbf{x}=A^{-1}\mathbf{v}⟹I\mathbf{x}=A^{-1}\mathbf{v}⟹\mathbf{x}=A^{-1}\mathbf{v}$$
从线性变换的角度看，该解等价于“将逆变换 $T_A^{-1}$ 作用于 $\mathbf{v}$”，即 $\mathbf{x}=T_A^{-1}(\mathbf{v})$，这进一步印证了解的唯一性——逆变换的输出是唯一的。

2. 列空间与方程组的解的存在性

当 $T_A$ 不可逆（或 $A$ 非方阵）时，方程组 $A\mathbf{x}=\mathbf{v}$ 未必有解，需通过系数矩阵 $A$ 的列空间（Column Space）判定解的存在性。

2.1 列空间的定义

系数矩阵 $A$ 的列空间（记为 $\text{Col}(A)$）是 $A$ 的所有列向量在 ${\mathbb{R}}^m$ 中通过“线性组合”张成的子空间。例如，若 $A=[{\mathbf{a}}_1{\mathbf{a}}_2\dots {\mathbf{a}}_n]$（其中 ${\mathbf{a}}_i\in {\mathbb{R}}^m$ 是 $A$ 的第 $i$ 列），则：
Col ( A ) = { c 1 a 1 + c 2 a 2 + ⋯ + c n a n ∣ c 1 , c 2 , … , c n ∈ R } \text{Col}(A) = \left\{ c_1\mathbf{a}_1 + c_2\mathbf{a}_2 + \dots + c_n\mathbf{a}_n \mid c_1, c_2, \dots, c_n \in \mathbb{R} \right\} Col(A)={c1​a1​+c2​a2​+⋯+cn​an​∣c1​,c2​,…,cn​∈R}
其几何意义是：线性变换 $T_A$ 的所有可能输出向量构成的集合，即 $T_A$ 的“值域”。

2.2 解的存在性充要条件

根据列空间的定义，方程组 $A\mathbf{x}=\mathbf{v}$ 有解的本质是“$\mathbf{v}$ 属于 $T_A$ 的值域”，因此可得到核心结论：

线性方程组 $A\mathbf{x}=\mathbf{v}$ 有解的充要条件是：常数项向量 $\mathbf{v}$ 属于系数矩阵 $A$ 的列空间，即 $\mathbf{v}\in \text{Col}(A)$。

结合行列式的特殊情况（当 $A$ 为方阵时）：

• 若 $\det (A)\ne 0$（$A$ 可逆），则 $\text{Col}(A)={\mathbb{R}}^m$（列空间充满整个目标空间），因此对任意 $\mathbf{v}\in {\mathbb{R}}^m$，方程组均有解（与第1节结论一致）；
• 若 $\det (A)=0$（$A$ 不可逆），则 $\text{Col}(A)$ 是 ${\mathbb{R}}^m$ 的真子空间（维度低于 $m$），此时仅当 $\mathbf{v}$ 落在该真子空间内时，方程组有解，否则无解。

3. 零空间与方程组的解集合结构

当方程组 $A\mathbf{x}=\mathbf{v}$ 有解时，解的个数可能是“唯一”或“无穷多”，需通过系数矩阵 $A$ 的零空间（Null Space）刻画解集合的完整结构。

3.1 零空间的定义

系数矩阵 $A$ 的零空间（记为 $\text{Nul}(A)$）是齐次线性方程组 $A\mathbf{x}=0$（常数项向量全为0的方程组）的所有解向量在 ${\mathbb{R}}^n$ 中构成的子空间，即：
Nul ( A ) = { z ∈ R n ∣ A z = 0 } \text{Nul}(A) = \left\{ \mathbf{z} \in \mathbb{R}^n \mid A\mathbf{z} = \mathbf{0} \right\} Nul(A)={z∈Rn∣Az=0}
齐次方程组 $A\mathbf{x}=0$ 始终有解（至少存在零解 $\mathbf{x}=0$），因此零空间 $\text{Nul}(A)$ 永远非空。

3.2 解集合的结构定理

设非齐次方程组 $A\mathbf{x}=\mathbf{v}$ 有解，且 ${\mathbf{x}}_0$ 是其任意一个特解（即满足 $A{\mathbf{x}}_0=\mathbf{v}$ 的某个固定解），则方程组的所有解可表示为“特解 + 零空间中任意向量”的形式，即：
$$\mathbf{x}={\mathbf{x}}_0+\mathbf{z},\text{其中 }\mathbf{z}\in \text{Nul}(A)$$

该定理的逻辑验证如下：

1. 解的有效性：若 $\mathbf{z}\in \text{Nul}(A)$，则 $A\mathbf{z}=0$，因此 $A({\mathbf{x}}_0+\mathbf{z})=A{\mathbf{x}}_0+A\mathbf{z}=\mathbf{v}+0=\mathbf{v}$，即 ${\mathbf{x}}_0+\mathbf{z}$ 是方程组的解；

2. 解的完整性：设 $\mathbf{x}$ 是方程组的任意一个解，则 $A(\mathbf{x}-{\mathbf{x}}_0)=A\mathbf{x}-A{\mathbf{x}}_0=\mathbf{v}-\mathbf{v}=0$，即 $\mathbf{x}-\mathbf{z}\in \text{Nul}(A)$，因此 $\mathbf{x}$ 可表示为 ${\mathbf{x}}_0+(\mathbf{x}-{\mathbf{x}}_0)$，符合上述形式。

3.3 特殊情况的解集合

根据上述定理，可进一步明确两类典型方程组的解集合：

• 非齐次方程组 $A\mathbf{x}=\mathbf{v}$：
  • 若 $\mathbf{v}\notin \text{Col}(A)$：解集合为空集（无解）；
  • 若 $\mathbf{v}\in \text{Col}(A)$：解集合为 { x 0 + z ∣ z ∈ Nul ( A ) } \left\{ \mathbf{x}_0 + \mathbf{z} \mid \mathbf{z} \in \text{Nul}(A) \right\} {x0​+z∣z∈Nul(A)}（无穷多解，除非 Nul ( A ) = { 0 } \text{Nul}(A) = \left\{ \mathbf{0} \right\} Nul(A)={0}，即零空间仅含零向量，此时解唯一）。
• 齐次方程组 $A\mathbf{x}=0$：
  • 特解 ${\mathbf{x}}_0=0$（零解），因此解集合就是零空间 $\text{Nul}(A)$；
  • 若 Nul ( A ) = { 0 } \text{Nul}(A) = \left\{ \mathbf{0} \right\} Nul(A)={0}，则仅有零解；若 $\text{Nul}(A)$ 维度大于0，则有无穷多非零解。

6.3 列空间（Column Space）

矩阵 $A$ 的列空间是其所有列向量张成的空间，记为 $C(A)$。

• 几何意义：列空间是线性变换 $A$ 的 “所有可能输出向量” 的集合（即 $A\vec{x}$ 的所有可能结果）；
• 维度与秩：列空间的维度称为矩阵的秩（记为 $\text{rank}(A)$）。对于 $n\times n$ 矩阵，若 $\text{rank}(A)=n$（满秩），则列空间是整个 $n$ 维空间；若 $\text{rank}(A)<n$（降秩），则列空间是 $n$ 维空间的一个子空间（如二维中的直线、三维中的平面）。

重要性质：零向量 $\vec{0}$ 一定在列空间中（令 $\vec{x}=\vec{0}$，则 $A\vec{0}=\vec{0}$）。

6.4 零空间（Null Space）

所有经过该矩阵变换后落在原点的向量的集合，称为该矩阵（再次强调，矩阵是变换的数字表达）的零空间或核。

图 1 二维空间压缩到一条直线（一维），其中一条直线（一维）上的点被压缩到原点。
图 2 三维空间压缩到一个平面（二维），其中一条直线（一维）上的点被压缩到原点。
图 3 三维空间压缩到一条直线（一维），其中一个平面（二维）上的点被压缩到原点。
注意： 线性压缩是一种线性变换，而矩阵是线性变换在给定基下的代数表示（数字表达），二者一一对应但并非等同。

矩阵 $A$ 的零空间是满足 $A\vec{x}=\vec{0}$ 的所有向量 $\vec{x}$ 的集合，记为 $N(A)$。

• 几何意义：零空间是线性变换 $A$ 中 “被压缩到原点的向量” 的集合；
• 维度关系（秩 - 零定理）：对于 $n\times n$ 矩阵，$\text{rank}(A)+\dim (N(A))=n$（列空间维度与零空间维度之和等于矩阵的阶数）。

示例：

• 若 $A$ 是 $2\times 2$ 矩阵且 $\det (A)=0$（二维→一维），则零空间是一条直线（所有被压缩到原点的向量构成的直线）；
• 若 $A$ 是 $3\times 3$ 矩阵且 $\text{rank}(A)=2$（三维→二维），则零空间是一条直线（$\dim (N(A))=3-2=1$）。

6.4.1 秩-零化度定理

零化度（Nullity）是线性代数中矩阵零空间的维数，是衡量矩阵“将向量映射为零向量”能力的重要指标。

• 零空间（Null Space，又称核空间 Kernel）：指矩阵 $A\in {\mathbb{R}}^{m\times n}$ 的所有解向量 $\mathbf{x}\in {\mathbb{R}}^n$ 的集合，即 N ( A ) = { x ∈ R n ∣ A x = 0 } \text{N}(A) = \{\mathbf{x} \in \mathbb{R}^n \mid A\mathbf{x} = \mathbf{0}\} N(A)={x∈Rn∣Ax=0}。
• 零化度的本质：零空间作为一个向量空间，其维数即为零化度（记为 $\text{nullity}(A)$），等价于零空间中“极大线性无关组的向量个数”（即零空间的基向量数）。
• 零化度的计算：通过对矩阵 $A$ 做初等行变换化为行最简形，解线性方程组 $A\mathbf{x}=0$ 得到自由变量的个数，该个数即为零化度（自由变量数 = 零空间维数）。

对任意 $m\times n$ 矩阵 $A$，其列空间的维数（即秩 $\text{rank}(A)$）与零空间的维数（零化度）之和，等于矩阵的列数 $n$，即：

$$\dim (\text{Col}(A))+\dim (\text{Nul}(A))=n$$

注意：是“维数之和”，而非“空间本身相加”——列空间（${\mathbb{R}}^m$ 子空间）与零空间（${\mathbb{R}}^n$ 子空间）维度可能不同，无法直接叠加。

6.4.2 满秩与列空间、零空间

“满秩”是矩阵的属性（$\text{rank}(A)=\min (m,n)$），结合上述定理分析：

• 若 $A$ 为 $n\times n$ 方阵（满秩即 $\text{rank}(A)=n$）：
  由定理得 $\dim (\text{Nul}(A))=0$（零空间仅含零向量），且列空间 $\text{Col}(A)={\mathbb{R}}^n$（满维子空间）。
• 若 $A$ 为长方阵（如 $m<n$ 时满秩即 $\text{rank}(A)=m$）：
  列空间 $\text{Col}(A)={\mathbb{R}}^m$（满维），零空间维数 $n-m>0$（含非零解）。

7 非方阵的几何意义

On this quiz, I asked you to find the determinant of a 2*3 matrix. Some of you, to my great amusement, actually tried to do this - no name listed
在这个小测试里，我让你们求一个 2*3 矩阵的行列式。让我感到非常可笑的是，你们当中竟然有人尝试去做 ——佚名

7.1 非方阵的维度映射

非方阵（如 $m\times n$ 矩阵，$m\ne n$）对应的线性变换是不同维度空间之间的映射：

• $m\times n$ 矩阵：将 $n$ 维输入空间映射到 $m$ 维输出空间；
• 示例：$3\times 2$ 矩阵将二维空间映射到三维空间（输入为 $2$ 维向量，输出为 $3$ 维向量），其列向量是二维标准基 { ı ^ , ȷ ^ } \{\hat {\imath}, \hat {\jmath}\} {^,^​} 在三维空间中的变换结果。

7.2 非方阵乘法的条件

两个非方阵 $M_1$（$p\times q$）与 $M_2$（$q\times r$）可相乘的充要条件是：前一个矩阵的列数等于后一个矩阵的行数（即 $M_1$ 的输入维度等于 $M_2$ 的输出维度），乘积矩阵 $M=M_1{M}_2$ 的维度为 $p\times r$。

• 几何意义：$M_2$ 将 $r$ 维空间映射到 $q$ 维空间，$M_1$ 再将 $q$ 维空间映射到 $p$ 维空间，复合变换的输入维度为 $r$，输出维度为 $p$，与乘积矩阵维度一致。

7.3 非方阵的行列式

非方阵不存在行列式，因为行列式的核心是 “体积缩放比例”，而不同维度空间之间的映射（如二维→三维）无法定义 “体积比”（二维空间的 “面积” 与三维空间的 “体积” 单位不同，无直接比例关系）。

8 点积与对偶性

卡尔文：你知道吗，我觉数学不是一门科学，而是一种宗教。
霍布斯：一种宗教？
卡尔文：是啊。这些公式就像奇迹一般。你取出两个数，把它们相加时，它们神奇地成为了一个全新的数！没人能说清这到底是怎么发生的。你要么完全相信，要么完全不信。

8.1 点积的定义与几何意义

8.1.1 代数定义

对于 $n$ 维向量 $\vec{v}=\left[\begin{array}{c}{v}_1\\ v_2\\ \cdots \\ v_n\end{array}\right]$ 与 $\vec{w}=\left[\begin{array}{c}{w}_1\\ w_2\\ \cdots \\ w_n\end{array}\right]$，其点积为：
$$\vec{v}\cdot \vec{w}=v_1{w}_1+v_2{w}_2+\cdots +v_n{w}_n$$

8.1.2 几何意义

点积的几何意义是 “一个向量在另一个向量上的投影长度与被投影向量长度的乘积”，即：
$$\vec{v}\cdot \vec{w}=\Vert \vec{v}\Vert \cdot \Vert \vec{w}\Vert \cdot \cos \theta$$
其中 $\theta$ 是 $\vec{v}$ 与 $\vec{w}$ 的夹角，$\Vert \vec{v}\Vert =\sqrt{v_1^2+v_2^2+\cdots +v_n^2}$ 是 $\vec{v}$ 的长度（模）。

• 符号含义：$\cos \theta >0$（$\theta <90^{\circ }$）时，点积为正；$\cos \theta <0$（$\theta >90^{\circ }$）时，点积为负；$\cos \theta =0$（$\theta =90^{\circ }$）时，点积为 $0$（两向量垂直）。

8.2 点积的交换律

点积满足交换律：$\vec{v}\cdot \vec{w}=\vec{w}\cdot \vec{v}$，几何解释如下：

• 若 $\Vert \vec{v}\Vert =\Vert \vec{w}\Vert$，则 $\vec{v}$ 在 $\vec{w}$ 上的投影长度等于 $\vec{w}$ 在 $\vec{v}$ 上的投影长度，乘积相等；
• 若 $\Vert \vec{v}\Vert \ne \Vert \vec{w}\Vert$，设 $\vec{v}$ 的长度为 $k\Vert \vec{w}\Vert$，则 $\vec{v}$ 在 $\vec{w}$ 上的投影长度为 $k$ 倍 $\vec{w}$ 在 $\vec{v}$ 上的投影长度，乘积仍相等（如 $\vec{v}=2\vec{u}$，则 $2\vec{u}\cdot \vec{w}=2(\vec{u}\cdot \vec{w})=\vec{w}\cdot 2\vec{u}$）。

8.3 对偶性：点积与线性变换的对应

8.3.1 多维到一维的线性变换

$1\times n$ 矩阵（行向量）对应的线性变换是将 $n$ 维空间映射到一维空间（数轴）。

例如，$1\times 2$ 矩阵 $\left[\begin{array}{cc}a& b\end{array}\right]$ 对二维向量 $\left[\begin{array}{c}x\\ y\end{array}\right]$ 的变换结果为 $ax+by$，这与点积 $\left[\begin{array}{c}a\\ b\end{array}\right]\cdot \left[\begin{array}{c}x\\ y\end{array}\right]$ 完全一致。

8.3.2 对偶性的定义

对偶性是指 “多维到一维的线性变换” 与 “该空间中的向量” 之间的一一对应关系：

• 对于任意 $n$ 维到一维的线性变换 $L(\vec{x})$，存在唯一的 $n$ 维向量 $\vec{u}$，使得 $L(\vec{x})=\vec{u}\cdot \vec{x}$；
• 反之，任意 $n$ 维向量 $\vec{u}$ 都可定义一个 $n$ 维到一维的线性变换 $L(\vec{x})=\vec{u}\cdot \vec{x}$。
  

几何解释：设 $\vec{u}$ 是一维空间（数轴）的单位向量，$L(\vec{x})$ 是 $\vec{x}$ 在 $\vec{u}$ 所在数轴上的投影长度，则 $L(\vec{x})=\vec{u}\cdot \vec{x}$（投影长度等于 $\vec{x}$ 与单位向量 $\vec{u}$ 的点积）。

9 叉积

每一个维度都很特别。—— 杰弗里・拉加里亚斯（Jeffrey Lagarias）
从他（格罗滕迪克）和他的作为中，我还学到了一点：不以高难度的证明为傲，因为难度高意味着我们还不理解。理想的情况是能够绘出一幅美景，而其中的证明显而易见。

9.1 二维情况下的叉积类比

在二维空间中，向量 $\vec{v}$ 与 $\vec{w}$ 张成的平行四边形的面积，可类比为二维 “叉积”（注：严格意义上的叉积仅定义于三维空间，二维情况实为面积的代数值），记为 $\vec{v}\times \vec{w}$。

该结果的正负号由基向量 $\hat{ı}$ 和 $\hat{ȷ}$ 的相对位置关系确定：若 $\vec{v}$ 与 $\vec{w}$ 张成的平行四边形中，$\hat{ȷ}$ 相对于 $\hat{ı}$ 的位置与原始坐标系一致，则结果为正；反之则为负。

结合几何直观，可得出以下结论：

1. 向量 $\vec{v}$ 与 $\vec{w}$ 的夹角越接近 $90^{\circ }$（垂直），二者张成的平行四边形面积越大；

2. 叉积满足分配律，即 $\vec{v}\times ({\vec{w}}_1+{\vec{w}}_2)=\vec{v}\times {\vec{w}}_1+\vec{v}\times {\vec{w}}_2$。

9.2 真正的叉积定义

严格意义上的叉积定义于三维空间：给定两个三维向量 $\vec{v}$ 与 $\vec{w}$，二者的叉积运算将产生一个新的三维向量 $\vec{p}$，且满足以下两个条件：

1. 向量 $\vec{p}$ 的长度等于 $\vec{v}$ 与 $\vec{w}$ 张成的平行四边形的面积；

2. 向量 $\vec{p}$ 的方向与 $\vec{v}$ 和 $\vec{w}$ 张成的平面垂直，其具体方向由右手定则确定：将右手食指指向 $\vec{v}$ 的方向，中指指向 $\vec{w}$ 的方向，此时大拇指所指方向即为 $\vec{p}$ 的方向。

9.3 叉积计算公式

三维向量叉积的计算公式可通过行列式形式表示，如下所示：

$\vec{v}\times \vec{w}=\left[\begin{array}{c}{v}_1\\ v_2\\ v_3\end{array}\right]\times \left[\begin{array}{c}{w}_1\\ w_2\\ w_3\end{array}\right]=\det \left(\begin{array}{ccc}\hat{ı}& v_1& w_1\\ \hat{ȷ}& v_2& w_2\\ \hat{k}& v_3& w_3\end{array}\right)$

展开上述行列式，可得：

$\vec{v}\times \vec{w}=\hat{ı}(v_2{w}_3-v_3{w}_2)-\hat{ȷ}(v_1{w}_3-v_3{w}_1)+\hat{k}(v_1{w}_2-v_2{w}_1)$

其中，$\hat{ı}$、$\hat{ȷ}$、$\hat{k}$ 为三维空间的标准单位基向量，这三个基向量前面的系数（即 $v_2{w}_3-v_3{w}_2$、$-(v_1{w}_3-v_3{w}_1)$、$v_1{w}_2-v_2{w}_1$）分别对应叉积结果向量 $\vec{p}$ 的 $x$、$y$、$z$ 坐标值。

初次接触该公式时，多数学习者难以理解其形式由来，甚至部分教学过程仅要求记忆公式而不解释逻辑。但基于 “直观理解” 的核心原则，需进一步探明公式的推导过程。

9.4 叉积计算的几何直观

在推导前，需再次强化对偶性的核心概念：每当遇到一个从 “多维空间到数轴” 的线性变换时，该空间中必然存在唯一一个向量与之对应 ——“将线性变换作用于某个向量” 的结果，与 “该向量和对应向量的点积运算” 结果完全等价。

叉积的运算过程正是对偶性的典型实例：根据向量 $\vec{v}$ 和 $\vec{w}$ 定义一个从三维空间到数轴的特定线性变换，找到该变换的对偶向量，这个对偶向量即为 $\vec{v}$ 与 $\vec{w}$ 的叉积。具体推导步骤如下：

9.4.1 定义线性变换 $f(\vec{u})$

已知三维空间中，$3\times 3$ 矩阵的行列式值等于该矩阵三个列向量（或行向量）张成的平行六面体的体积。若将矩阵的第一列替换为自变量向量 $\vec{u}=(x,y,z)$，后两列固定为向量 $\vec{v}$ 和 $\vec{w}$，则可定义函数：

$f(\vec{u})=\det \left(\begin{array}{ccc}\vec{u}& \vec{v}& \vec{w}\end{array}\right)$

该函数的几何意义为：平行六面体的体积随自变量向量 $\vec{u}$ 的变化而变化（ “平行六面体随白色向量 $(x,y,z)$ 的随机游走而不断改变” ）。此时核心问题转化为：根据 $\vec{v}$ 和 $\vec{w}$，找到一个变换（矩阵或函数），使得上述等式成立。

9.4.2 利用对偶性转化问题

由于 $f(\vec{u})$ 满足线性变换的 “可加性” 与 “成比例性”（即线性性质），根据对偶性原理，存在一个三维向量 $\vec{p}$，使得对任意向量 $\vec{u}$，均有：

$f(\vec{u})=\vec{p}\cdot \vec{u}$

“将 $1\times 3$ 的变换矩阵转置，写成点积形式” 的逻辑 —— 通过对偶性，将 “线性变换作用于 $\vec{u}$” 转化为 “$\vec{u}$ 与 $\vec{p}$ 的点积”，此时问题进一步转化为：寻找向量 $\vec{p}$，使得上述等式成立。

9.4.3 确定 $\vec{p}$ 的方向与长度

（1）$\vec{p}$ 的方向：与 $\vec{v}$、$\vec{w}$ 张成的平面垂直

根据点积的几何意义，$\vec{p}\cdot \vec{u}$ 表示 “将 $\vec{u}$ 投影到 $\vec{p}$ 上，投影长度与 $\vec{p}$ 的长度相乘”；而平行六面体的体积公式为 “底面积 × 高”，其中 “高” 是 $\vec{u}$ 在 “与底面积垂直方向” 上的投影长度（底面积为 $\vec{v}$ 与 $\vec{w}$ 张成的平行四边形面积）。

为使 “点积结果” 与 “体积” 相等，$\vec{p}$ 的方向必须与 $\vec{v}$、$\vec{w}$ 张成的平面垂直 —— 只有这样，$\vec{u}$ 在 $\vec{p}$ 上的投影长度才等于平行六面体的高，满足 “体积 = 底面积 × 高” 的逻辑。

（2）$\vec{p}$ 的长度：等于 $\vec{v}$、$\vec{w}$ 张成的平行四边形面积

结合点积公式与体积公式：

• 点积：$\vec{p}\cdot \vec{u}=|\vec{p}|\times |{\vec{u}}_{\text{投影}}|$（$|{\vec{u}}_{\text{投影}}|$ 为 $\vec{u}$ 在 $\vec{p}$ 上的投影长度）；

• 体积：$V=S\times |{\vec{u}}_{\text{投影}}|$（$S$ 为 $\vec{v}$ 与 $\vec{w}$ 张成的平行四边形面积）。

由于 $\vec{p}\cdot \vec{u}=V$，代入后可得 $|\vec{p}|=S$，即 $\vec{p}$ 的长度等于 $\vec{v}$ 与 $\vec{w}$ 张成的平行四边形面积。

9.4.4 对偶性的价值

通过上述推导，再次验证了对偶性的意义 —— 它建立了 “线性变换” 与 “向量” 之间自然且出乎意料的对应关系。基于几何直观理解叉积公式的由来，而非单纯记忆，是加深概念记忆、实现深度理解的有效途径。

9.5 总结

通过以下步骤可回顾叉积的核心逻辑，检验对概念的掌握程度：

1. 基于 $\vec{v}$ 和 $\vec{w}$，定义一个从三维空间到数轴的线性变换 $f(\vec{u})=\det \left(\begin{array}{ccc}\vec{u}& \vec{v}& \vec{w}\end{array}\right)$；

2. 利用对偶性，将线性变换 $f(\vec{u})$ 转化为 “$\vec{u}$ 与某向量 $\vec{p}$ 的点积”，即 $f(\vec{u})=\vec{p}\cdot \vec{u}$；

3. 为满足 “点积结果 = 平行六面体体积”，推导得出：$\vec{p}$ 的方向与 $\vec{v}$、$\vec{w}$ 张成的平面垂直，长度等于该平面内平行四边形的面积；

4. 将 $\hat{ı}$、$\hat{ȷ}$、$\hat{k}$ 代入行列式第一列并展开，即可得到叉积的计算公式，而该行列式的结果向量正是对偶向量 $\vec{p}$，即 $\vec{v}\times \vec{w}=\vec{p}$。

在几何直观上，这个对偶向量一定与 $\vec{v}$ 和 $\vec{w}$ 垂直，并且其长度与这两个向量张成的平行四边形的面积相同。

10 基变换与坐标转换

Mathematics is the art of givinh the same name to different things -Henri Poincare
数学是一门赋予不同事物相同名称的艺术 ——昂利·庞加莱

10.1 基的定义与坐标表示

设 { b 1 ⃗ , b 2 ⃗ , ⋯   , b n ⃗ } \{\vec {b_1}, \vec {b_2}, \cdots, \vec {b_n}\} {b1​ ​,b2​ ​,⋯,bn​ ​} 是 $n$ 维空间的一组基，任意向量 $\vec{x}$ 可唯一表示为：
$$\vec{x}=c_1\overrightarrow{b_1}+c_2\overrightarrow{b_2}+\cdots +c_n\overrightarrow{b_n}$$
其中 $\left[\begin{array}{c}{c}_1\\ c_2\\ \cdots \\ c_n\end{array}\right]$ 称为 $\vec{x}$ 在基 { b 1 ⃗ , ⋯   , b n ⃗ } \{\vec {b_1}, \cdots, \vec {b_n}\} {b1​ ​,⋯,bn​ ​} 下的坐标。

10.1.2 标准基与非标准基的转换

设标准基为 { ı ^ , ȷ ^ } \{\hat {\imath}, \hat {\jmath}\} {^,^​}（二维），非标准基为 { b 1 ⃗ , b 2 ⃗ } \{\vec {b_1}, \vec {b_2}\} {b1​ ​,b2​ ​}，其中 $\overrightarrow{b_1}=\left[\begin{array}{c}2\\ 1\end{array}\right]$，$\overrightarrow{b_2}=\left[\begin{array}{c}-1\\ 1\end{array}\right]$（用标准基表示）。

• 基变换矩阵：将非标准基向量作为列构成矩阵 $T=\left[\begin{array}{cc}2& -1\\ 1& 1\end{array}\right]$，称为 “从非标准基到标准基的转换矩阵”；
• 坐标转换：若 $\vec{x}$ 在非标准基下的坐标为 $\left[\begin{array}{c}{c}_1\\ c_2\end{array}\right]$，则其在标准基下的坐标为 $\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]=T\left[\begin{array}{c}{c}_1\\ c_2\end{array}\right]$；
• 逆转换：若已知 $\vec{x}$ 在标准基下的坐标，其在非标准基下的坐标为 $\left[\begin{array}{c}{c}_1\\ c_2\end{array}\right]=T^{-1}\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]$，其中 $T^{-1}$ 是 $T$ 的逆矩阵。

10.2 线性变换在不同基下的矩阵

设线性变换 $L$ 在标准基下的矩阵为 $M$，在非标准基 { b 1 ⃗ , b 2 ⃗ } \{\vec {b_1}, \vec {b_2}\} {b1​ ​,b2​ ​} 下的矩阵为 $M^{\prime }$，则 $M^{\prime }$ 与 $M$ 的关系为：
$$M^{\prime }=T^{-1}MT$$
其中 $T$ 是从非标准基到标准基的转换矩阵。

10.2.2 几何意义

• $T$：将非标准基下的坐标转换为标准基下的坐标；
• $M$：在标准基下应用线性变换；
• $T^{-1}$：将标准基下的变换结果转换回非标准基下的坐标；
• 整体效果：$M^{\prime }$ 描述了同一线性变换在非标准基下的数字表达。

示例：设 $L$ 是 “左旋转 $90^{\circ }$” 的变换，标准基下的矩阵 $M=\left[\begin{array}{cc}0& -1\\ 1& 0\end{array}\right]$，非标准基转换矩阵 $T=\left[\begin{array}{cc}2& -1\\ 1& 1\end{array}\right]$，则非标准基下的变换矩阵为：
$$M^{\prime }=T^{-1}MT=\frac{1}{3}\left[\begin{array}{cc}1& 1\\ -1& 2\end{array}\right]\times \left[\begin{array}{cc}0& -1\\ 1& 0\end{array}\right]\times \left[\begin{array}{cc}2& -1\\ 1& 1\end{array}\right]=\left[\begin{array}{cc}\frac{1}{3}& -\frac{1}{3}\\ \frac{2}{3}& -1\end{array}\right]$$

11 特征向量与特征值

本节将系统梳理特征向量与特征值的定义、意义、计算方法及特殊情况，同时探讨特征基的应用，建立其与线性变换、行列式等前置知识的关联，深化对线性代数变换本质的理解。

11.1 特征向量与特征值的定义

设对 $\hat{ı}$ 和 $\hat{ȷ}$ 张成的空间进行线性变换，基变换为 ${\hat{ı}}^{\prime }=\left[\begin{array}{c}3\\ 0\end{array}\right]$、${\hat{ȷ}}^{\prime }=\left[\begin{array}{c}1\\ 2\end{array}\right]$。变换中，大部分向量会脱离自身张成空间（原点到向量终点的直线），但部分向量仍留在该空间内，仅被拉伸或压缩。

如图所示，$x$ 轴上所有向量被伸长为原来的 3 倍，向量 $(-1,1)$ 被伸长为原来的 2 倍，基于此可给出如下定义：

• 变换中留在自身张成空间内的向量，称为特征向量（如 $x$ 轴上的向量、$(-1,1)$）；
• 特征向量被拉伸或压缩的比例因子，称为特征值（如 3、2）；
• 特征值的正负号，用于表示变换是否使向量发生方向翻转。

11.2 特征向量与特征值的意义

特征向量与特征值是理解线性变换作用的关键工具。以三维空间为例，若能找到旋转轴对应的向量，其特征值必为 1，该向量在旋转变换中保持方向不变，通过这类特征信息可更清晰地描述线性变换的本质。

11.3 特征向量与特征值的计算

根据定义，特征向量与特征值满足数学关系 $A\vec{v}=\lambda \vec{v}$，其中 $A$ 为变换矩阵，$\vec{v}$ 为特征向量，$\lambda$ 为特征值。为便于计算，将等式变形为矩阵乘法形式：

1. 由于 $\lambda \vec{v}$ 等价于对角矩阵 $\lambda I$ 与 $\vec{v}$ 的乘积（$I$ 为单位矩阵），因此 $A\vec{v}=(\lambda I)\vec{v}$；
2. 移项可得 $(A-\lambda I)\vec{v}=0$，该式表示矩阵 $A-\lambda I$ 对 $\vec{v}$ 的变换会将其压缩到更低维度；
3. 空间压缩对应矩阵行列式为 0，即 $\det (A-\lambda I)=0$，求解该方程可得到特征值 $\lambda$，再代入 $(A-\lambda I)\vec{v}=0$ 可求得特征向量 $\vec{v}$。

如图所示，随 $\lambda$ 变化可可视化这一计算过程。例如矩阵 $A=\left[\begin{array}{cc}2& 2\\ 1& 3\end{array}\right]$，其特征值之一为 1。

11.4 特征向量的特殊情况

11.4.1 旋转变换

对平面旋转变换，求解特征值会得到复数解（如 $\pm i$），不存在实特征向量。特征值为复数的情况，通常对应变换中的旋转操作。

11.4.2 剪切变换

剪切变换中，$x$ 轴保持不变，仅存在一个特征值 $\lambda =1$（满足 $(\lambda -1{)}^2=0$），且特征向量数量不足，无法张成整个空间。

11.4.3 伸缩变换

伸缩变换中，仅有一个特征值，但空间内所有向量均为特征向量，变换仅对所有向量进行统一比例的拉伸或压缩。

11.5 特征基

• 定义：由特征向量构成的基向量集合，称为特征基。对角矩阵的基向量均为特征向量，因其列向量（对应基向量）仅在自身维度上有非零值，符合特征向量“方向不变”的属性。
• 优势：对角矩阵的多次乘法计算简便，例如 $A^n$（$A$ 为对角矩阵）仅需对对角线元素取 $n$ 次幂。
• 应用：若矩阵可对角化，可通过基变换将其转化为对角矩阵计算：以特征向量为基构建变换矩阵 $P$，则 $P^{-1}AP$ 为对角矩阵（对角元素为特征值），计算后再通过 $P$ 转换回原空间。

需注意，并非所有矩阵都能对角化，如剪切变换因特征向量数量不足，无法构建特征基。

12 抽象向量空间

线性代数的关键概念（如行列式、特征向量）不受坐标系限制，是空间的固有属性。

本节将线性代数的应用范围从“箭头向量”扩展到更广泛的抽象对象，构建抽象向量空间的理论框架。

12.1 函数与向量的等价性

函数可视为一种特殊的“向量”，因其满足向量的关键运算性质：

• 可加性：$(f+g)(x)=f(x)+g(x)$，即两个函数在任意点的函数值之和，对应向量加法；
• 数乘性：$(kf)(x)=kf(x)$（$k$ 为标量），即标量与函数值的乘积，对应向量数乘。

基于此，线性代数中矩阵、线性变换等概念可迁移至函数领域。例如，微积分中的导数是典型的函数线性变换，通常称为“线性算子”，其本质与向量空间中的线性变换一致。

以多项式函数为例，可通过矩阵描述求导变换。选取幂函数 { 1 , x , x 2 , x 3 , …   } \{1, x, x^2, x^3, \dots\} {1,x,x2,x3,…} 作为基函数（对应向量空间的基向量），则求导操作可表示为矩阵形式，进一步验证“矩阵是变换的数字表达”这一关键观点。

12.2 向量空间的定义与公理

• 定义：满足向量加法和数乘运算规则的集合，称为向量空间，集合中的元素称为“向量”（如箭头、数组、函数等）。
• 公理：向量加法与数乘需满足以下 8 条公理，以保证运算的合理性：

1. 向量加法结合律：$\vec{r}+(\vec{v}+\vec{w})=(\vec{r}+\vec{v})+\vec{w}$；
2. 向量加法交换律：$\vec{v}+\vec{w}=\vec{w}+\vec{v}$；
3. 加法单位元存在：存在零向量 $\vec{0}$，使得 $\vec{0}+\vec{v}=\vec{v}$ 对所有 $\vec{v}$ 成立；
4. 加法逆元存在：对任意向量 $\vec{v}$，存在 $\overrightarrow{-v}$，使得 $\vec{v}+(-\vec{v})=\vec{0}$；
5. 标量乘法与域乘法相容：$a(b\vec{v})=(ab)\vec{v}$（$a,b$ 为标量）；
6. 标量乘法单位元存在：$1\cdot \vec{v}=\vec{v}$；
7. 标量乘法对向量加法分配律：$a(\vec{v}+\vec{w})=a\vec{v}+a\vec{w}$；
8. 标量乘法对域加法分配律：$(a+b)\vec{v}=a\vec{v}+b\vec{v}$。

这些公理是连接理论与应用的桥梁，确保线性代数结论可推广到各类抽象向量空间。

12.3 函数空间示例：多项式空间

以“所有多项式构成的集合”为例，验证其满足抽象向量空间的定义：

• 向量加法：设多项式 $f(x)=a_n{x}^n+\cdots +a_{1}x+a_0$、$g(x)=b_n{x}^n+\cdots +b_{1}x+b_0$，则 $f(x)+g(x)=(a_n+b_n)x^n+\cdots +(a_1+b_1)x+(a_0+b_0)$，符合可加性；
• 向量数乘：对标量 $c$，$c\cdot f(x)=c{a}_n{x}^n+\cdots +c{a}_{1}x+c{a}_0$，符合数乘性；
• 基与维度：$n$ 次多项式空间的基为 { 1 , x , x 2 , … , x n } \{1, x, x^2, \dots, x^n\} {1,x,x2,…,xn}，维度为 $n+1$（基向量的个数）。

12.4 线性算子：抽象空间的线性变换

在抽象向量空间中，“线性变换”称为线性算子，需满足与线性变换相同的条件：对任意向量 $\vec{u},\vec{v}$ 和标量 $k$，有 $T(\vec{u}+\vec{v})=T(\vec{u})+T(\vec{v})$ 且 $T(k\vec{u})=kT(\vec{u})$。

12.4.1 导数算子示例

设导数算子 $D:D(f(x))=f^{\prime }(x)$（作用于多项式空间），验证其线性性：

1. 可加性：$D(f(x)+g(x))=f^{\prime }(x)+g^{\prime }(x)=D(f(x))+D(g(x))$；
2. 数乘性：$D(kf(x))=k{f}^{\prime }(x)=kD(f(x))$。

以 { 1 , x , x 2 } \{1, x, x^2\} {1,x,x2} 为基，多项式 $f(x)=a+bx+c{x}^2$ 的坐标为 $\left[\begin{array}{c}a\\ b\\ c\end{array}\right]$，其导数 $f^{\prime }(x)=b+2cx$ 的坐标为 $\left[\begin{array}{c}b\\ 2c\\ 0\end{array}\right]$，因此导数算子对应的矩阵为：
$$D=\left[\begin{array}{ccc}0& 1& 0\\ 0& 0& 2\\ 0& 0& 0\end{array}\right]$$

12.5 概念的统一与扩展

抽象向量空间中，线性代数关键概念可对应扩展，不同领域术语本质一致，具体如下表所示：

线性代数术语	抽象向量空间术语	函数空间示例
线性变换	线性算子	导数 $D(f(x))=f^{\prime }(x)$
点积	内积	积分内积 $⟨f,g⟩={\int }_a^{b}f(x)g(x)dx$
特征向量	特征函数	微分方程 $D(f(x))=\lambda f(x)$ 的解 $f(x)=e^{\lambda x}$

只要对象满足加法与数乘规则，线性代数的所有结论均可适用，体现了数学规律的普适性。

12.6 总结

• 向量的本质：向量并非局限于箭头或数组，而是满足加法与数乘公理的抽象对象，类似“3”是对“三个事物”的抽象，向量空间是对“具有线性运算属性的集合”的抽象；
• 抽象性与普适性：抽象性是实现普适性的代价（abstractness is the price of generality）。通过公理定义向量空间，可将线性代数应用于函数、多项式等各类领域；
• 线性代数的关键框架：
  1. 向量：满足线性运算的抽象对象；
  2. 矩阵：线性变换的数字表达，列向量对应基向量的变换结果；
  3. 行列式：空间体积的缩放比例，决定矩阵可逆性；
  4. 特征向量/值：变换中方向不变的向量与缩放比例，揭示变换本质；
  5. 抽象向量空间：扩展线性代数的应用范围，实现概念统一。

学习线性代数的关键在于建立“几何直观”而非记忆公式，通过理解概念间的关联，可在机器学习、机器人控制等工程领域灵活应用，突破单纯的计算层面。

学习的过程只能来源于解决问题，来源于带有思考的不断重复，但如果你具备了正确的直观，你会再以后的学习中更加高效。

---

via:

• 【直观详解】线性代数的本质 | Go Further | Stay Hungry, Stay Foolish
  https://charlesliuyx.github.io/2017/10/06/【直观详解】线性代数的本质/

• Determinant - Note201.pdf - 21 February, 2019
  https://math.ntnu.edu.tw/~li/Linear/Note201.pdf