MIT线性代数笔记解读：正交向量与子空间详解
项目地址: https://gitcode.com/gh_mirrors/mi/mit-18.06-linalg-notes 正交向量的基本概念
在数学和工程应用中，正交性是一个极其重要的概念。当两个向量的点积为零时，我们称这两个向量正交。具体来说，对于向量x和y，如果满足x₁y₁ + x₂y₂ + ... + xₙyₙ = 0，那么x和y就是正交的。
正交性可以看作是垂直概念在高维空间中的推广。在二维或三维空间中，正交确实意味着垂直，但在更高维的空间中，我们使用点积为零来定义正交性。
毕达哥拉斯定理与正交性
毕达哥拉斯定理为我们提供了验证正交性的一个重要方法。对于任何两个向量x和y，如果它们正交，那么必然满足：
‖x‖² + ‖y‖² = ‖x + y‖²
这个等式可以通过展开点积运算来证明。这个性质在实际应用中非常有用，例如在信号处理中判断两个信号是否相关，或者在机器学习中评估特征之间的独立性。
子空间的正交性
当我们讨论子空间的正交性时，意味着一个子空间中的每一个向量都与另一个子空间中的每一个向量正交。矩阵的四个基本子空间（行空间、列空间、零空间和左零空间）之间存在重要的正交关系：
- 行空间与零空间正交
- 列空间与左零空间正交
这种正交关系对于理解线性方程组的解的结构至关重要。行空间和零空间共同构成了整个ℝⁿ空间的正交补，同样地，列空间和左零空间构成了ℝᵐ空间的正交补。
实际应用：AᵀA矩阵
在处理实际问题时，我们经常会遇到"坏方程"的问题，特别是在m>n的情况下（方程数量多于未知数）。这时，AᵀA矩阵就变得非常重要。AᵀA是一个对称矩阵，具有以下关键性质：
- N(AᵀA) = N(A)（AᵀA的零空间等于A的零空间）
- rank(AᵀA) = rank(A)
- AᵀA可逆当且仅当A的列线性无关
这些性质使得AᵀA在解决最小二乘问题等实际应用中变得极其有用。通过将原始方程组转换为AᵀAx = Aᵀb，我们可以有效地处理那些原本无解的方程组。
实例分析
考虑矩阵A = [1 2 5; 2 4 10]，我们可以观察到：
- 零空间的基为[-2;1;0]和[-5;0;1]
- 行空间的基为[1;2;5]
- 这两个空间确实是正交的，因为它们的基向量点积为零
这个例子清晰地展示了行空间和零空间的正交关系，帮助我们理解矩阵内部的结构特性。
正交性的概念贯穿于线性代数的各个领域，从基本的向量关系到矩阵的子空间结构，再到实际问题的求解方法。理解这些正交关系不仅有助于我们掌握线性代数的核心理论，也为后续学习更高级的数学概念和应用技术奠定了坚实基础。下一讲将讨论投影这一重要主题，它直接建立在本讲的正交概念之上。
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
