线性代数——补充5—QR分解

QR分解

QR分解是将一个矩阵分解为一个正交矩阵Q和一个上三角矩阵R的乘积。也就是说，对于一个$m\times n$ 的矩阵$A$，我们可以写成$A=QR$，其中：

• $Q$ 是一个$m\times m$ 的正交矩阵（Orthogonal Matrix），意味着$Q^{T}Q=I$（单位矩阵），并且$Q$ 的列向量是标准正交基。
• $R$ 是一个$m\times n$ 的上三角矩阵（Upper Triangular Matrix）。如果$A$ 是方阵，那么$R$ 也是方阵。

为什么需要QR分解？

QR分解在数值线性代数中有着广泛的应用，例如：

• 求解线性方程组：当$A$ 是可逆方阵时，$Ax=b$ 可以变为$QRx=b$，即$Rx=Q^{T}b$。由于$R$ 是上三角矩阵，可以使用回代法快速求解$x$。
• 最小二乘问题：QR分解是求解最小二乘问题的稳定方法。
• 特征值计算：QR算法是计算矩阵特征值的一种迭代方法。

QR分解的计算方法

主要有两种方法可以进行QR分解：

1. Gram-Schmidt正交化 (Gram-Schmidt Orthogonalization)
2. Householder变换 (Householder Transformation)

1. Gram-Schmidt正交化法

这是最直观理解QR分解的方法。它基于将矩阵$A$ 的列向量进行Gram-Schmidt正交化，从而得到正交矩阵$Q$ 和上三角矩阵$R$。

假设矩阵$A$ 的列向量为${\mathbf{a}}_1,{\mathbf{a}}_2,\dots ,{\mathbf{a}}_n$，即$A=[{\mathbf{a}}_1{\mathbf{a}}_2\dots {\mathbf{a}}_n]$。

步骤：

1. 计算$Q$ 的列向量（标准正交基）：

   • 第一步： 将${\mathbf{a}}_1$ 单位化，得到${\mathbf{q}}_1$。
     $${\mathbf{u}}_1={\mathbf{a}}_1$$
     $${\mathbf{q}}_1=\frac{{\mathbf{u}}_1}{\Vert {\mathbf{u}}_1\Vert }$$
   • 第二步： 计算${\mathbf{a}}_2$ 在${\mathbf{q}}_1$ 上的投影，然后从${\mathbf{a}}_2$ 中减去这个投影，得到与q1\mathbf{q}_1q