QR Decomposition

QR分解法多用于解决线性代数问题中最小二乘法(Least Square Method)计算线性函数的系数。是其中一种计算特征根的方法，可用于降维。QR分解用到了施密特正交化过程(Gram–Schmidt process)，得出一个正交矩阵X。

QR分解法的例子如下：

首先我们先用施密特正交化过程(Gram–Schmidt process)对A进行分解，

其中Q是一个标准化的正交矩阵(Normalized Orthogonal Matrix)，R是一个上三角矩阵(Upper Triangular Matrix)。

第一步首先寻找A的正交基(Orthogonal Basis)，

随便选择一列(在这个例子中就选第一列好了)，作为基准，并作为第一列的偏正交基(Partial Orthogonal Basis)，以下简称PoB，记为X

                                

现在偏正交基(PoB)只有一列，每一步随着我们计算其他列，X都会更新，我们同理计算其余两列：

解释下上面的计算，首先需要计算第二列减去第二列在X上的投影，投影怎么算呢？用第二列跟X相对应的列点乘，然后除以X相对应的基的长度(模)，再乘以X相对应的基，最后得出的偏正交基还可以约去公约数，因此现在偏正交基X变成了：

我们再计算最后一列：

约去公约数，化成最简单状态(当然也可以不约)，最终的偏正交基如下：

       

接下来我们对X标准化，得出Q，也就是说Q=Normalized(X)：

所以，

现在求到了Q，我们下一步需要求R，

我们在等号两边乘以Q的转置，因为Q是正交矩阵，因此Q乘以Q的转置等于单位矩阵(Identical Matrix)则上式变成：