矩陣分析-正交-0 引言

http://www.cnblogs.com/pegasus/archive/2011/11/21/2257288.html  

盡管高斯消元法是解線性方程組的標准算法，但是當我們希望從數據中將重要信息與次要信息（噪聲）分離時它就無能無力的。在線性代數中，我們要量化「好的與壞的基向量（basis vectors）。不嚴格的說，好的基向量是那些基本線性獨立的向量，接近於正交。下面，就來領略如何利用正交向量進行計算。

 

在前面介紹最小二乘問題時，了解當選擇了不恰當的基向量時會導致病態的正規方程。下面看個例子，兩個非常相似的矩陣。從圖中可見它們的列向量張成了空間中相同的平面，矩陣B的列向量是正交的，它們更好的確定此平面。而矩陣A的列向量則非常靠近。

                                                                         

 

在向量空間中采用正交向量有很多好處，下面就介紹正交向量集和正交矩陣的重要性質。