许多数学对象可以通过将它们分解成多个组成部分,或者找到它们的一些属性而更好地理解,这些属性是通用的,而不是由我们选择表示它们的方式产生的。
例如,整数可以分解为质因数。我们可以用十进制或二进制等不同方式表示整数12,但是12=2×3×3永远是对的。从这个表示中我们可以获得一些有用的信息,比如12不能被5整除,或者12的倍数可以被3整数。
正如我们可以通过分解质因数来发现整数的一些内在性质,我们也可以通过分解矩阵来发现矩阵表示成数组元素时不明显的函数性质。
特征分解(eigendecomposition)是使用最广的矩阵分解之一,即我们将矩阵分解成一组特征向量和特征值。
当向量⎡⎣⎢⎢⎢⎢x1x2⋮xn⎤⎦⎥⎥⎥⎥通过“n阶方
举例1:
c1[31]+c2[12]通过2阶方阵
因此矩阵[82−31]的特征值是λ=7,2,特征向量为与λ=7对应的是[31],与λ=2对应的是[12]。
举例2:
c1⎡⎣⎢100⎤⎦⎥+c2⎡⎣⎢010⎤⎦⎥+c3⎡⎣⎢001⎤⎦⎥通过“3阶方阵
因此矩阵⎡⎣⎢40002000−1⎤⎦⎥的特征值是λ=4,2,−1,特征向量为与λ=4对应的是⎡⎣⎢100⎤⎦⎥,与λ=2对应的是⎡⎣⎢010⎤⎦⎥,与λ=−1对应的是⎡⎣⎢001⎤⎦⎥。
n阶方阵的特征值和特征向量基本上有
方阵A的特征向量是指与
标量λ被称为这个特征向量对应的特征值。
如果v是
假设矩阵
我们已经看到了构建具有特定特征值和特征向量饿矩阵,能够使我们在目标方向上延伸空间。然而,我们也常常希望将矩阵分解成特征值和特征向量。这样可以帮助我们分析矩阵的特定性质,就像质因数分解有助于理解整数。
不是每一个矩阵都可以分解成特征值和特征向量。在某些情况下,特征分解存在,但是会涉及到复数,而非实数。本书只需要分解一类有简单分解的矩阵。具体地,每个实对称矩阵都可以分解成实特征向量和实特征值:
其中Q是
虽然任意一个实对称矩阵A都有特征分解,但是特征分解可能并不唯一。如果两个或多个特征向量拥有相同的特征值,那么在由这些特征向量产生的生成子空间中,任意一组正交向量都是该特征值对应的特征向量。因此,我们可以等价地从这些特征向量中构成
矩阵的特征分解给了我们很多关于矩阵的有用信息。矩阵是奇异的当且仅当含有零特征值。实对称矩阵的特征分解也可以用于优化二次方程f(x)=xTAx,其中限制||x||2=1。当x等于
所有特征值都是正数的矩阵被称为正定(positive definite);所有特征值都是非负数的矩阵被称为半正定(positive semidefinite)。同样地,所有特征值都是负数的矩阵被称为负定(negative definite);所有特征值都是非正数的矩阵被称为半负定(negative semidefinite)。半正定矩阵受到关注是因为它们保证∀x,xTAx≥0。此外,正定矩阵还保证xTAx=0⇒x=0。