线性代数笔记7：特征向量

特征值和特征向量在机器学习中有着很重要的应用，本文介绍一些相关的结论和证明，方便大家复习参考。

定义

特征向量与特征值

定义：对方阵$A$，若存在$\lambda$和非零向量$x$，满足$Ax = \lambda x$，则称$\lambda$为矩阵$A$的特征值（eigenvalue），$x$为$A$属于特征值$\lambda$的特征向量（eigenvector）

$$Ax= \lambda x \Rightarrow (A - \lambda I )x = 0$$

因此，我们可以认为满足这个方程的$x \in N(A- \lambda I)$，也就是说，$x$属于这个零空间。

我们知道，对于任意的$\lambda$，向量$x$总满足$Ax= \lambda x$，但我们关心的是由非零向量$x$满足此方程的特殊的$\lambda$值。

因此， 不难得到以下推论：

$$N(A -\lambda I) 含非零向量 \Leftrightarrow A - \lambda 不可逆 \Leftrightarrow det(A- \lambda I ) = 0$$

特征方程

我们记 det(