线性代数|机器学习-P5特征值和特征向量

1. 特征值和特征向量

1.1 特征向量

假设有一个n行n列的方阵A，有 n 个不相同的特征值为$\lambda$,特征向量为$x_1,x_2,\cdots ,x_n$.等式如下：
$$\begin{array}{c}A{x}_i={\lambda }_i{x}_i,i=1,\cdots ,n\to A^{2}x={\lambda }^{2}x\end{array}$$

• 特征向量的好处在于，对于向量x来说，$Ax=\lambda x$，通过左乘矩阵A，还是不改变向量的方向，只是按照$\lambda$倍进行缩放。
  $$\begin{array}{c}{A}^{k}x={\lambda }^{k}x\end{array}$$
• 对于微分方程来说
  $$\begin{array}{c}\frac{\mathrm{d}u}{\mathrm{d}t}=Au，{\mathrm{e}}^{At}={\mathrm{e}}^{\lambda t}\end{array}$$
• 通解表示如下：
  $$\begin{array}{c}u(t)=S{e}^{\Lambda t}{S}^{-1}u(0)=e^{At}u(0)\end{array}$$

1.2 向量分解

假设矩阵A有n个线性无关的特征向量，那么对于任意矩阵v来说，可以分解为特征向量的线性组合
$$\begin{array}{c}v=c_1{x}_1+c_2{x}_2+\cdots +c_n{x}_n\end{array}$$

• 两边同时乘以$A^k,A^{k}x={\lambda }^{k}x$:
  $$\begin{array}{c}{A}^{k}v=c_1{\lambda }_1^k{x}_1+c_2{\lambda }_2^k{x}_2+\cdots +c_n{\lambda }_n^k{x}_n\end{array}$$
• 特征向量在差分方程上的应用
  $$\begin{array}{c}{u}_{k+1}\end{array}$$