MIT 18.06 linear algebra 第三十三讲笔记

MIT 18.06 linear algebra 第三十三讲笔记

---

第三十三讲主要是对前面学习过的知识的一个复习。

• 6.1-2 特征值与特征向量
• 6.3 $\frac{du}{dt}=Au$ and $e^{At}$
• 6.4 $A=A^T\Rightarrow A=Q\Lambda Q^T$
• 6.5 Positive Definite
• 6.6 Similar $B=M^{-1}AM$,$B^k=M^{-1}A^kM$
• 6.7 $A=U\Sigma V^T$,即SVD

---

假设满足$B=M^{-1}AM$那么$B^k=M^{-1}A^kM$。

例题：
$\frac{du}{dt}=Au=\begin{bmatrix}0&-1&0\\1&0&-1\\0&1&0\end{bmatrix}u$,求$u(t)$?

$u(t)=c_1e^{\lambda_1t}x_1+c_2e^{\lambda_2t}x_2+c_3e^{\lambda_3t}x_3$，可以求出$\lambda_1=0,\lambda_2=\sqrt{2}i,\lambda_3=-\sqrt{2}i$。

因此$u(t)=c_1x_1+c_2e^{\sqrt{2}it}x_2+c_3e^{-\sqrt{2}it}x_3$,由于特征值为复数，那么其周期(Periodic)满足$\sqrt{2}iT=2\pi i$,其周期为$T=\sqrt{2}\pi$。

如果$A=S\Lambda S^{-1}$，那么$e^{At}=Se^{\Lambda t}S^{-1}$。其中$e^{\Lambda t}=\begin{bmatrix}e^{\lambda_1 t}\\&e^{\lambda_2 t}\\&&\ddots\\&&&e^{\lambda_n t}\end{bmatrix}$。再通过$u(t)=e^{At}u(0)$也可以求解线性方程。

对称矩阵、反对称矩阵、正交矩阵它们的特征向量都是正交的。只要满足$AA^T=A^TA$,那么其特征向量就是正交的，可以验证上面提到的三种矩阵都是满足的，例如：如果是正交矩阵$Q^TQ=QQ^T=I$。

---

例题2：
$3\times 3$矩阵$A$有特征值如下：$\lambda_1=0,\lambda_2=c,\lambda_3=2$。特征向量如下：$x_1=\begin{bmatrix}1\\1\\1\end{bmatrix}$、$x_2=\begin{bmatrix}1\\-1\\0\end{bmatrix}$、$x_3=\begin{bmatrix}1\\1\\2\end{bmatrix}$。

（a）这个矩阵$A$可以被对角化吗？
由于矩阵$A$的特征向量是正教的，那么这个矩阵可以被正交化，不论$c$为何值。
（b）$c$为何值时，矩阵是对称的？
当$c$取实数时。
（c）这个矩阵是正定矩阵吗？
不是，因为有一个特征值为0，正定矩阵的特征值是大于0的。
（d）c为何值时矩阵是半正定的？
当c大于等于0
（e）这个矩阵可能是马尔科夫矩阵吗？
不可能，因为马尔科夫矩阵的特征值有一个为1，其他都是小于1的。因此不满足。
（f）$\frac{A}{2}$是投影矩阵吗？
投影矩阵的特征值为0或者1。$P^2=P\Rightarrow P(P-I)=0$，所以特征值为0或者1。当c等于2或者0时，矩阵为投影矩阵。

---

$SVD=U\Sigma V^{T}$，这个公式对任意矩阵都是成立的，奇异值是大于等于零的。

$A^TA=V(\Sigma^T \Sigma)V^T$,$A^TA$为对称阵，可以直接求其标准正交的特征向量作为$v$，当我们通过这种方式来确定$v_1,v_2,\cdots,v_n$时，在此刻其实也就确定了相应的$u_1,u_2,\cdots,u_m$的方向。所以说当我们用$AA^T=U\Sigma\Sigma^TU$来确定$u_i$时，需要注意$u_i$的取向要满足$Av_i=\sigma_iu_i$。

---

当给定一个矩阵$A$为对称且标准正交。那么其特征值为实数，正交矩阵的特征值的绝对值为1。即$|\lambda_i|=1$,这是因为$Qx=\lambda x\Rightarrow |\lambda|||x||=||x||$。
（a）这个矩阵是正定的吗？NO
（b）特征值一定有重根吗？不一定如果矩阵是$3\times 3$的那么矩阵的特征值必定有重根存在，因为其特征值只能为1或者-1。
（c）这个矩阵能对角化吗？对称的矩阵、正交矩阵都能对角化。

证明：$\frac{A+I}{2}$是一个投影矩阵：即证明$P=P^T$和$P^2=P$

1. $\frac{1}{2}(A+I)=\frac{1}{2}(A+I)^{T}$
2. $\frac{1}{4}(A^2+2A+I)=\frac{1}{2}(A+I)$
3. 由于是正交矩阵那么$A=A^T=A^{-1}\Rightarrow$上式成立

证明的方法2：$A+I$的特征值是2和0，那么$\frac{1}{2}(A+I)$的特征值为1和0。且这个矩阵为对称矩阵，因此这个矩阵是投影矩阵。