【线性代数】理解正定矩阵和半正定矩阵

1 前言

  内容为自己的学习总结，其中多有借鉴他人的地方，最后一并给出链接。

2 定义

  在机器学习和谱图理论的学习中，总会用到正定矩阵半正定矩阵概念，了解它们的概念是十分必要的。
定义：正定矩阵（positive definite, PD）
  给定一个大小为$n\times n$的实对称矩阵$A$，若对于任意长度为$n$的非零向量 $X$，有$X^{T}AX>0$恒成立，则矩阵$A$是一个正定矩阵。

定义：半正定矩阵（positive semi-definite, PSD）
  给定一个大小为$n\times n$的实对称矩阵$A$，若对于任意长度为$n$的非零向量 $X$，有$X^{T}AX\ge 0$恒成立，则矩阵$A$是一个正定矩阵。
  看个一个例子（来源参考文献【3】）：

（1）单位矩阵$I\in {\mathbb{R}}^{2\times 2}$是不是正定矩阵？
  设向量$\mathbf{x}=\left[\begin{array}{l}{x}_1\\ x_2\end{array}\right]\in {\mathbb{R}}^2$为非$0$向量，则

  ${\mathbf{x}}^{T}I\mathbf{x}={\mathbf{x}}^T\mathbf{x}=x_1^2+x_2^2$

  由于$\mathbf{x}\ne 0$，故而${\mathbf{x}}^{T}I\mathbf{x}>$