Mercer定理

最新推荐文章于 2025-06-05 13:55:38 发布

转载最新推荐文章于 2025-06-05 13:55:38 发布 · 7.5k 阅读

本文介绍了正定矩阵的定义及其在SVM中Mercer定理的应用，包括正定矩阵的判定方法、性质及在数学分析中的作用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

正定矩阵（用于SVM的Mercer定理）

定义：一个n × n的实对称矩阵 M 是正定的当且仅当对于所有的非零实系数向量z，都有 zTMz > 0。

正定矩阵判定：

1. 矩阵 M的所有的特征值 λ i都是正的。根据谱定理， M必然与一个实对角矩阵 D 相似（也就是说 M = P − 1 DP，其中 P是幺正矩阵，或者说 M在某

个正交基可以表示为一个实对角矩阵）。因此， M是正定阵当且仅当相应的 D的对角线上元素都是正数。 2. 半双线性形式

$\langle \textbf{x},\textbf{y}\rangle = \textbf{x}^{*} M \textbf{y}$

定义了一个Cn上的内积。实际上，所有Cn上的内积都可看做由某个正定阵通过此种方式得到。

3. M 是 n 个线性无关的 n 维向量 $\textbf{x}_1,\ldots,\textbf{x}_n \in \mathbb{C}^k$ 的 Gram矩阵，其中的 k 为某个正整数。更精确地说， M 定义为：

$M_{ij} = \langle \textbf{x}_i, \textbf{x}_j\rangle = \textbf{x}_i^{*} \textbf{x}_j.$

换句话说，M具有A*A的形式，其中A不一定是方阵，但需要是单射的。

4. M 的所有顺序主子式，也就是顺序主子阵的行列式都是正的（西尔维斯特准则）。明确来说，就是考察下列矩阵的行列式：

- - M左上角1× 1的矩阵
  - M左上角2× 2矩阵
  - ...
  - M自身。

对于半正定矩阵来说，相应的条件应改为所有的主子式非负。顺序主子式非负并不能推出矩阵是半正定的。比如以下例子：

$\begin{bmatrix} 1 & 1 & 1 \\ 1 & 1 & 1 \\ 1 & 1 & 0 \end{bmatrix}$

5. 存在唯一的下三角矩阵 L ，其主对角线上的元素全是正的，使得：

M = LL * .

其中L * 是L的共轭转置。 T这一分解被称为Cholesky分解。

正定矩阵性质：

若M为半正定阵，可以写作 $M \geq 0$ 。如果M是正定阵，可以写作M > 0。这个记法来自泛函分析，其中的正定阵定义了正算子。

对于一般的埃尔米特矩阵，M、N， $M\geq N$ 当且仅当 $M-N \geq 0$ 。这样可以定义一个在埃尔米特矩阵集合上的偏序关系。类似地，可以定义 M > N。

1.

每个正定阵都是可逆的，它的逆也是正定阵。如果 $M \geq N > 0$ 那么 $N^{-1} \geq M^{-1} > 0$ 。

2. 如果 M 是正定阵， r > 0为正实数，那么 rM 也是正定阵。

如果 M、N 是正定阵，那么和M + N、乘积 MNM 与 NMN 都是正定的。如果 MN = NM，那么 MN 仍是正定阵。

3. 如果 M = ( m ij ) > 0 那么主对角线上的系数 m ii 为正实数。于是有tr( M ) > 0。此外还有

$| m_{ij} | \leq \sqrt{m_{ii} m_{jj}} \leq \frac{m_{ii}+m_{jj}}{2}.$

4. 矩阵 M 是正定阵当且仅当存在唯一的正定阵 B > 0 使得 B 2 = M 。根据其唯一性可以记作 B = M 1 / 2 ，称 B 为 M 的平方根。对半正定阵也有类似结论。同时，如果 M > N > 0 那么 M 1 / 2 > N 1 / 2 > 0. 5. 如果 M , N > 0 那么 $M\otimes N > 0$ ，其中 $\otimes$ 表示克罗内克乘积。 6. 对矩阵 M = ( m ij ), N = ( n ij )，将两者同一位置上的系数相乘所得的矩阵记为 $M\circ N$ ，即 $M\circ N_{i,j}=m_{ij} n_{ij}$ ，称为 M 与 N 的阿达马乘积。如果 M , N > 0，那么 $M\circ N > 0$ 。如果 M , N 为实系数矩阵，则有如下不等式成立：

$\det(M\circ N) \geq (\det N) \prod_{i} m_{ii}.$

7. 设 M > 0， N 为埃尔米特矩阵。如果 $MN+NM \geq 0$ （ MN + NM > 0），那么 $N\geq 0$ （ N > 0）。 8. 如果 $M,N\geq 0$ 为实系数矩阵，则 $\text{tr}(MN)\geq 0$ 。 9. 如果 M > 0为实系数矩阵，那么存在δ > 0 使得 $M\geq \delta I$ ，其中 I 为单位矩阵。