35、统计模式识别：方法与应用解析

统计模式识别：方法与应用解析

1. 特殊协方差下的马氏距离与判别函数

1.1 对角协方差下的马氏距离

当协方差不仅相等而且为对角矩阵时，马氏距离会呈现特殊形式。以三维测量向量且均值为零为例，马氏距离可表示为：
[
[x_1\ x_2\ x_3]
\begin{bmatrix}
\frac{1}{\sigma_{11}} & 0 & 0 \
0 & \frac{1}{\sigma_{22}} & 0 \
0 & 0 & \frac{1}{\sigma_{33}}
\end{bmatrix}
\begin{bmatrix}
x_1 \
x_2 \
x_3
\end{bmatrix}
= \frac{x_1^2}{\sigma_{11}} + \frac{x_2^2}{\sigma_{22}} + \frac{x_3^2}{\sigma_{33}}
]
这是一个以原点为中心（若均值不为零，则以均值为中心），轴沿坐标轴方向的椭球方程。在更一般的非对角协方差情况下，该椭球可能会旋转。所以，点到类的马氏距离方程会产生一个椭球。

1.2 特殊协方差下的判别函数

假设协方差相同、为对角矩阵且与单位矩阵成比例，即 (K_i = \sigma^2I)，此时类 (i) 的判别函数形式为：
[
g_i(x) = \frac{2\mu_i^T x}{\sigma^2} - \frac{|\mu_i|^2}{\sigma^2} + 2 \ln P(\omega_i)