15、单变量高斯分布理论中的误差率分析

单变量高斯分布理论中的误差率分析

在单变量高斯分布理论中，线性判别分析（LDA）是一种重要的分类方法。下面将详细介绍LDA判别式、分类规则以及不同类型误差率的相关内容。

1. LDA判别式与分类规则

在单变量情况下，假设样本均值分别为 $\bar{X} 0$ 和 $\bar{X}_1$（在混合抽样中，$n_0$ 和 $n_1$ 为随机变量），$\bar{X} = \frac{1}{2}(\bar{X}_0 + \bar{X}_1)$，合并样本方差为 $\hat{\sigma}^2$，其计算公式为：
[
\hat{\sigma}^2 = \frac{1}{n - 2} \sum {i = 1}^{n} [(X_i - \bar{X} 0)(X_i - \bar{X}_0)I {Y_i = 0} + (X_i - \bar{X} 1)(X_i - \bar{X}_1)I {Y_1 = 1}]
]
当阈值为零时，由于 $\hat{\sigma}^2$ 始终为正，且在此情况下仅 $W_L$ 的符号起作用，因此可以将其舍去。此时，LDA判别式可等价表示为：
[
W_L(S, x) = (x - \bar{X})(\bar{X}_0 - \bar{X}_1)
]
这种简化形式使得判别式仅为样本均值的函数。LDA分类规则如下：
[
\Psi_L(S, x) =
\begin{cases}
0, & (x - \bar{X})(\bar{X}_0 - \bar{X}_1) > 0 \
1, & \te