线性判别函数、判定面以及感知器

线性判别函数和判定面

标签: 模式分类

---

线性机

不知道你还记不记得前面讲过的判别函数的问题（见概述，贝叶斯策略，最大似然估计）
一个”判别函数”是指由x的各个分量的线性组合而成的函数: $g(x) = w^Tx + w_0$
这里$w$是”权向量”，$w_0$被称为”阈值权”或者”偏置”，一般情况下有c个这样的判别函数，分别对应c类中的一类，我们总是选取$g_i$取得最大值的那个类型（希望明白的是，这个是使得后验概率最大的那个类型，而有一种可能的线性判别函数是源于分布为正态分布，而且假设$\Sigma_i = \sigma^2I$）
其实上面那种定义判别函数得到的分类器叫做”线性机”，线性机把特征空间分为c个判决区域$R_i$($i = 1\ ...\ c$),当$x$在$R_i$中时，$g_i$取得最大值，如果$i \neq j, g_i = g_j$可以得到一个将$R_i$和