17、分类：从函数逼近到实例应用

分类：从函数逼近到实例应用

1. 分类作为函数逼近

分类可视为从特征空间到类别空间的映射，也就是一种变换函数。不过，这个函数通常是未知的，因为我们并不清楚人类是如何从字符图像中判断出所描绘的字符的。为了用计算机自动完成分类过程，就需要用数值方法来逼近这个未知函数。

那么，要逼近的是哪个函数呢？答案取决于具体问题。在图像处理应用中，典型任务是模仿人类检查员的分类方式。例如，字符识别系统应能像人类观察者一样为图像指定相同的字符；表面缺陷分类系统应像人类检查员一样拒绝有大划痕的样本。

在深入探讨之前，我们先了解一些基本术语：
- 模式 ：表示待分类对象的描述。模式的表示方式因应用而异，例如可以是字符的归一化图像，也可以是一组相对抽象的测量值。
- 特征 ：指模式中的单个值。如果对象用图像描述，图像中特定点的亮度就是一个特征。面积、周长和平均曲率也是特征的例子。
- 特征向量 ：描述对象的所有特征都收集在一个特征向量中。从这个意义上说，特征向量等同于模式。由于特征向量是分类器的输入，用 $i$ 表示输入，模式由所有特征值的向量表示：
[
i =
\begin{bmatrix}
i_0 \
i_1 \
\vdots \
i_N
\end{bmatrix}
]
- 类别索引 ：是输入模式被分配到的类别的编号，无论是由作为指导者的人类还是分类器本身分配的。
- 目标向量