统计学习笔记：感知机（perceptron）原理及C源码实现

    相对来说感知机从原理或实现来说都较为简单，按照李航《统计学习方法》就可以实现，根据神经网络中的技巧，可对感知机进行优化，例如采用附加动量法进行权值、偏置的更新，防止训练陷入局部最小，关于这些我会在神经网络以及深度学习的内容中讲述。

感知机

在统计学习当中称为感知机，在神经网络当中称为单层感知器。概念不同，但实现的功能及本质是相同的。

一、感知机模型

假设输入空间（特征空间）是，输出空间是。输入向量x表示实例的特征向量，对应输入空间（特征空间）的点，输出y表示输入实例所属的类别。由输入到输出的关系映射如下：

上式为感知机模型，其中w表示权值向量，b表示偏置。sign是符号函数，即

感知机是一种线性分类模型，属于判别模型。感知机模型的假设空间是定义在特征空间中的所有线性分类模型或者线性分类器，即函数集合。

二、感知机的几何解释