ML-感知机及其matlab实现

1. 感知机原理：

1. 感知机是二分类的线性模型，其输入是实例的特征向量，输出的是事例的类别，分别是+1和-1，属于判别模型。
2. 假设训练数据集是线性可分的，感知机学习的目标是求得一个能够将训练数据集正实例点和负实例点完全正确分开的分离超平面。如果是非线性可分的数据，则最后无法获得超平面。
3. 感知机从输入空间到输出空间的模型如下：
   
4. 损失函数的优化目标是期望使误分类的所有样本，到超平面的距离之和最小。所以损失函数定义如下：
   
   不考虑1/(||w||)，就得到感知机模型的损失函数：
   
5. 为什么忽略1/(||w||)呢？网上有人说1/(||w||)是个定值，但是个人觉得平面不唯一，这个值肯定也会变。通过参考他人观点结合思考，我觉得原因可以列为以下两点。
   1）1/(||w||)不影响yi(w⋅xi+b)正负的判断，即不影响学习算法的中间过程。因为感知机学习算法是误分类驱动的，这里需要注意的是所谓的“误分类驱动”指的是我们只需要判断−yi(w⋅xi+b)的正负来判断分类的正确与否，而1/(||w||)并不影响正负值的判断。所以1/(||w||)对感知机学习算法的中间过程可以不考虑。