『MACHINE LEARNING』读书笔记|周志华《机器学习》|5.2神经网络感知机

写在前面

最近在看周志华的《机器学习》，看了书才知道水很深啊，算法，统计样样都有。小白看得很累，决定记点笔记，以防这之后忘了。

---

感知机（perceptron ）

感知机是神经网络最开始雏形，是一个二类分类的线性分类模型,只有两层的神经元。周志华《机器学习》用的$sign$函数稍与李航的《统计学习方法》有不同，接下来利用的是周志华《机器学习》的版本。感知机形如下图。

说好的二类分类的线性分类模型，体现在哪？

线性分类：

输出值$y$是一个有输入值$x_i$线性决定的函数，$y=f(\sum_{i}\omega_ix_i-\theta)$,

但是由于上式中的$-\theta = \omega_{i+1}x_{i+1}$,其中$x_{i+1}=-1$,

其实就是给多一个输入节点（dummy node）固定输入x=-1.

so， y可以表示为$f(\sum_{i}\omega_ix_i)$变得更简单了。

二类分类：

二类分类的原因来源于$f$，$f$使得$y$在$x\in R$可以只取两个值。所以，$f$是个阶跃函数，但为了$f$可微，实际上，会近似的利用sigmoid函数去代替阶跃函数。但一下请假装$f$是个阶跃函数，方便理解。

---

机器学习的书中，公式（5.1）和（5.2）我觉得不能理解。下面做做解释：

上面我们讲到

y=f(∑iωixi),记住阶跃函数的样子