Multi-linear classification（MLP）多层神经网络基础原理

感知器vol.2

线性分类不能分隔非线性的边界，可以用多个超平面来取代单个超平面

如图简单示意合并两个超平面对数据进行分类

对hyperplane A和B的输出zA和zB，计算 以0为临界值

取h+1个神经元可以构成一个multi-linear classifier，其中h个hyperplane作边界分割，1个作为h个hyperplane的混合器

用不同的方式将神经元组合在一起，所形成的感知器就叫做 multi-layer perceptron (MLP)

xi是点X输入的各方向的坐标，yi是第一层的输出，z是整个感知器的输出，vi,j是从xi到yj的系数，wi是从yi到z的系数，由此我们得到一个MLP模型

MLP learning

多层的学习方式和单层类似：

每次取单点计算Error并通过改变hyperplane来降低error，并重复该过程

我们将两层的系数分别计为vb,a和wb，通过这两个系数的偏导数来减小eout
下面的表达式中v的下标b，a，b