深度学习——感知机：多层感知机（multi-layered perceptron）图文详解

一，多层感知机

  在上一篇深度学习——感知机（perceptron）图文详解中我们已经讨论完了简单感知机的原理和实现了，同时也知道了简单感知机的局限性了，不能表示异或门这点让人深感遗憾。今天我们就将介绍多层感知机，它可以通过“叠加层”来表示异或门。不过，我们先暂时不考虑叠加层具体是指什么，先从其他视角来思考一下异或门的问题

1.1 现在已有的门电路组合

  异或门的制作方法有很多，其中之一就是组合我们前面做好的与门、与非门、或门进行配置。这里，与门、与非门、或门用图1中的符号表示。

图1

  另外，图1中与非门前端的○表示反转输出的意思。那么，如果要实现异或门的话，需要如何配置与门、与非门和或门呢？是不是用与门、与非门、或门代替图2中的各个“？”，就可以实现异或门。

图2

  我们前面讲到的感知机的局限性，严格地讲，应该是“单层感知机无法表示异或门”或者“单层感知机无法分离非线性空间”。不过接下来我们就将看到通过组合感知机（叠加层）就可以实现异或门了。
  异或门可以通过图3所示的配置来实现。这里， x1和x2表示输入信号，y表示输出信号。 x1和x2是与非门和或门的输入，而与非门和或门的输出则是与门的输入。

图3

  现在，我们来确认一下图3的