6.人工智能原理-隐藏层：神经网络为什么working？

目录

一、引言

二、隐藏层

三、深度学习（炼丹）

三、编程实验

四、总结

五、往期内容

---

一、引言

       大自然往往是变幻莫测，喜怒无常。在一次地球环境巨变之后，小蓝所在的海底生物们也经历了巨大的进化。豆豆变得不再是简单的越大或者越小越可能有毒，而是在某个大小范围内有毒，而某些范围内无毒，比如这样。此时，不论是不加激活函数的预测模型，还是加了激活函数的预测模型，似乎都开始变得无能为力了。此刻新的豆豆的毒性却变得忽大忽小，想要预测它们，不再是像以前一样单调的函数。

二、隐藏层

       那么，如何让预测模型能够产生这种山丘一样的曲线？是时候让神经元形成一个网络！我们唯一做的事情就是多添加了两个神经元，并把输入分别送入到这两个神经元进行计算，再把计算的结果送入到第三个神经元计算最后输出。

我们用可视化工具调节一下这三个神经元的参数。最后得到这样的一个效果，分类成功。

 

所以为什么会这样？其实很简单，对于第一个和第二个神经元，先通过线性函数计算，再通过激活函数得到最终的输出，而利用梯度下降算法，最终的输出一定可以被调节成为现在这个样子。

把这两个神经元的最终输出作为第三个神经元的输入，先通过第三个神经元的线性函数计算，乘上权重，再通过激活函数并利用梯度下降算法，把最终的输出调节成为这个样子。 

       也就是说，把输入分为两个部分，然后分别对这两个部分进行调节，然后再送入最后一个神经元，让整体的神经网络形成一个单调性、不唯一的多变函数，从而具备了解决更加复杂问题的能力。

       一般地我们让网络结构图更加简洁，会省略调偏置项b：