深度学习：（2）神经网络前向传播Forward Propagation

神经网络的重要性质就是可以自动的从数据中学习合适的权重参数，学习权重参数的重要步骤分前向传播和反向传播：

前向传播（Forward Propagation）是在神经网络中从输入层到输出层信息传递的过程。

反向传播 (Back Propagation) 指的是计算神经网络每一层参数梯度的方法，是学习权重的核心。

接下来我们就开始看看神经网络是怎样学习的。

一、神经网络

下面看一个神经网络的图，与我们上次学的感知机有异曲同工之妙，前向传播的计算逻辑也是相同的，神经网络由输入层、中间层、输出层组成：

输入层：即输入数据

中间层：也叫隐藏层，主要是做内部计算，我们看不到

输出层：即最终输出的数据

在输入层和中间层之间，以及中间层到输出层之间的是权重，是进行了相同的计算逻辑。

 二、引入激活函数

接下来我们以下图中x1和x2通过权重w1和w2计算得到s1为例，看下神经网络单个神经元的具体计算过程。

用公式来表示它们之间的关系如下所示： （该公式是由之前的感知机得来的，需要的话可以看上一篇博文）