深度学习笔记-------BP神经网络

1.基础知识了解

1. 20世纪80年代中期，David Runelhart。Geoffrey Hinton和Ronald W-llians、DavidParker等人分别独立发现了误差反向传播算法(Error Back Propagation Training)，简称BP，系统解决了多层神经网络隐含层连接权学习问题，并在数学上给出了完整推导。

2. 人们把采用这种算法进行误差校正的多层前馈网络称为BP网。BP（Back Propagation）神经网络的基本思想是梯度下降法，利用梯度搜索技术，以期使网络的实际输出值和期望输出值的误差最小。

3. BP神经网络包括信号的前向传播和误差的反向传播两个过程：即计算误差输出时按从输入到输出的方向进行；调整权值和阈值则从输出到输入的方向进行。

对于隐藏层具体的了解可参考：

深度学习中的隐藏层 - 知乎 (zhihu.com)

 

 

 

2.BP神经网络推导 

 关于神经网络中的偏置具体的了解可参考：

神经网络中的偏置（bias）究竟有什么用？ - 知乎 (zhihu.com)

---

以上图片资料来着梅科尔工作室，仅供学习，请勿随意转载