TensorFlow系列专题（五）：BP算法原理

 

欢迎大家关注我们的网站和系列教程：http://www.tensorflownews.com/

，学习更多的机器学习、深度学习的知识！

一．反向传播算法简介

二．前馈计算的过程

• 第一层隐藏层的计算
• 第二层隐藏层的计算
• 输出层的计算

三． 反向传播的计算

• 计算偏导数

四．参考文献

 

一．反向传播算法

反向传播算法[1]（Backpropagation Algorithm，简称BP算法）是深度学习的重要思想基础，对于初学者来说也是必须要掌握的基础知识，在这一小节里，我们会较为详细的介绍这一重点知识。

我们使用一个如图1所示的神经网络，该图所示是一个三层神经网络，两层隐藏层和一层输出层，输入层有两个神经元，接收输入样本 ， 为网络的输出。

图1 一个三层神经网络

二．前馈计算的过程

为了理解神经网络的运算过程，我们需要先搞清楚前馈计算，即数据