本文介绍了BP（反向传播）神经网络的学习过程，包括前向传播的输出计算和反向传播中的均方误差、梯度计算及权值更新。重点讨论了残差如何从前向传播的输出层回传到输入层，影响各层权重和偏置。学习过程中，学习率是关键参数，目标是通过最小化训练集的累计误差来优化网络性能。
BP(back propagation)网络，学习笔记，有不足或错误的以后继续增改
参考图
X输入数据
V输入层到隐层间的权重
B隐层的输出值
W隐层到输出层的权重
Y输出层的输出值
前向传播：
输出就是这个公式的结果
不多说了。
反向传播：
1 均方误差
想要学习反向传播，你得先知道均方误差。
也就是预测和实际的一维向量每个位置对应相减的求平方，在相加的和的二分之一。
2 梯度
第二个就是梯度的计算，通过上面的方差和求得
最低0.47元/天 解锁文章
扫一扫
2万+
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
