文章目录 Model 前向传播 反向传播 计算损失，比如L2损失 求${\theta}^3_{11}$对J的影响 求${\theta}^2_{11}$对J的影响 求${\theta}^1_{11}$对J的影响 误差反传 计算时的注意事项 1.每个权重单独计算 vs 整个权重矩阵一下计算 2.只计算一个样本 vs 计算一个batch PYTHON实现 偏置项怎么加进去？ Model 前向传播 反向传播 计算损失，比如L2损失 然后计算每个权重对J的影响 求 θ 11 3 {\theta}^3_{11} θ113对J的影响 求 θ 11 2 {\theta}^2_{11} θ112对J的影响 求 θ 11 1 {\theta}^1_{11} θ111
本文详细介绍了反向传播的过程，包括计算损失、权重对损失的影响、误差反传，以及在实际计算中应注意的事项，如单独计算权重与整个权重矩阵计算的区别，单样本与批量样本的处理。同时，文中提到了Python实现反向传播的思考，并给出了偏置项的处理方式。
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
452
4691
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
