ZyuHoiMing

0. 前言这一部分是斋藤康毅先生所编写的《深度学习入门·基于Python的理论和实现》的补充，在Chapter 5 · 误差反向传播法中，作者对全连接层和Softmax层只给出了公式，对相关推导过程进行了省略，本文主要解决问题为 : 作者在文中所提出的公式如下所示，该公式应如何理解假设全连接层计算公式为 : Y = X * W + B，则有 :1. ∂L∂B=∂L∂Y\frac {\par...

0. 前言经朋友推荐，近日阅读斋藤康毅先生编写的《深度学习入门 · 基于Python的理论与实现》，书本十分通俗易懂，在Chapter 5 —— 反向传播部分，作者以计算图方式给出了Sigmoid函数，全连接层的反向传播过程，但是在给出Softxmax层的反向传播推导过程的时候，将Softmax函数与交叉熵计算函数直接相连，视为同一个层次，并且给出这个层次的反向传播计算图推导，这篇文章主要关注于...