进来学习多层神经网络反向传播,很多地方都说小批量梯度下降法比随机梯度下降法更好,但是尝试用神经网络拟合曲线,一直是随机梯度下降法效果好,小批量效果非常差,于是怀疑自己小批量的梯度计算错了,排查很久找到原因。于是做了计算梯度的流程处理,展示如下,希望得到大佬们的指点迷津,不胜感激。
第1张PPT

第2张PPT

第3张PPT

第4张PPT

第5张PPT

第6张PPT

希望得到大佬们的指点迷津,不胜感激!!
进来学习多层神经网络反向传播,很多地方都说小批量梯度下降法比随机梯度下降法更好,但是尝试用神经网络拟合曲线,一直是随机梯度下降法效果好,小批量效果非常差,于是怀疑自己小批量的梯度计算错了,排查很久找到原因。于是做了计算梯度的流程处理,展示如下,希望得到大佬们的指点迷津,不胜感激。
第1张PPT
第2张PPT
第3张PPT
第4张PPT
第5张PPT
第6张PPT
希望得到大佬们的指点迷津,不胜感激!!