jupyter notebook笔记

最新推荐文章于 2024-01-18 15:36:21 发布

原创最新推荐文章于 2024-01-18 15:36:21 发布 · 317 阅读

0 ·

CC 4.0 BY-SA版权

Python 专栏收录该内容

54 篇文章

订阅专栏

本文详细介绍了一个全连接ReLU神经网络的实现，包括一个隐藏层且无偏置项的网络结构，使用numpy进行前向传播、计算L2损失以及反向传播的过程。适合初学者理解和实践神经网络的基本原理。

一个全连接ReLU神经网络，一个隐藏层，没有bias。用来从x预测y，使用L2 Loss。
- $h = W_1X$
- $a = max(0, h)$
- $y_{hat} = W_2a$

这一实现完全使用numpy来计算前向神经网络，loss，和反向传播。
- forward pass
- loss
- backward pass

注意：这种也适用于ｃｓｄｎ的．
在这里插入图片描述