简单神经网络的搭建和梯度下降法训练

一、用numpy实现两层神经网络

一个全连接的RELU神经网络,一个隐藏层,为了简单起见不用bais。作用是从x预测y。

Loss 函数为:

                                  Loss = \sum_{i=1}^{m}\left ( \left f(x_{i} \right ) -\right y_{i})^{2}

假设输入为x,所以第一层的输出为h=w_{1}x,然后经过RELU激活函数,得到的结果为h_relu。当时不太清楚为什么要用激活函数,查了一下感觉这篇博客讲的挺好。链接:https://www.cnblogs.com/ya-qiang/p/9258714.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值