Neural Network Cost fu

本文介绍了神经网络的基本结构,包括使用逻辑函数计算每层特征,并定义了神经网络的代价函数。此外还讨论了如何通过反向传播算法计算所有输出单元的误差总和以及对所有权重进行正则化修正。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

我们用L来标记神经网络的层数,例如这里就是 4 。我们用 s l (小写的L)来标记第l层的单元数量,例如这里就是:s1=3、s2=s3=5 、s4=4 ,注意这里是不包含偏差单元的,也就是a 0 = 1 的单元。每一层特征的计算,使用的公式依然是逻辑函数:

             

Logistic regression的代价函数为:


类比Logistic regression的代价函数,我们得到Neural network的代价函数:

逐项分解有:


项1

项1表示所有输出单元误差的总和。


项2

项2表示对所有权重进行正则化修正,其中i表示行,j表示列,l表示层

2.反向传递


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值