批量归一化与未归一化的比较

本文深入探讨了批量归一化在神经网络中的应用,通过与未归一化的比较,阐述了批量归一化如何提高模型训练速度和准确性。详细介绍了批量归一化的原理和实现步骤,并探讨其潜在的影响和局限性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

未归一化的比较:
training on cpu
epoch 1, loss 0.0091, train acc 0.104, test acc 0.100, time 61.8 sec
epoch 2, loss 0.0053, train acc 0.464, test acc 0.611, time 59.1 sec
epoch 3, loss 0.0034, train acc 0.652, test acc 0.557, time 61.1 sec
epoch 4, loss 0.0029, train acc 0.710, test acc 0.645, time 58.6 sec
epoch 5, loss 0.0025, train acc 0.750, test acc 0.732, time 58.9 sec
epoch 6, loss 0.0023, train acc 0.776, test acc 0.778, time 58.1 sec
epoch 7, loss 0.0021, train acc 0.794, test acc 0.801, time 58.4 sec
epoch 8, loss 0.0019, train acc 0.812, test acc 0.778, time 58.1 sec
epoch 9, loss 0.0018, train acc 0.823, test acc 0.815, time 61.2 sec
epoch 10, loss 0.0018, train acc 0.832, test acc 0.823, time 68.8 sec

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值