使用tensorflow进行FCN网络训练时出现loss值是负值情况2

本文探讨了在机器学习训练过程中遇到的loss值固定不变的问题,通过调整数据归一化、batchsize及label处理方式,最终解决了该问题,恢复正常训练过程。

继续上一篇的问题,上一篇的训练结果都建立在数据先进行了normalized之后的结果,这一次尝试一下先不进行归一化数据,查看一下训练结果,结果显示如下:

epoch=0,i=14006 of 78989, loss=798.504578
epoch=0,i=14007 of 78989, loss=798.504578
epoch=0,i=14008 of 78989, loss=798.504578
epoch=0,i=14009 of 78989, loss=798.504578
epoch=0,i=14010 of 78989, loss=798.504578

数据归一化前后结果一样,并不起作用。在这之前的训练,使用的batchsize都是1,为了验证是否是batchsize的原因,将batchsize修改为2之后,训练结果如下所示:

epoch=0,i=12020 of 39494, loss=1597.008545
epoch=0,i=12021 of 39494, loss=1597.008545
epoch=0,i=12022 of 39494, loss=1597.008545
epoch=0,i=12023 of 39494, loss=1597.008545
epoch=0,i=12024 of 39494, loss=1597.008545
epoch=0,i=12025 of 39494, loss=1597.008545
epoch=0,i=12026 of 39494, loss=1597.008545
epoch=0,i=12027 of 39494, loss=1597.008545

还是固定值,只是数字变了,使用tensorboard查看,如下

检查数据的时候发现将label也进行了归一化,取消了label的归一化之后,将histogram的输出修改为softmax之后的值,结果如下所示:

loss值也有所变化,正常现象。到此解决loss值固定不动的问题了

评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

banxia1995

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值