Tensorflow 训练结果为 NAN

本文介绍如何解决TensorFlow预测过程中出现NAN值的问题。通过调整计算交叉熵损失的代码,采用tf.clip_by_value函数限制prediction的取值范围,避免log函数中出现0而导致的结果为NAN。
部署运行你感兴趣的模型镜像

Tensorflow 预测的中间结果有很多 NAN,如下图



看一下计算 loss 的时候是否有类似下面的代码

cross_entropy = tf.reduce_mean(-tf.reduce_sum(ys * tf.log(prediction), reduction_indices=[1]))


由于 prediction 可能为 0, 导致 log 出错,最后结果会出现 NA

把上面的代码改为下面这样即可解决


cross_entropy = tf.reduce_mean(-tf.reduce_sum(ys * tf.log(tf.clip_by_value(prediction, 1e-10,1.0)), reduction_indices=[1]))



参考:http://stackoverflow.com/questions/33712178/tensorflow-nan-bug

您可能感兴趣的与本文相关的镜像

TensorFlow-v2.15

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。 它提供了一个灵活的平台,用于构建和训练各种机器学习模型

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值