超级会员免费看
在PyTorch深度学习训练过程中遇到loss变为NaN的情况，可能由学习率过高、loss函数问题、数据包含Nan、目标值错误或计算溢出等原因引起。解决方案包括调整学习率、采用梯度截断、检查数据质量、确保目标值正确以及处理可能导致溢出的计算。检查输入数据和目标变量中是否有Nan，并确保loss函数适用的数据范围。对于可能的指数计算溢出，要留意softmax等操作的实现细节。
在pytorch训练过程中出现loss=nan的情况
1.学习率太高。
2.loss函数
3.对于回归问题，可能出现了除0 的计算，加一个很小的余项可能可以解决
4.数据本身，是否存在Nan，可以用numpy.any(numpy.isnan(x))检查一下input和target
5.target本身应该是能够被loss函数计算的，比如sigmoid激活函数的target应该大于0，同样的需要检查数据集
https://blog.youkuaiyun.com/weixin_39092218/article/details/72915906
以下转自：
1.如果在迭代的100轮以内，出现NaN，一般情况下的原因是因为你的学习率过高，需要降低学习率。可以不断降低学习率直至不出现NaN为止，一般来说低于现有学习率1-10倍即可。
2.如果当前的网络是类似于RNN的循环神经网络的话，出现NaN可能是因为梯度爆炸的原因，一个有效的方式是增加“gradient clipping”（梯度截断来解决）
4.可能0或者负数作为
订阅专栏 解锁全文
扫一扫
8734
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
