在深度学习训练中遇到NaNs是个常见问题，可能由超参数设置、数值稳定性或算法错误引起。检查学习率和正则化项、确保权重合理初始化，以及关注数值稳定性，如Softmax计算中的溢出风险。若使用Theano，可以利用NanGuardMode、DebugMode或MonitorMode进行调试，避免NaNs引入。此外，注意CUDA特定选项对NaN的影响。
NaNs问题（Dealing with NaNs）
相信很多自己实现过深度学习模型或者训练过深度学习模型的人都会知道，产生NaNs或者Infs是一件特别常见的事情。但是NaNs的问题又往往很棘手，因为出现NaN的原因可能有很多，诊断起来并不容易。
这可能是因为模型中某个地方设置的不是特别合理，或者代码中出现了Bug。也有可能是出现了数值不稳定，数值不稳定问题会进行单独说明。甚至也可能是你的算法出了问题，下面将介绍几种出现NaNs的场景以及如何进行诊断并处理模型训练过程中出现的NaNs。
超参数的设置以及权重初始化（Check Superparameters and Weight Initialization）
通常情况下，尤其是你使用深度学习库训练时，原因大多是超参数设置问题。
最可能是就你的学习率设置过大。一个过大的学习率可能在一个epoch里就让你整个模型产生NaN的输出，所以首先检查学习率，最简单的办法就是设置一个小的学习率。
其次，你的模型里有正则化项吗？看正则项是否设置合理，选择一个大的正则项系数来训练几个epoch看下NaNs有没有消失。
还有一些模型可能对权重的初始化十分敏感，如果权重没有采用合理的初始化方法，或者合适的初始化范围，模型可能会产生NaNs。
关于数值稳定（Numerical Stability）
如果你最终诊断发现是在某个公式计算时产生的NaNs，可能的原因就是这个公式存在数值稳定问题，通常发生在你自己实现的某个公式，例如Softmax，因为深度学习库通常会帮助解决公式中的数值稳定问题。
举个列子：一些nodes在某些输入下产生一个很小的p(x)。
在反向传播时，正
最低0.47元/天 解锁文章
扫一扫
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
