- 博客(1)
- 收藏
- 关注
RSS订阅原创 训练网络loss出现Nan解决办法
训练网络loss出现Nan解决办法我要鼓励娜扎AI/深度学习/计算机视觉/机器学习/NBA训练网络loss出现Nan解决办法一.原因一般来说，出现NaN有以下几种情况：1.如果在迭代的100轮以内，出现NaN，一般情况下的原因是因为你的学习率过高，需要降低学习率。可以不断降低学习率直至不出现NaN为止，一般来说低于现有学习率1-10倍即可。2.如果当前的网络是类似于RNN的循环神经网络的话，出现NaN可能是因为梯度爆炸的原因，一个有效的方式是增加“gradient clipp
2022-03-04 19:11:30
4678
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人