Tensorflow 2.* keras 训练开始 loss 为NAN

问题描述

在网络训练过程中，如果一开始就为nan，

问题成因

说明loss function的定义出现了问题,即·log(0), x/0这样一类计算错误

解决方案

在损失函数的定义方程式中，避免此类问题。比如：加一个小常数，tf.keras.backend.epsilon等于1e-7

eps = tf.keras.backend.epsilon