随便写点训练网络过程中的教训。。
1.训练量问题
刚开始不要所有数据都上,先用少量数据看看效果,避免浪费时间。
2.loss升高问题
设置reduce_lr = tf.keras.callbacks.ReduceLROnPlateau(monitor='loss',patience=1,verbose=1)
patience设置到1,一旦loss不增加赶紧降低学习率
3.二分类交叉熵loss变成NAN问题
最后一层输出用sigmoid输出函数
随便写点训练网络过程中的教训。。
1.训练量问题
刚开始不要所有数据都上,先用少量数据看看效果,避免浪费时间。
2.loss升高问题
设置reduce_lr = tf.keras.callbacks.ReduceLROnPlateau(monitor='loss',patience=1,verbose=1)
patience设置到1,一旦loss不增加赶紧降低学习率
3.二分类交叉熵loss变成NAN问题
最后一层输出用sigmoid输出函数