Pytorch中的学习率衰减及其用法_epochs=50 train_loss_list=[] val_loss_list=[] for

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

当某指标(loss或accuracy)在最近几个epoch中都没有变化(下降或升高超过给定阈值)时，调整学习率。
如当验证集的loss不再下降是，调整学习率；或监察验证集的accuracy不再升高时，调整学习率。

torch.optim.lr_sheduler.ReduceLROnPlateau(optimizer, mode='min', factor=0.1, patience=10,
 verbose=False, threshold=0.0001, threshold_mode='rel', cooldown=0, min_lr=0, eps=1e-08)

参数：

• mode(str): 模式选择，有min和max两种模式，min表示当指标不再降低(如监测loss)，max表示当指标不再升高(如监测accuracy)。
• factor(float): 学习率调整倍数，同前面的gamma，当监测指标达到要求时，lr=lr×factor。
• patience(int): 忍受该指标多少个epoch不变化，当忍无可忍时，调整学习率。
• verbose(bool): 是否打印学习率信息，print( ‘Epoch {:5d} reducing learning rate of group {} to {:.4e}.’.format(epoch, i, new_lr), 默认为False, 即不打印该信息。
• threshold_mode (str): 选择判断指标是否达最优的模式，有两种模式：rel 和 abs.
  当threshold_mode == rel, 并且 mode == max时，dynamic_threshold = best * (1 + threshold);
  当threshold_mode == rel, 并且 mode == min时，dynamic_threshold = best * (1 - threshold);
  当threshold_mode == abs, 并且 mode == max时，dynamic_threshold = best