自定义学习率调度器

解释

PyTorch 中需要在训练中依据实际情况修改学习率，就需要用到学习率调度器，而 PyTorch 自带的学习率调度器只有有限的几种可以使用，这时候就可以自定义控制学习率调度器。

例子

比如我现在需要前 100 个 epoch 学习率不变，之后每个 epoch 都学习率线性减少，1000 个 epoch 时减到 0：

def lr_scheduler_linear(optimizer, ori_lr, cur_epoch, keep_lr_epoch, end_epoch):
	if cur_epoch < keep_lr_epoch:
		return
	elif cur_epoch >= end_epoch