【调参】Cyclic Learning Rates和One Cycle Policy-Keras

传统的网络训练过程中，一般学习率都是逐渐减小的，像keras可以使用keras.callbacks.ReduceLROnPlateau对学习率进行调整，例如：
函数：

keras.callbacks.ReduceLROnPlateau(monitor='val_loss', 
								factor=0.1, 
								patience=10, 
								verbose=0, 
								mode='auto', 
								min_delta=0.0001, 
								cooldown=2, 
								min_lr=0)

回调函数将会监视其中的一个metrics，在上面的例子中