【Detectron2】 cfg.SOLVER.STEPS 和 cfg.SOLVER.GAMMA超参数的含义

cfg.SOLVER.STEPS 和 cfg.SOLVER.GAMMA是Detectron2的yaml文件中的两个超参数，它们的含义是：

• 当训练轮数（iteration）达到cfg.SOLVER.STEPS时，学习率会在原来基础上乘以sfg.SOLVER.GAMMA。
  也就是说，让训练随着轮数的增加有一个学习率变小的一个过程。

我认为这样的好处是，训练前期不会因为学习率太小而导致损失下降速度慢，也不会因为后期学习率太大而达不到更好的效果。所以使用这两个参数可以平衡训练过程中不同阶段所需要的学习率。

例如：

当参数如上图所示，训练到2500轮时学习率变为0.0005，训练到3500轮时变为0.00025.

---

参考：github