sinat_28655409的博客

背景：很多优化器本身能根据参数更新次数调整学习率，有时可能会导致很难收敛到最优，可以选择几个学习率组合进行学习 注意点：每天切换学习率的时候，最好重置optimizer，因为不同的学习率，优化器保存的状态参数不同，刚切换学习率的时候可能会收敛不稳定，如果重置了optimizer不会导致在切换时波动。 ...

Deep-learning小白入门-pytorch实现cnn模型背景构建你的第一个深度学习模型参考的网上文章 背景 开篇简单啰嗦几句，因为公司最近项目要从传统的机器学习模型（xgboost）切换到deep-learning，有幸也参与到deep-learning的学习开发中，目前也是一边理论一边实操，本文也是从零开始用pytorch写深度学习模型，希望也可以给正在入门学习的你一些参考，代码基本都有很详细的注释，其中很多思路也是参考了网上各种大神的文章，会放在文章最后供大家参考。 构建你的第一个深度学习模型