Caffe 学习系列（5）：生成 solver 文件

最新推荐文章于 2019-08-29 19:23:30 发布

志小

最新推荐文章于 2019-08-29 19:23:30 发布

阅读量289

点赞数 1

分类专栏： Caffe 文章标签： Caffe

本文链接：https://blog.youkuaiyun.com/JACK_YOUNG007/article/details/89455405

版权

引言

Caffe 在训练的时候，需要设置一些参数，我们将这些参数设置在一个 solver.prototxt 的文件里面，如下：

base_lr: 0.001
display: 782
gamma: 0.1
lr_policy: “step”
max_iter: 78200
momentum: 0.9
snapshot: 7820
snapshot_prefix: “snapshot”
solver_mode: GPU
solver_type: SGD
stepsize: 26067
test_interval: 782
test_iter: 313
test_net: “/home/xxx/data/val.prototxt”
train_net: “/home/xxx/data/proto/train.prototxt”
weight_decay: 0.0005

这些参数不是随意设置的，存在一定的内在逻辑关系。

假如我们有 50000 个训练样本， batch_size 为64（prototxt 文件中体现），即每批次处理 64 个样本，那么需要迭代 50000/64 = 782 次才能处理完一次全部的样本。我们把处理完一次所有的样本称之为一代，即 epoch。所以，这里的 test_interval 设置为 782，即处理完一次所有的训练数据后，才去进行测试。如果我们想训练 100 代，则需要设置 max_iter 为 78200.

同理，如果我们有 10000 个测试样本， batch_size 设为 32，那么需要迭代 10000/32 = 313 （向上取整）次才能完整的测试完一次，所以设置 test_iter 为 313.

学习率变化规律我们设置为随着迭