mmflow-官方教程翻译03 Finetuning models

最新推荐文章于 2023-04-10 23:10:40 发布

原创

最新推荐文章于 2023-04-10 23:10:40 发布 · 419 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习

本文介绍了如何在MMFlow中微调预训练模型以适用于特定数据集，包括修改训练策略、使用预训练模型及在不同环境下训练的方法。

原文链接：Tutorial 2: Finetuning Models — mmflow documentation

教程2：微调模型

在FlyingChairs和FlyingThings3d数据集上预训练的光流估计器可以作为其他数据集的较好的预训练模型。本教程为用户提供了如何利用”模型园“Model Zoohttps://mmflow.readthedocs.io/en/latest/model_zoo.html中模型在其他数据集上训练，从而获得更好表现的指导说明。

修改训练策略

微调超参数和默认的训练策略是不同的，通常需要更小的学习率和更少的训练迭代次数。

# 优化器
optimizer = dict(type='Adam', lr=1e-5, weight_decay=0.0004, betas=(0.9, 0.999))
optimizer_config = dict(grad_clip=None)
# learning policy
lr_config = dict(
    policy='step',
    by_epoch=False,
    gamma=0.5,
    step=[
        45000, 65000, 85000, 95000, 97500, 100000, 110000, 120000, 130000,