yolov3-voc.cfg使用的一些坑

[net]
# Testing             初始batch参数要分为两类,分别为训练集和测试集,不同模式相应放开参数,#为注释符号
#batch=1
#subdivisions=1
# Training

batch=64             一批训练样本的样本数量,每batch个样本更新一次参数
subdivisions=8           batch/subdivisions作为一次性送入训练器的样本数量
                     如果内存不够大,将batch分割为subdivisions个子batch
                     (subdivisions相当于分组个数,相除结果作为一次送入训练器的样本数量)
    注意:上面这两个参数如果电脑内存小,则把batch改小一点,batch越大,训练效果越好
       Subdivisions越大,可以减轻显卡压力(分组数目越多,每组样本数量则会更少,显卡压力也会相应减少)

width=416           
height=416
channels=3
                    以上三个参数为输入图像的参数信息 width和height影响网络对输入图像的分辨率,从而影响precision,只可以设置成32的倍数(为什么是32?由于使用了下采样参数是32,所以不同的尺寸大小也选择为32的倍数{320,352…..608},最小320*320,最大608*608,网络会自动改变尺寸,并继续训练的过程。)

momentum=0.9    DeepLearning1中最优化方法中的动量参数,这个值影响着梯度下降到最优值得速度 (注:SGD方法的一个缺点是其更新方向完全依赖于当前batch计算出的梯度,因而十分不稳定。Momentum算法借用了物理中的动量概念,它模拟的是物体运动时的惯性,即更新的时候在一定程度上保留之前更新的方向,同时利用当前batch的梯度微调最终的更新方向。这样一来,可以在一定程度上增加稳定性,从而学习地更快,并且还有一定摆脱局部最优的能力) 

decay=0.0005                权重衰减正则项,防止过拟合,正则项往往有重要意义
//增加样本的数量,改变基础样本的状态,去增加样本整体的数量,增加样本量减少过拟合
angle=0                 通过旋转角度来生成更多训练样本
saturation = 1.5            通过调整饱和度来生成更多训练样本
exposure = 1.5              通过调整曝光量来生成更多训练样本
hue=.1                  通过调整色调来生成更多训练样本

learning_rate=0.001 
学习率决定着权值更新的速度,设置得太大会使结果超过最优值,直接错过最优值,震荡回去,太小会使下降速度过慢,导致收敛过慢。如果仅靠人为干预调整参数,需要不断修改学习率。刚开始训练时可以将学习率设置的高一点,而一定轮数之后,将其减小。在训练过程中,一般根据训练轮数设置动态变化的学习率。
基本训练守则
刚开始训练时:学习率以 0.01 ~ 0.001 为宜。
一定轮数过后:逐渐减缓。
接近训练结束:学习速率的衰减应该在100倍以上。
提供参考资料学习率的调整参考https://blog.youkuaiyun.com/qq_33485434/article/details/80452941

burn_in=1000    在迭代次数小于burn_in时,其学习率的更新有一种方式,大于burn_in时,才采用policy的更新方式

max_batches = 500200      训练达到max_batches后停止学习,多个batches

policy=steps     这个是学习率调整的策略,有policy:constant, steps, exp, poly, step, sig, RANDOM,constant等方式
调整学习率的policy,有如下policy:constant, steps, exp, poly, step, sig, RANDOM
constant
保持学习率为常量,caffe里为fixed
steps
比较好理解,按照steps来改变学习率


Steps和scales相互一一对应
steps=40000,45000       下面这两个参数steps和scale是设置学习率的变化,比如迭代到40000次时,学习率衰减十倍。45000次迭代时,学习率又会在前一个学习率的基础上衰减十倍。根据batch_num调整学习率                
scales=,.1,.1            学习率变化的比例,累计相乘

涉及几个参数(以后要学习的代码,具体参数可以调节)

exp
gamma=
返回base_lr*gamma^iter,iter为当前迭代次数,gamma设置为0.98

poly
power=4
max_batches=800000
对学习率进行多项式衰减。图中power为0.9

sig
学习率进行sigmod函数衰减
gamma= 0.05
step=200
效果如图所示


step
返回net.learning_rate*pow(net.scale, batch_num/net.step)

[convolutional]
batch_normalize=1    是否做BN操作
filters=32                  输出特征图的数量
size=3               卷积核的尺寸
stride=1                做卷积运算的步长
pad=1               如果pad为0,padding由 padding参数指定。
如果pad为1,padding大小为size/2,padding应该是对输入图像左边缘拓展的像素数量
activation=leaky     激活函数的类型:logistic,loggy,relu,elu,relie,plse,hardtan,lhtan,linear,ramp,leaky,tanh,stair

# Downsample    //以下为训练网络结构。

[convolutional]
batch_normalize=1
filters=64
size=3
stride=2
pad=1
activation=leaky

[convolutional]
batch_normalize=1
filters=32
size=1
stride=1
pad=1
activation=leaky

[convolutional]
batch_normalize=1
filters=64
size=3
stride=1
pad=1
activation=leaky
shortcut部分是卷积的跨层连接,就像Resnet中使用的一样,参数from是−3,意思是shortcut的输出是通过与先前的倒数第三层网络相加而得到。跨越连接。
[sho
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值