动手学CV-Pytorch计算机视觉 天池赛题思路与上分技巧汇总
博客接上回(动手学CV-Pytorch计算机视觉 天池计算机视觉入门赛SVHN数据集实战),上一小节我们介绍了一个基于分类的baseline解决方案。本文会对一些比赛优化思路和上分技巧进行汇总和整理,希望对大家深入学习CV能够有帮助。
本文分为以下几部分:
-
如何优化官方baseline的效果?
-
其它解题思路的整理和分析
-
字符级目标检测的优化技巧整理
在这里要特别感谢多位前排选手对于比赛技巧的无私分享,那么不多bb,下面直接进入正题
一、如何优化官方baseline的效果?
本次入门赛的官方baseline入门材料,相信大家肯定都看过了:
本质上,baseline的思路就是将赛题转换为了一个定长的字符识别问题,用包含多个输出的分类问题来进行求解。
1.1 改进版baseline
这份代码相当于一个加强版的baseline,简短来说,介绍了以下几点:
- 重新回顾baseline的代码
- 阶段性下降的学习率调整策略
- 分析了很多人提交出0.3-0.4分成绩的原因和解决方案
- 加入数据增强策略
这份代码我相信是帮到了一些刚入门的同学的,提交的成绩大概在0.75分左右。
那么在这样一个baseline的基础上,如何进一步的优化呢?
1.2 改进backbone
baseline中我们的网络结构是这样定义的:
class SVHN_Model1(nn.Module):
def __init__(self):
super(SVHN_Model1, self).__init__()
model_conv = models.resnet18(pretrained=True)
model_conv.avgpool = nn.AdaptiveAvgPool2d(1)
model_conv = nn.Sequential(*list(model_conv.children())[:-1]) # 去除最后一个fc layer
self.cnn = model_conv
self.fc1 = nn.Linear(512, 11)
self.fc2 = nn.Linear(512, 11)
self.fc3 = nn.Linear(512, 11)
self.fc4 = nn.Linear(512, 11)
self.fc5 = nn.Linear(512, 11)
def forward(self, img):
feat = self.cnn(img)
#print(feat.shape)
feat = feat.view(feat.shape[0], -1)
c1 = self.fc1(feat)
c2 = self.fc2(feat)
c3 = self.fc3(feat)
c4 = self.fc4(feat)
c5 = self.fc5(feat)
return c1, c2, c3, c4, c5
我们可以对使用的backbone网络进行一系列的改进:
- 由resnet18换为更大的resnet50
- 为每一个分类模块加上一层全连接隐藏层
- 为隐含层添加dropout
由resnet18换为resnet50,更深的模型就拥有更好的表达能力,添加一层隐含层同样起到了增加模型拟合能力的作用,与此同时为隐含层添加dropout来进行一个balance,一定程度上防止过拟合。(这只是我个人对于baseline的改进方案,不一定是最优的)
改进后的模型定义代码如下:
class SVHN_Model2(nn.Module):
def __init__(self):
super(SVHN_Model2, self).__init__()
# resnet18
model_conv = models.resnet18(pretrained=True)
model_conv.avgpool = nn.AdaptiveAvgPool2d(1)
model_conv = nn.Sequential(*list(model_conv.children())[:-1]) # 去除最后一个fc layer
self.cnn = model_conv
self.hd_fc1 = nn.Linear(512, 128)
self.hd_fc2 = nn.Linear(512, 128)
self.hd_fc3 = nn.Linear(512, 128)
self.hd_fc4 = nn.Linear(512, 128)
self.hd_fc5 = nn.Linear(512, 128)
self.dropout_1 = nn.Dropout(0.25)
self.dropout_2 = nn.Dropout(0.25)
self.dropout_3 = nn.Dropout(0.25)
self.dropout_4 = nn.Dropout(0.25)
self.dropout_5 = nn.Dropout(0.25)
self.fc1 = nn.Linear(128, 11)
self.fc2 = nn.Linear(128,