NanoDet代码逐行精读与修改（三）辅助训练模块AGM

原创

已于 2022-03-07 09:48:03 修改 · 2.9k 阅读

10 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #机器学习 #知识蒸馏 #目标检测 #卷积神经网络

于 2022-03-06 13:23:11 首次发布

本文详细介绍了NanoDet中的Assign Guidance Module (AGM) 和SimpleConvHead，AGM负责生成cost矩阵和标签分配，而SimpleConvHead包含分类和回归分支。文章通过代码注释解释了各部分的功能，如卷积层的构建、GFL的输出结构以及回归分支的设计。此外，还提及了动态软标签分配器的重要性。

---neozng1@hnu.edu.cn

笔者已经为nanodet增加了非常详细的注释，代码请戳此仓库：nanodet_detail_notes: detail every detail about nanodet 。

此仓库会跟着文章推送的节奏持续更新！

3. Assign Guidance Module

3.1. 参数和初始化

3.2. 构建卷积层

3.3. forward()

3. Assign Guidance Module

AGM负责生成cost矩阵，进行标签分配，相当于一个非常轻量的KD模型中的教师，使得head能更好的学习bbox的回归与分类。

3.1. 参数和初始化

class SimpleConvHead(nn.Module):
    def __init__(
        self,
        num_classes, 
        input_channel,     # 输入的特征通道数
        feat_channels=256, # AGM内部的特征通道数
        stacked_convs=4,   # 使用四层卷积
        # 默认三个尺度,但是PAN中添加了额外层,配置文件可以看到是[8,16,32,64]
        strides=[8, 16, 32],  
        conv_cfg=None,
        # 使用group norm作为归一化层,效果优于BN
        norm_cfg=dict(type="GN", num_groups=32, requires_grad=True),
        activation="LeakyReLU",
        # 配置文件中的默认参数是7
        reg_max=16,
        **kwargs
    ):
        super(SimpleConvHead, self).__init__()
        self.num_classes = num_classes
        self.in_channels = input_channel
        self.feat_channels = feat_channels
        self.stacked_convs = stacked_convs
        self.strides = strides
        self.reg_max = reg_max

        self.conv_cfg = conv_cfg
        self.norm_cfg = norm_cfg
        self.activation = activation
        self.cls_out_channels = num_classes

        self._init_layers()
        self.init_weights()