基于ACNet构建ResNet50backbone的Pytorch代码实现

细粒度分类:ACNet论文笔记——Attention Convolutional Binary Neural Tree for Fine-Grained Visual Categorization 论文题目《Attention Convolutional Binary Neural Tree for Fine-Grained Visual Categorization》 本文提出了用于细粒度分类的注意力卷积二元神经树(ACNet),具体的来说,树网络中从根结点到叶结点具有多种路径,每条路径均插入了注意力转换器,用于让网络在不同的根节点上聚焦于不同的判别力区域,最终的预测概率由每个叶节点与其相应的积累概率决定,概率最大的类别就是最终的图片类别。 阅读详情

ACNet是什么?

[1]X. Ding, Y. Guo, G. Ding etal.“ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks” in ICCV 2019

推荐博客:https://blog.youkuaiyun.com/practical_sharp/article/details/114671943

在这里插入图片描述

Overview of ACNet. For example, we replace every 3 × 3 layer with an ACB comprising three layers with 3 × 3, 1×3 and 3×1 kernels, respectively, and their outputs are summed up. When the training is completed, we convert the model back into the same structure as the original by adding the asymmetric kernels in each ACB onto the skeleton, which is the crisscross part of the square kernel, as marked on the figure. In practice, this conversion is implemented by building a new model with the original structure and using the converted learned parameters of the ACNet to initialize it.

总结来说ACnet就是非对称卷积,能够学习到更多特征,以ACNet构建的backbone能提高网络在 CIFAR-10, CIFAR-100, and ImageNet上的分类性能。

接下来我准备使用ACNet构造ResNet50的backbone来训练目标检测模型,测试一下模型能否存在性能提升问题。

import torch
from torch import nn as nn
# 去掉因为3x3卷积的padding多出来的行或者列
class CropLayer(nn.Module):

    #   E.g., (-1, 0) means this layer should crop the first and last rows of the feature map. And (0, -1) crops the first and last columns
    def __init__(self, crop_set):
        super(CropLayer, self).__init__()
        self.rows_to_crop = - crop_set[0]
        self.cols_to_crop = - crop_set[1]
        assert self.rows_to_crop >= 0
        assert self.cols_to_crop >= 0

    def forward(self, input):
        return input[:, :, self.rows_to_crop:-self.rows_to_crop, self.cols_to_crop:-self.cols_to_crop]

# 论文提出的3x3+1x3+3x1,其中3*3卷积还是由self.conv2来实现
# 实现一个AC卷积块只包含1*3和3*1这两个不对称卷积,这两个部分是没有与预训练权重的
# 使用这个模块的时候 padding必须先定义为 = 1
class ACBlock(nn.Module):

    def __init__(self, in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, padding_mode='zeros', deploy=False):
        super(ACBlock, self).__init__()
        self.deploy = deploy
        if deploy:
            self.fused_conv = nn.Conv2d(in_channels=in_channels, out_channels=out_channels, kernel_size=(kernel_size,kernel_size), stride=stride,
                                      padding=padding, dilation=dilation, groups=groups, bias=True, padding_mode=padding_mode)
        else:
            center_offset_from_origin_border = padding - kernel_size // 2
            ver_pad_or_crop = (center_offset_from_origin_border + 1, center_offset_from_origin_border)
            hor_pad_or_crop = (center_offset_from_origin_border, center_offset_from_origin_border + 1)
            if center_offset_from_origin_border >= 0:
                self.ver_conv_crop_layer = nn.Identity()
                ver_conv_padding = ver_pad_or_crop
                self.hor_conv_crop_layer = nn.Identity()
                hor_conv_padding = hor_pad_or_crop
            else:
                self.ver_conv_crop_layer = CropLayer(crop_set=ver_pad_or_crop)
                ver_conv_padding = (0, 0)
                self.hor_conv_crop_layer = CropLayer(crop_set=hor_pad_or_crop)
                hor_conv_padding = (0, 0)
            self.ver_conv = nn.Conv2d(in_channels=in_channels, out_channels=out_channels, kernel_size=(3, 1),
                                      stride=stride,
                                      padding=ver_conv_padding, dilation=dilation, groups=groups, bias=False,
                                      padding_mode=padding_mode)

            self.hor_conv = nn.Conv2d(in_channels=in_channels, out_channels=out_channels, kernel_size=(1, 3),
                                      stride=stride,
                                      padding=hor_conv_padding, dilation=dilation, groups=groups, bias=False,
                                      padding_mode=padding_mode)
            self.ver_bn = nn.BatchNorm2d(num_features=out_channels)
            self.hor_bn = nn.BatchNorm2d(num_features=out_channels)


    # forward function
    def forward(self, input):
        if self.deploy:
            return self.fused_conv(input)
        else:
            # square_outputs = self.square_conv(input)
            # square_outputs = self.square_bn(square_outputs)
            # print(square_outputs.size())
          
            vertical_outputs = self.ver_conv_crop_layer(input)
            vertical_outputs = self.ver_conv(vertical_outputs)
            vertical_outputs = self.ver_bn(vertical_outputs)
            # print(vertical_outputs.size())

            horizontal_outputs = self.hor_conv_crop_layer(input)
            horizontal_outputs = self.hor_conv(horizontal_outputs)
            horizontal_outputs = self.hor_bn(horizontal_outputs)
            # print(horizontal_outputs.size())
            return vertical_outputs + horizontal_outputs

# this is the original ResNet Block, uesing the ACBlock replace the 3*3 conv 
class Bottleneck(nn.Module):
    expansion = 4

    def __init__(self, in_channel, out_channel, stride=1, downsample=None, norm_layer=None):
        super(Bottleneck, self).__init__()
        if norm_layer is None:
            norm_layer = nn.BatchNorm2d
        # 1*1 的卷积  不需要使用 ACBlock
        self.conv1 = nn.Conv2d(in_channels=in_channel, out_channels=out_channel,
                               kernel_size=1, stride=1, bias=False)  # squeeze channels
        self.bn1 = norm_layer(out_channel)
        # -----------------------------------------
        # 3*3 的卷积  需要使用 ACBlock
        self.conv2 = nn.Conv2d(in_channels=out_channel, out_channels=out_channel,
                              kernel_size=3, stride=stride, bias=False, padding=1)
        
        self.ACBlock = ACBlock(in_channels = out_channel,out_channels= out_channel,
                            kernel_size = 3, stride=stride, padding=1, dilation=1, 
                            groups=1, padding_mode='zeros', deploy=False)
    
        self.bn2 = norm_layer(out_channel)
        # -----------------------------------------
        # 1*1 的卷积  不需要使用 ACBlock
        self.conv3 = nn.Conv2d(in_channels=out_channel, out_channels=out_channel * self.expansion,
                               kernel_size=1, stride=1, bias=False)  # unsqueeze channels
        self.bn3 = norm_layer(out_channel * self.expansion)
        self.relu = nn.ReLU(inplace=True)
        # some ResNet Block maybe need downsample to decrease the size of feature map(usually 2X)
        # the definition of downsample module in class ResNet 
        self.downsample = downsample
    # original ResNet Block
    def forward(self, x):
        identity = x
        if self.downsample is not None:
            identity = self.downsample(x)

        out = self.conv1(x)
        out = self.bn1(out)
        out = self.relu(out)

        square_outputs = self.conv2(out) 
        other_outputs = self.ACBlock(out)
        out = square_outputs + other_outputs  
        out = self.bn2(out)
        out = self.relu(out)

        

        out = self.conv3(out)
        out = self.bn3(out)

        out += identity
        out = self.relu(out)

        return out


x = torch.Tensor(8,3,256,256)
ac = ACBlock(in_channels = 3, out_channels = 64, kernel_size = 3, stride=1, padding=1, dilation=1, groups=1, padding_mode='zeros', deploy=False)
print(ac)
ACBlock的原本结构

在这里插入图片描述

但是为了预训练权重方便,还是保留了BottleBlock的conv2,所以ACBBlock只剩下了13和31的预训练权重。

在这里插入图片描述

如何用ACBlock构建ResNet50,使用ACBlock这个类代替普通的3*3的卷积就好了

## 接上面的代码
## 完全不需要改变
class ResNet(nn.Module):

    def __init__(self, block, blocks_num, num_classes=1000, include_top=True, norm_layer=None):
        super(ResNet, self).__init__()

        if norm_layer is None:
            norm_layer = nn.BatchNorm2d
        self._norm_layer = norm_layer

        self.include_top = include_top 
        self.in_channel = 64
        # 输入图像都是3个通道的,最开始进入ResNet的网络channel = 3
        # 第一个卷积层也是一个下采样,stride = 2 会造成下采样X2
        self.conv1 = nn.Conv2d(3, self.in_channel, kernel_size=7, stride=2,
                               padding=3, bias=False)
        self.bn1 = norm_layer(self.in_channel)
        self.relu = nn.ReLU(inplace=True)
        #  池化层,会损失很多信息,stride = 2 会造成下采样X2
        self.maxpool = nn.MaxPool2d(kernel_size=3, stride=2, padding=1)
        
        self.layer1 = self._make_layer(block, 64, blocks_num[0])
        self.layer2 = self._make_layer(block, 128, blocks_num[1], stride=2)   # 这里传入的stride = 2,需要下采样
        self.layer3 = self._make_layer(block, 256, blocks_num[2], stride=2)   # 这里传入的stride = 2,需要下采样
        self.layer4 = self._make_layer(block, 512, blocks_num[3], stride=2)   # 这里传入的stride = 2,需要下采样
        # 图像分类需要有最后的全连接层,定义目标检测模型时候 self.include_top = False
        if self.include_top:
            self.avgpool = nn.AdaptiveAvgPool2d((1, 1))  # output size = (1, 1)
            self.fc = nn.Linear(512 * block.expansion, num_classes)

        for m in self.modules():
            if isinstance(m, nn.Conv2d):
                nn.init.kaiming_normal_(m.weight, mode='fan_out', nonlinearity='relu')

    def _make_layer(self, block, channel, block_num, stride=1):
        norm_layer = self._norm_layer
        downsample = None
        # 如果需要下采样了,self.in_channel == channel * block.expansion就不满足了
        if stride != 1 or self.in_channel != channel * block.expansion:
            
            downsample = nn.Sequential(
                nn.Conv2d(self.in_channel, channel * block.expansion, kernel_size=1, stride=stride, bias=False),
                norm_layer(channel * block.expansion))
        # 先判断第一个block是否需要下采样
        layers = []
        layers.append(block(self.in_channel, channel, downsample=downsample,
                            stride=stride, norm_layer=norm_layer))
        self.in_channel = channel * block.expansion
        # 从1开始循环而不是从0开始循环
        for _ in range(1, block_num):
            layers.append(block(self.in_channel, channel, norm_layer=norm_layer))

        return nn.Sequential(*layers)

    def forward(self, x):
        #  eg. x = torch.Tensor(8,3,256,256)
        x = self.conv1(x)
        # after the first conv,torch.Size([8, 64, 128, 128])
        x = self.bn1(x)
        x = self.relu(x)
        x = self.maxpool(x)
        # after maxpooling :torch.Size([8, 64, 64, 64])
        
        x = self.layer1(x)
        # torch.Size([8, 256, 64, 64])

        x = self.layer2(x)
        # torch.Size([8, 512, 32, 32])

        x = self.layer3(x)
        # torch.Size([8, 1024, 16, 16])
       
        x = self.layer4(x)
        # torch.Size([8, 2048, 8, 8])

        # object detection module need not this if sentence
        if self.include_top:
            x = self.avgpool(x)
            x = torch.flatten(x, 1)
            x = self.fc(x)

        return x



"""
x = torch.Tensor(8,3,256,256)
net  = ResNet(Bottleneck,[3,5,6,3],include_top=False)
print(net)
out = net(x)
print(out.size())
"""

具体的backbone在目标检测中是否有效果,还是等实验之后再来完善。

有一个疑问就是,这样定义卷积没有预训练模型,不知道是否如意。

使用ACBlock替换之后的ResNet是否还有pretrain模型?需要在网上百度百度。

CV-骨干网络01:Swin Transformer(使用移位窗口的分层视觉Transformer)【通过patchmerging在不同stage逐步降低分辨率、提高通道数,输出一组“多尺度特征图”】 2.7+ 2 . 72.7box AP and2.6+ 2 . 62.63.2+ 3 . 23.2本文提出了一种名为Swin Transformer的新视觉Transformer,它能够作为计算机视觉的通用骨干网络。将Transformer从语言领域迁移到视觉领域所面临的挑战源于这两个领域的差异,例如视觉实体尺度的巨大变化以及图像中像素相对于文本中单词的高分辨率。为了解决这些差异,我们提出了一种分层Transformer,其表征通过Shiftedwindows(移位窗口)进行计算。 阅读详情

相关推荐

AC-NET.pptx

阅读完论文ACNet: Strengthening the Kernel Skeletons for Powerful CNN via AsymmetricConvolution Blocks 后所做PPT笔记,以及原论文http://openaccess.thecvf.com/content_ICCV_2019/papers/Ding_ACNet_Strengthening_the_Kernel_Skeletons_for_Powerful_CNN_via_Asymmetric_ICCV_2019_paper.pdf

ACNet(无痛涨点)

ACNet(无痛涨点) 论文链接 1. 前言 不知道你是否发现了,CNN的结构创新在这两年已经变得相对很少了,同时要做出有影响力并且Solid的工作也变得越来越难,最近CNN结构方面的创新主要包含两个方面: 1、网络结构搜索,以Google Brain的EfficientNet为代表作。 2、获取更好的特征表达,主要是将特征复用,特征细化做得更加极致,以HRNet,Res2Net等为代表作。 本文要介绍的是ICCV 2019的一个新CNN架构ACNet(全称为Asymmetric Convolution N

justsolow的博客 4851

【AI之路】cmd命令行通过Huggingface镜像站快速下载模型文件的方法

Hugging Face Hub 是分享机器学习模型、演示、数据集和指标的首选之地。huggingface_hub 库可以轻松下载Huggingface上有用的模型和数据集元数据。但大模型文件通常较大,国内下载太慢,那有没有高效便捷的方法?这个当然必须有!看到了吗?只是添加一个参数,下载大模型就搞定了。当然也可以使用python程序来下载。具体见前期博文:【AI之路】使用huggingface_hub通过huggingface镜像站hf-mirror.com下载大模型(附代码,实现大模型自由)

IT里的交易员-博客 1861

ACNet

论文:ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks

xiaochengJF的博客 6097

第2章 数据库关系模型-单元测验-数据库原理及应用

第2章 数据库关系模型---数据库与机器学习 作业 常用的关系查询操作包括选择、投影、连接、并、交等。 v 实体完整性是指关系表的属性组成必须是完整的。 x 自然连接是一种等值连接。 v 在参照完整性中,可以定义级联操作。 v 用户自定义完整性可以实施数据的业务约束。 v 每个关系是一个二维表,但二维表不一定是关系。 v 关系中复合键至少包含两个属性。 v 代理键是为了唯一标识关系的不同元组,需要在表单或报表中显示出来。 x ...

aiqq136的博客 5728

Matlab2018a崩溃解决的办法No sandbox or build area path

Matlab 2018a (No sandbox or build area path)出现崩溃后需要使用terminal进行如下操作: cd /home/david/MySoft/MATLAB/R2018a/bin/glnxa64 (你的matlab路径) mkdir exclude mv libfreetype* exclude/ 执行后图片如下: 如果你用的Windows系统,请手动按照上面步骤剔除了dll。 Matlab 2018a (No sandbox or build are

David Xiao 1万+

结构重参数化之一:ACNet

论文ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks 代码GitHub - DingXiaoH/ACNet: ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks 前言 本文提出了一种architecture-neut...

00000cj的博客 5411

音频质量评估指标全解析:从主观到客观的全面指南

本文全面解析了音频质量评估的核心指标,涵盖主观评价(如MOS、DMOS)与客观评价(如PESQ、STOI、SDR)。重点介绍了DNSMOS等AI驱动的无参考评估方法,并提供了根据语音通信、噪声抑制、语音分离等不同场景选择指标组合的实战指南,帮助开发者和研究者科学量化音频质量。

rum55的博客 646

细粒度分类:ACNet(Attention Convolutional Binary Neural Tree)

文章目录前言摘要一、简介二、相关工作三、Attention Convolutional Binary Neural Tree3.1 ArchitectureBackbone network moduleBranch routing moduleAttention transformerLabel prediction3.2 TrainingData augmentationLoss functionOptimization四、实验五、结论其他 前言 本文主要介绍 Attention Convolution

DaZheng121的博客 2872

Android 10.0 SystemUI 屏蔽状态栏消息推送弹出的悬浮通知

在状态栏中,有一些通知类似 消息推送 弹出的 悬浮通知,弹出30秒之后会消失掉 要想屏蔽掉这些通知,首选知道这些通知是怎么产生的 通知类型 NotificationContentInflater.java 详细的介绍各种通知的类型 frameworks/base/packages/SystemUI/src/com/android/systemui/statusbar/notification/row/NotificationContentInflater.java /** * The defau

安卓兼职framework和app工程师的博客 1542

SpringBoot+Vue+kkFileView实现文档管理(文档上传、下载、在线预览)

上面在使用OpenOffice实现doc、excel、ppt等文档的管理和预览。除此之外可用kkFileView实现包括且更多文档的预览。

BADAO_LIUMANG_QIZHI的博客 1万+

pytorch中resnet_CNN-Backbone的Pytorch实现

简介:卷积神经网络非常适合处理图像相关任务,其优势一是权值共享策略,降低了模型复杂度和参数量,本质上也对应着生物视觉神经的感受野。二是其强大的特征提取能力,这也是目前视觉感知任务(分类检测分割等)性能提升的关键。而CNN模型的Bacebone(主干网络)主要负责的就是特征提取。特征提取能力的强弱直接决定了后面head的性能(head模块在的不同的任务下是不同的,简单的分类任务的head是最后接到全...

weixin_30543595的博客 622

基于Simulink的光伏+储能家庭能源管理系统仿真

本文通过Simulink建模,分析了家庭光伏+储能系统的优化调度问题。针对光伏发电与用电高峰不匹配导致电费节省有限的问题,构建了包含5kW光伏、10kWh电池和6kW负荷的完整模型,设计了无控、规则控制和24小时经济优化三种策略。仿真结果显示,经济优化策略可使日电费降低32%,光伏自用率从45%提升至89%,尤其在晚高峰时段能显著减少高价购电。文章详细介绍了物理层建模、分时电价实现和控制策略设计方法,并探讨了天气预测、V2H等高级扩展功能,为家庭能源智能管理提供了实用解决方案。

xiaoheshang_123的博客 189

ACNet无痛涨点:非对称卷积增强空间变换鲁棒性

卷积神经网络中,标准卷积核各向同性,难以高效捕捉图像中方向性特征。非对称卷积通过并行引入1×3和3×1核,增强对旋转、翻转等空间变换的鲁棒性,且训练时多分支、推理时可融合回标准卷积,实现零额外推理开销。这一设计在图像分类、目标检测等任务中,以极低参数量和计算量代价提升模型性能,尤其适合在已有baseline上做低风险改进。ACNet正是这一思路的典型代表,在骨干网络的中深层替换标准卷积,即可实现稳定涨点。

weixin_34302798的博客 227

复现论文《基于Retinex理论和深度学习的低照度图像增强算法研究》

本研究提出两种基于Retinex理论和深度学习的低照度图像增强算法。第一种算法在HSV色彩空间中进行处理,采用Res2Block和CBAM-Res2block模块增强多尺度特征表示;第二种算法使用多尺度残差U型网络结构。复现代码展示了Res2Block、CBAM注意力机制等核心模块的实现,包括多尺度特征提取、通道和空间注意力机制。实验结果表明,所提算法能有效解决低照度图像存在的亮度低、对比度不足、颜色失真和细节丢失等问题,显著提升图像质量。

max500600的博客 391

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

结构重参数化实战:RepVGG原理、代码与部署优化

在深度学习模型部署中,推理速度与精度往往难以兼得。多分支结构如残差网络能提升表征能力,却带来额外计算开销。结构重参数化提供了一种创新范式:训练阶段使用多分支卷积(如3×3、1×1与恒等映射)增强梯度流动,推理阶段通过卷积与批归一化(BN)融合、权重叠加等数学变换,将多条分支无损压缩为单个3×3卷积栈。RepVGG正是该思想的典型实现,它既保留了VGG式规整结构,又具备高计算密度,便于ONNX导出、TensorRT部署及边缘设备加速。本文从原理推导、代码实现到工程踩坑,系统拆解这种“训练冗余、推理极简”的模型

weixin_29100927的博客 261

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

【ICCV 2019】ACNet: 使用非对称卷积块增强CNN的卷积核骨架

这篇文章提出了ACNet,使用了一种可以替代原始CNN模型中普通方形$d\times d$卷积核的非对称卷积块( Asymmetric Convolution Block,ACB)。非对称卷积块由卷积核为方形($d×d$)、水平($1×d$)和垂直($d×1$)的三个平行层组成,水平和垂直卷积核与方形卷积核相加可以对方形卷积核的骨架进行增强。利用得到的卷积核参数对原始模型进行部署还可以在不需要额外的计算成本的前提下提升原始模型的准确率:.....................

weixin_44378835的博客 3108

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

超实用性!哈工大提出ACNet:用于超分辨的非对称卷积神经网络

点击下方卡片,关注“CVer”公众号AI/CV重磅干货,第一时间送达由哈尔滨工业大学、鹏城实验室、国立清华大学及香港中文大学的学者提出了一种用于盲噪声的盲超分辨的非对称卷积神经网络,该论文...

阿木寺的博客 2951

DiverseBranchBlock: “无痛涨点”的ACNet再进化,清华大学&旷视科技提出Inception类型的DBB

1. 摘要 本文提出一种可以提升CNN性能且“推理耗时无损”的通用模块组件,我们将其称之为Diverse Branch Block(DBB),它通过组合不同尺度、不同复杂度的分支(不同分支采用卷积序列、多尺度卷积或者均值池化)丰富特征空间的多样性达到提升单个卷积(注:推理时合并为单个卷积)表达能力的目的。一旦完成训练,一个DBB可以等价地转换为单个卷积以方便布署。 不同于ConvNet架构的推陈出新,DBB在训练时采用了复杂的“微结构”且保持网络整体结构不变;而在推理/部署时,DBB这种复杂结构可以等价转.

程序员深度学习 851

3*3卷积+1*3卷积+3*1卷积=白给的精度提升

ICCV2019: 通过非对称卷积块增强CNN的核骨架 下面要介绍的论文发于ICCV2019,题为「ACNet:Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric ConvolutionBlocks」,axriv地址为:https://arxiv.org/abs/1908.03930v1。 由...

jacke121的专栏 1万+

【ACNET2019】:ATTENTION BASED NETWORK TO EXPLOIT COMPLEMENTARY FEATURES FOR RGBD SEMANTIC SEGMENTATION

与RGB语义分割相比,RGBD语义分割通过考虑深度信息可以获得更好的性能。然而,由于RGB和深度(D)图像的特征分布在不同场景中显著不同,当代分割器有效地利用RGBD信息仍然存在问题。在本文中,我们提出了一种注意力互补网络(ACNet),它选择性地从RGB和深度分支中收集特征。主要贡献在于注意力补充模块(ACM)和具有三个并行分支的体系结构。更准确地说,ACM是一个基于通道注意力的模块,它从RGB和深度分支中提取加权特征。该架构保留了原始RGB和深度分支的推断,同时启用了融合分支。基于上述结构,ACNet能

我的博客 771

ACNet:通过非对称卷积块强化CNN

ACNet(Asymmetric Convolutional Network)是一个在ICCV 2019上提出的创新项目,旨在通过非对称卷积块(ACB)来增强卷积神经网络(CNN)的性能。ACNet的核心思想是使用1D非对称卷积来强化标准的方形卷积核,从而在不增加推理时间成本的情况下提升模型的准确性。 ## 项目技术分析 ACNet通过替换标准方形卷积层为ACB,构建了一个可以在训练后转换回原...

gitblog_00426的博客 634

ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks

一.概述 提出了一个Asymmetric Convolution Block (ACB),可以在普通的网络中加入一些ACB来代替普通的卷积,这个仅在训练的时候起作用,然后测试的时候可以使得网络恢复之前的结构,所以这种方法是提升了网络的性能但是完全不会破坏网络,所以原作者说是白给的性能。但是这个性能的提升也是以训练时间增加40%换来的。所以具体能不能应用到实际业务中就是仁者见仁智者见智了。 二....

bestrivern的博客 3081

RaspberryPiMinecraft 项目教程

RaspberryPiMinecraft 项目教程 1. 项目介绍 RaspberryPiMinecraft 是一个用于在 Raspberry Pi 上设置和优化 Minecraft 服务器的开源项目。该项目提供了配置文件和性能测试脚本,帮助用户快速搭建一个专用的 Minecraft(PC Java 版本)服务器。通过该项目,用户可以在低功耗的 Raspberry Pi 设备上运行 Minecra...

gitblog_00098的博客 523

ACNet安装与配置完全指南

ACNet(Asymmetric Convolution Network)是Ding XiaoH等人在ICCV 2019上提出的一个深度学习项目,旨在通过引入不对称卷积块(Asymmetric Convolution Blocks, ACB),强化卷积神经网络的核心骨架,从而提升模型性能,尤其在处理图像分类任务时表现突出。该项目基于Python语言,并利用了PyTorch深度学习框架进行实现。 ...

gitblog_01263的博客 686

剪枝与重参第八课:ACNet重参

剪枝与重参第八课:ACNet重参

周同学的博客 1312
上一篇: original Residual Unit && full pre-activation Residual Unit
下一篇: 目标检测中的NMS,soft NMS,softer NMS,Weighted Boxes Fusion
practical_sharp
博客等级 码龄8年 500粉丝 148原创
评论 7
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值