SpineNet论文笔记

SpineNet：深度学习中的尺度交换网络解析
最新推荐文章于 2024-08-20 14:15:12 发布
原创 最新推荐文章于 2024-08-20 14:15:12 发布 · 748 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

SpineNet是一种通过NAS搜索得到的网络结构，设计用于同时解决识别和定位任务，解决了传统分辨率降低导致的信息损失问题。相比ResNet-FPN，SpineNet在目标检测任务中表现出6%的AP增益，并且在iNaturalist细粒度分类比赛中，其精度比ResNet高6%。网络特点包括scale-permute中间特征、cross-scale连接以及高效的上采样和下采样操作。实验表明，随着scale-permute结构的应用，网络性能逐步提升。

目录

链接

SpineNet: Learning Scale-Permuted Backbone for Recognition and Localization

摘要

图像分类任务通常采用逐步减小分辨率的网络结构，但是这种结果并不适合同时需要识别和定位的任务。为减小分辨率损失问题，分类任务中采用encoder-decoder结构，但是该结构并不高效，尤其在需要产生强多尺度的特征时。我们将介绍一种通过NAS搜索得到的网络——SpineNet，它具有scale-permute intermediate 特征和cross-scale连接。相比ResNet-FPN，spineNet具有6%的AP增益。SpineNet结构也可以迁移到分类网络，在iNaturalist fine-grained dataset 比赛中，在top1 accuracy上比ResNet高出6%。

核心要点

  1. 尺度交换网络结构&和resNet的对比：
    如何保证不同层之间的concate，connection本身包含conv或者deconv么？
    scale-permute
  2. Cross-Scale connection
    cross-scale-fusion
  • upsampling用最近邻interp
  • downsampling用stride=2的3x3con
最低0.47元/天 解锁文章
SpineNet
jacke121的专栏
03-01 2747
 这篇在2019年12月10日由谷歌发表的新型神经网络框架闯入大众的视野，文章提出相较于传统的卷积神经网络在中间层总会进行各种卷积操作来进行一定的特征提取。然而在提取的过程中，总会出现部分的特征损失（卷积后像素降低导致）。这或许对于分类来说无关痛痒，但对于例如物体识别这种同时兼具识别和定位的场景时往往有可能会出现效果不佳的情况。文章提出通过在分类任务的骨干模型设计中采用（decoder netwo...
spineNET模型详解及代码复现
最新发布
hasakie的博客
02-28 1193
而SpineNet的跨尺度连接机制允许模型直接将小目标的细节特征与大目标的全局特征进行融合，从而提高了对不同尺度目标的识别能力。：SpineNet打破了传统骨干网络中特征图尺度单调递减的限制。在SpineNet模型的网络结构中，跨尺度连接是一个核心创新点，它为模型提供了强大的多尺度特征融合能力。在构建SpineNet模型的网络架构时，研究者们采用了一系列创新的设计方法，以实现高效的多尺度特征融合。在进行跨尺度连接时，SpineNet采用了空间和特征重采样技术，以确保不同尺度的特征能够在同一维度上进行融合。
SpineNet：一个用于识别和定位的神经网络（阅读记录）
weixin_45716611的博客
01-03 3610
这篇在2019年12月10日由谷歌发表的新型神经网络框架闯入大众的视野，文章提出相较于传统的卷积神经网络在中间层总会进行各种卷积操作来进行一定的特征提取。然而在提取的过程中，总会出现部分的特征损失（卷积后像素降低导致）。这或许对于分类来说无关痛痒，但对于例如物体识别这种同时兼具识别和定位的场景时往往有可能会出现效果不佳的情况。文章提出通过在分类任务的骨干模型设计中采用解码网络（decoder...
谷歌 NAS + 目标检测：SpineNet论文详解
深度学习技术前沿
04-25 1032
关注上方“深度学习技术前沿”，选择“星标公众号”，资源干货，第一时间送达！作者：bearbee知乎链接：https://zhuanlan.zhihu.com/p/100590305编辑：...
网络参数重组论文三（SpineNet-Seg）
蓝鲸鱼的博客
09-30 441
本系列文章介绍一种最近比较火的设计网络的思想，即利用网络的重参数化（意义在于训练时间模型有一组参数，而推理时间模型有另一组参数），把多层合成一层，进行网络加速。 本文介绍的ResRep: Lossless CNN Pruning via Decoupling Remembering and Forgetting是将参数重组应用在剪枝的一篇论文，提出了一种新的无损通道修剪方法。 在传统剪枝方法，conv参数同时涉及“记忆”（目标函数）和“遗忘”（惩罚损失），以实现两者的权衡。也就是说，传统的方法强迫每一个渠道
论文笔记-YOLOv4: Optimal Speed and Accuracy of Object Detection
Bolly_He的博客
04-02 3534
论文地址：https://arxiv.org/pdf/2004.10934v1.pdf code：https://github.com/AlexeyAB/darknet. 摘要 有大量的技巧可以提高CNN的精度。某些技巧仅在某些模型上使用或针对某些问题或小规模的数据集使用；有一些技巧例如BN，残差连接等，适用于大多数的模型，任务和数据集。我们假设这种普遍的技巧包括：Weighted-Residual-Connections (WRC)，Cross-Stage-Partial-connections (
SpineNet-Pytorch在Pytorch中实现对象检测
SpineNet-Pytorch是基于Google Brain团队在计算机视觉和模式识别会议（CVPR）2020上提出的SpineNet架构的一个实现版本，该项目使用了mmdetection框架。mmdetection是一个在PyTorch上开发的开源目标检测工具箱。...
SpineNet-Pytorch:SpineNet-mmdetection（Pytorch）实施
05-18
SpineNet-Pytorch 是Google Brain在CVPR 2020中提出的用于对象检测的按比例排列的主干。该项目是使用mmdetection实现SpineNet的一种。 它高度基于 论文 楷模 COCO对象检测基准 RetinaNet（从零开始培训） 骨干 解析度 盒式AP 参量 襟翼 盒式AP （纸） 参量（纸） 襟翼（纸） 下载 640x640 39.2 1115万 30.04B 39.9 12.0M 33.8乙 640x640 42.1 28.31百万 83.7B 42.8 28.5百万 85.4B 896x896 44.9 28.31百万 164.05B 45.3 28.5百万 167.4B 模型 SpineNet-96 1024x1024 46.9 42.74百万 261.35B 47.1 4300万
SpineNet：学习用于识别和定位的尺度置换主干网络（论文解读）
YannicKilcher的博客
08-20 848
论文摘要：Google Research团队提出了一种新的识别和定位网络结构 这篇论文由Google Research的Xian Zedu等人撰写，提出了一种改进现有识别和定位网络结构的方法。 核心思想： 论文首先分析了现有的识别和定位网络，这些网络通常以卷积神经网络（CNN）为主干，例如ResNet。 论文提出了一种新的网络结构，通过重新排列ResNet中的模块并进行交叉连接，在参数量相同或几...
「Medical Image Analysis」Notes on SpineNet
小锋子Shawn
01-13 321
QQ Group: 428014259 Tencent E-mail：403568338@qq.com http://blog.youkuaiyun.com/dgyuanshaofeng/article/details/86428895 这是VGG AZ的工作。 分类、可视化、定位 [1] SpineNet Automated Classification and Evidence Visualization...
【每日一网】Day23：SpineNet简单理解
dudu199806的博客
01-06 378
SpineNet 算法背景 在过去的一段时间内，CNN的结构设计取得了巨大的进展，更宽更深的网络接替而来，但是CNN的结构从发明以来并未有过改善，都遵循着分辨率单调递减的规则，尽管这种尺度递减的架构设计准则在分类任务中取得了巨大的成功，但是这种设计规则真的适合于目标检测这种同时进行定位和分类的任务吗，针对这种问题，谷歌提出了一种尺度排列网络，它具有以下特征： 1、中间特征的尺度可以随时提升或者下降，因此模型可以随着深度的增加而保持空间信息； 2、特征图之间的连接可以跨尺度以促进多尺度特征融合； 为了避免过
SpineNet：通过神经架构搜索发现的全新目标检测架构
谷歌开发者
09-08 845
文 / 软件工程师 Xianzhi Du 和技术项目经理 Jaeyoun Kim，Google Research为图像任务创建的卷积神经网络通常会把输入图像编码为一系列中间特征，以获取图...
来自谷歌大脑的SpineNet：一种非常规的主干结构
AI公园
08-21 632
点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Yesha R Shastri编译：ronghuaiyang导读给大家分析一种新提出的scale-permuted主干结构...
《SpineNet: Learning Scale-Permuted Backbone for Recognition and Localization》
weixin_46040552的博客
02-21 836
Motivation 1、Convolutional neural networks typically encode an input image into a series of intermediate features with decreasing resolutions. 2、the motivation behind this scale-decreased architecture...
Residual, BottleNeck, Inverted Residual, MBConv的解释和Pytorch实现
deephub
05-10 2万+
上篇ConvNext的文章有小伙伴问BottleNeck，Inverted Residual的区别，所以找了这篇文章，详细的解释一些用到的卷积块，当作趁热打铁吧 在介绍上面的这些概念之间，我们先创建一个通用的 conv-norm-act 层，这也是最基本的卷积块。 fromfunctoolsimportpartial fromtorchimportnn classConvNormAct(nn.Sequential): def__init__( self, in_fe
MBConv模块的注意力机制
qq_42057562的博客
07-06 1万+
注意力机制模块主要是用来让网络对重要的部分施加更多的关注。下图是MBConv模块。 首先进行1x1Conv进行升维操作，在进行深度可分离卷积，在进行添加注意力机制，最后通过一个1x1Conv进行降维操作，代码实现如下： 该注意力机制首先进行最大池化，再进行两次1x1Conv，在进行swish函数（0-1），最后乘上原特征图。 ...
EfficientNet
qq_44093630的博客
09-21 1852
提特征的模块一般称为backbone，可以说特征提取就是深度学习最为核心的东西。而EfficientNet系列模型是谷歌大脑在年提出，该模型探索了网络深度，宽度，图片分辨率对准确率的影响，提出了符合模型扩张的方法平衡深度，宽度，分辨率之间的关系。
【EfficientNet】EfficientNet网络结构及代码详解
热门推荐
计算机视觉方面的点点滴滴，欢迎一起讨论
04-29 3万+
文章目录1 从三个问题出发2感谢链接 1 从三个问题出发 对于一个网络，输入图像分辨越高越好？ 设计网络时，越深越好？ 设计网络时，越宽越好？ 回答： 总体而言，是的。 图像分辨率越高，网络能得到 潜在的 更高细粒度的特征channel。但有瓶颈，且会增加计算量，分辨率太高，得不偿失。 网络越深，学习到的特征越丰富、复杂。但太深容易造成梯度消失，导致训练困难。 网络越宽，网络能得到更高粒度的特征，且容易训练。但光宽不深的话，学习不到深层次的特征，且要综合衡量计算量的问题。 EfficientNet闪
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值