Bottleneck结构（附代码）

最新推荐文章于 2025-07-28 17:14:12 发布

原创

最新推荐文章于 2025-07-28 17:14:12 发布 · 7.9k 阅读

38 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #计算机视觉 #pytorch

本文介绍了ResNet网络中的Bottleneck结构，该结构通过1x1卷积减少通道数，接着使用3x3卷积进行特征提取，最后再用1x1卷积恢复通道数，从而在增加网络深度的同时减少了计算复杂度。Bottleneck设计在保持模型准确性的同时，有效控制了计算资源的消耗。代码展示了BottleneckBlock的实现细节，包括批量归一化、卷积和残差连接等操作。

Bottleneck结构出现在resnet中，参考paper
结构如下
在这里插入图片描述
左边是一个resnet block，右边是一个和它时间复杂度类似的bottleneck block。

bottleneck由三层组成：1x1, 3x3, 1x1，其中1x1负责缩小放大channel。

为什么要用这个结构呢，paper里是这样说的：
一般来说，增加网络的深度可以提高accuracy, 但是会增加计算量，而bottleneck既增加了深度，计算量又可以得到节约。

参考代码

class Bottleneck2D(nn.Module):
    expansion = 2

    def __init__(self, inplanes, planes, stride=1, downsample=None):

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

蓝羽飞鸟

关注关注

10
点赞
踩
38

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

专栏目录

深入浅出之Bottleneck层

浩瀚之水的专栏

01-22

1742

的核心思想是通过在网络的中间层引入一个较窄的层（即“瓶颈”），从而减少参数量和计算量。具体来说，假设我们有一个卷积神经网络（CNN），在某一层中，我们通常会使用多个卷积核来提取特征。则是在这个过程中插入一个1x1的卷积层，首先将特征图的通道数大幅度减少，然后再通过3x3的卷积层进行特征提取，最后再通过另一个1x1的卷积层将通道数恢复到原来的数量。

【北上广深杭大厂AI算法面试题】深度学习篇...这里介绍 Bottleneck Layer的结构和作用？附代码。

2401_89898861的博客

03-03

1263

【北上广深杭大厂AI算法面试题】深度学习篇...这里介绍 Bottleneck Layer的结构和作用？附代码。

1 条评论您还未登录，请先登录后发表或查看评论

Bottleneck层

ReDaMancyYYYqy的博客

02-11

639

Bottleneck层是一种具有较少参数和计算量的卷积层，通常用于替代传统的卷积层以减少模型的复杂度和计算负担。这种层结构的设计思路是，通过减少中间层的通道数（即特征图的数量），来“挤压”信息并通过一个较小的“瓶颈”，然后再通过扩展层恢复通道数，从而实现特征的非线性变换和信息的有效传递。Bottleneck层是深度学习网络中一种重要的层结构，它通过减少中间层的通道数来减少模型的计算复杂度和参数数量。这种结构在保持模型性能的同时，提高了计算效率，有助于加速模型的训练和推理过程。

resnet中的Bottleneck

热门推荐

那年聪聪

02-16

2万+

Bottleneck结构为之后的深度可分离卷积Depthwise Separable Conv打下了坚实的基础。

深度学习-瓶颈结构（Bottleneck）

weixin_40826634的博客

12-06

8535

深度学习-瓶颈结构（Bottleneck）

深度学习基础--Bottleneck(瓶颈) Architectures

wydbyxr的博客

11-12

2万+

Bottleneck(瓶颈) Architectures ResNet的核心内容之一，即“Deeper Bottleneck Architectures”（以下简称DBA），论文里的原图是这样的（Bottleneck V1 ）：作用换成bottleneck design以后，网络的参数减少了很多，训练也就相对容易一些。然后我们再看一下原作中的ResNet全貌。 ...

Bottleneck瓶颈型结构

qq_42178122的博客

06-12

4537

瓶颈结构指的是通道数的变化，即原通道数减少再增大，用瓶颈来形容这一句结构较为抽象。在resnet中的应用，从下面的右图可知道输入的维度是256，输出的维度也是256，中间维度是64,即数据的通道数先经过减少，后再增加到原来的大小，这就是Bottleneck瓶颈型结构。参考链接： https://blog.youkuaiyun.com/DanTaWu/article/details/111468257?utm_medium=distribute.pc_relevant.none-task-blog-baidujs_

YOLOv8改进 | ODConv卷积助力极限涨点（附修改后的C2f、Bottleneck模块代码）

Snu77的博客

11-16

1万+

这篇文章给大家带来的是发表于2022年ICLR的ODConv中文名字全维度动态卷积，该卷积可以即插即用，可以直接替换网络结构中的任何一个卷积模块，在本文的末尾提供可以直接替换卷积模块的ODConv，添加ODConv模块的C2f和Bottleneck(配合教程将代码复制粘贴到你自己的代码中即可运行)给大家该卷积模块主要具有更小的计算量和更高的精度，其中添加ODConv模块的网络(只替换了一处C2f中的卷积)参数量由8.9GFLOPS减小到8.8GFLOPS，精度也有提高->

YOLOv8改进：基于DWRSeg的扩张式残差设计助力小目标检测（附C2f+Bottleneck模块修改）【YOLOv8】

程序员Gloria的博客

10-17

1345

扩张式卷积（Dilated Convolution）通过扩大卷积核的感受野，而不增加计算量，能够捕获更广泛的上下文信息。传统的卷积神经网络（CNN）在小目标检测中面临的一个挑战是感受野较小，导致对小物体的特征提取不充分。而扩张式残差结构通过引入扩张卷积层，可以在保持较少参数的情况下，显著扩大感受野，进而提升对小目标的检测能力。C2f（CSPNet）模块是一种常见的特征融合模块，它通过将特征图分成两部分进行处理，再通过跳跃连接将两部分融合，增强了网络的学习能力。

tensorflow2.2中定义的ResNet和ResneXt中的bottleneck结构

sunmingyang1987的博客

04-05

1549

目录1、论文中提出的ResNet网络结构2、tensorflow中的三种ResNet或ResNeXt结构单元2.1、第一种结构单元2.2 第二种结构单元2.3 第三种结构单元 1、论文中提出的ResNet网络结构 tensorflow的Keras高级API中定义了50,101和152层的ResNet和ResNeXt，其中的bottlenect结构的实现在后面介绍。 ResNet论文中提出的50,101和152层结构如下图所示：可以发现，ResNet网络结构中的五个stage分别将feature map尺

深度学习：ResNet网络与bottleneck架构

HUSTGO的博客

07-14

2886

ResNet（Residual Neural Network）是由何恺明等人在2015年提出的一种深度卷积神经网络。它的核心思想是引入残差块（Residual Block），解决了深度神经网络中常见的梯度消失和梯度爆炸问题，从而使得网络可以更深。残差学习：通过引入恒等映射（Identity Mapping），使网络能够更容易地学习到恒等函数，从而减轻梯度消失问题。跳跃连接：残差块通过跳跃连接（Skip Connection）直接将输入传递到输出，提高了信息传递的效率。更深的网络。

yolo组件之Bottleneck层总结

yueguang8的博客

03-04

1万+

Bottleneck模块的目的就是为了降低网络参数，提高网络训练、推理的速度并提升特征提取能力。文章介绍了在Resnet、yolov5、yolov8不同的网络中，Bottleneck的结构、参数的差异，以及在推理部署的时候需要注意的事项。

理解bottleneck architecture

GL3_24的博客

05-28

7950

本篇博文主要是讨论为什么叫 bottleneck architecture bottleneck architecture翻译过来叫做瓶颈结构，瓶颈结构的特点是一头大一头小。这个是针对于网络结构中输入/输出的维度(dimensions)来讲的。来看一下Deep Residual Learning for Image Recognition(ResNet)论文当中的一部分。对应结构为下图。 ...

Bottleneck、CSP、DP结构详细介绍

Q先森的博客

09-25

3338

本篇文章详细介绍了三种神经网络中常见的结构，bottleneck、CSP、DP，并附上了代码加深理解。

ResNet网络结构分析

开飞机的小毛驴儿

10-25

6472

转载自：https://zhuanlan.zhihu.com/p/79378841，本文只做个人记录学习使用，版权归原作者所有。今天回顾了ResNet的论文Deep Residual Learning for Image Recognition，又结合PyTorch官方代码，整理一遍ResNet的结构，在这里写个总结。首先，ResNet在PyTorch的官方代码中共有5种不同深度的结构，深度分别为18、34、50、101、152（各种网络的深度指的是“需要通过训练更新参数”的层数，如卷积层，全.

HSIC Bottleneck的C++程序实现

mu_xing_的博客

09-09

421

HSIC Bottleneck的C++程序实现。

BottleNeck结构

02-20

### Bottleneck 结构概述 Bottleneck 层是在深度残差网络（ResNet）中引入的重要组件，旨在减少计算量的同时保持甚至提高性能。...上述代码展示了如何构建一个完整的 Bottleneck 块，并将其应用于 ResNet 架构之中。