Bottleneck结构（附代码）

ResNet中的Bottleneck结构解析与实现

最新推荐文章于 2025-07-28 17:14:12 发布

原创

最新推荐文章于 2025-07-28 17:14:12 发布 · 7.9k 阅读

38 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #计算机视觉 #pytorch

本文介绍了ResNet网络中的Bottleneck结构，该结构通过1x1卷积减少通道数，接着使用3x3卷积进行特征提取，最后再用1x1卷积恢复通道数，从而在增加网络深度的同时减少了计算复杂度。Bottleneck设计在保持模型准确性的同时，有效控制了计算资源的消耗。代码展示了BottleneckBlock的实现细节，包括批量归一化、卷积和残差连接等操作。

Bottleneck结构出现在resnet中，参考paper
结构如下
在这里插入图片描述
左边是一个resnet block，右边是一个和它时间复杂度类似的bottleneck block。

bottleneck由三层组成：1x1, 3x3, 1x1，其中1x1负责缩小放大channel。

为什么要用这个结构呢，paper里是这样说的：
一般来说，增加网络的深度可以提高accuracy, 但是会增加计算量，而bottleneck既增加了深度，计算量又可以得到节约。

参考代码

class Bottleneck2D(nn.Module):
    expansion = 2

    def __init__(self, inplanes, planes, stride=1, downsample=None):

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

蓝羽飞鸟

关注关注

10
点赞
踩
38

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

专栏目录

深入浅出之Bottleneck层

浩瀚之水的专栏

01-22

1742

的核心思想是通过在网络的中间层引入一个较窄的层（即“瓶颈”），从而减少参数量和计算量。具体来说，假设我们有一个卷积神经网络（CNN），在某一层中，我们通常会使用多个卷积核来提取特征。则是在这个过程中插入一个1x1的卷积层，首先将特征图的通道数大幅度减少，然后再通过3x3的卷积层进行特征提取，最后再通过另一个1x1的卷积层将通道数恢复到原来的数量。

第三章、用YOLOv8进行检测——第四节 Bottleneck、C2f和 SPPF模块及 Python语言实现

u010117029的博客

06-03

416

YOLOv8核心模块设计与优化包括三大部分：1) C2f模块采用跨阶段特征融合机制，通过特征拆分和多分支处理提升1.1%mAP；2) SPPF模块优化传统空间金字塔结构，使用串行池化复用计算结果，速度提升25%；3) 改进版Bottleneck支持多种膨胀系数选择。这些创新模块在保持精度的同时显著降低计算成本，其中C2f替代原C3结构，SPPF取代传统SPP，可灵活集成到自定义网络中。实验表明，模块改进带来显著的精度和速度提升，为计算机视觉任务提供高效解决方案。

1 条评论您还未登录，请先登录后发表或查看评论

Bottleneck层

ReDaMancyYYYqy的博客

02-11

639

Bottleneck层是一种具有较少参数和计算量的卷积层，通常用于替代传统的卷积层以减少模型的复杂度和计算负担。这种层结构的设计思路是，通过减少中间层的通道数（即特征图的数量），来“挤压”信息并通过一个较小的“瓶颈”，然后再通过扩展层恢复通道数，从而实现特征的非线性变换和信息的有效传递。Bottleneck层是深度学习网络中一种重要的层结构，它通过减少中间层的通道数来减少模型的计算复杂度和参数数量。这种结构在保持模型性能的同时，提高了计算效率，有助于加速模型的训练和推理过程。

resnet中的Bottleneck

热门推荐

那年聪聪

02-16

2万+

Bottleneck结构为之后的深度可分离卷积Depthwise Separable Conv打下了坚实的基础。

【北上广深杭大厂AI算法面试题】深度学习篇...这里介绍 Bottleneck Layer的结构和作用？附代码。

2401_89898861的博客

03-03

1263

【北上广深杭大厂AI算法面试题】深度学习篇...这里介绍 Bottleneck Layer的结构和作用？附代码。

YOLOv8改进 | ODConv卷积助力极限涨点（附修改后的C2f、Bottleneck模块代码）

Snu77的博客

11-16

1万+

这篇文章给大家带来的是发表于2022年ICLR的ODConv中文名字全维度动态卷积，该卷积可以即插即用，可以直接替换网络结构中的任何一个卷积模块，在本文的末尾提供可以直接替换卷积模块的ODConv，添加ODConv模块的C2f和Bottleneck(配合教程将代码复制粘贴到你自己的代码中即可运行)给大家该卷积模块主要具有更小的计算量和更高的精度，其中添加ODConv模块的网络(只替换了一处C2f中的卷积)参数量由8.9GFLOPS减小到8.8GFLOPS，精度也有提高->

YOLOv8改进：基于DWRSeg的扩张式残差设计助力小目标检测（附C2f+Bottleneck模块修改）【YOLOv8】

程序员Gloria的博客

10-17

1345

扩张式卷积（Dilated Convolution）通过扩大卷积核的感受野，而不增加计算量，能够捕获更广泛的上下文信息。传统的卷积神经网络（CNN）在小目标检测中面临的一个挑战是感受野较小，导致对小物体的特征提取不充分。而扩张式残差结构通过引入扩张卷积层，可以在保持较少参数的情况下，显著扩大感受野，进而提升对小目标的检测能力。C2f（CSPNet）模块是一种常见的特征融合模块，它通过将特征图分成两部分进行处理，再通过跳跃连接将两部分融合，增强了网络的学习能力。

深度学习-瓶颈结构（Bottleneck）

weixin_40826634的博客

12-06

8535

深度学习-瓶颈结构（Bottleneck）

深度学习基础--Bottleneck(瓶颈) Architectures

wydbyxr的博客

11-12

2万+

Bottleneck(瓶颈) Architectures ResNet的核心内容之一，即“Deeper Bottleneck Architectures”（以下简称DBA），论文里的原图是这样的（Bottleneck V1 ）：作用换成bottleneck design以后，网络的参数减少了很多，训练也就相对容易一些。然后我们再看一下原作中的ResNet全貌。 ...

Bottleneck瓶颈型结构

qq_42178122的博客

06-12

4537

瓶颈结构指的是通道数的变化，即原通道数减少再增大，用瓶颈来形容这一句结构较为抽象。在resnet中的应用，从下面的右图可知道输入的维度是256，输出的维度也是256，中间维度是64,即数据的通道数先经过减少，后再增加到原来的大小，这就是Bottleneck瓶颈型结构。参考链接： https://blog.youkuaiyun.com/DanTaWu/article/details/111468257?utm_medium=distribute.pc_relevant.none-task-blog-baidujs_

tensorflow2.2中定义的ResNet和ResneXt中的bottleneck结构

sunmingyang1987的博客

04-05

1549

目录1、论文中提出的ResNet网络结构2、tensorflow中的三种ResNet或ResNeXt结构单元2.1、第一种结构单元2.2 第二种结构单元2.3 第三种结构单元 1、论文中提出的ResNet网络结构 tensorflow的Keras高级API中定义了50,101和152层的ResNet和ResNeXt，其中的bottlenect结构的实现在后面介绍。 ResNet论文中提出的50,101和152层结构如下图所示：可以发现，ResNet网络结构中的五个stage分别将feature map尺

深度学习：ResNet网络与bottleneck架构

HUSTGO的博客

07-14

2888

ResNet（Residual Neural Network）是由何恺明等人在2015年提出的一种深度卷积神经网络。它的核心思想是引入残差块（Residual Block），解决了深度神经网络中常见的梯度消失和梯度爆炸问题，从而使得网络可以更深。残差学习：通过引入恒等映射（Identity Mapping），使网络能够更容易地学习到恒等函数，从而减轻梯度消失问题。跳跃连接：残差块通过跳跃连接（Skip Connection）直接将输入传递到输出，提高了信息传递的效率。更深的网络。

yolo组件之Bottleneck层总结

yueguang8的博客

03-04

1万+

Bottleneck模块的目的就是为了降低网络参数，提高网络训练、推理的速度并提升特征提取能力。文章介绍了在Resnet、yolov5、yolov8不同的网络中，Bottleneck的结构、参数的差异，以及在推理部署的时候需要注意的事项。

理解bottleneck architecture

GL3_24的博客

05-28

7950

本篇博文主要是讨论为什么叫 bottleneck architecture bottleneck architecture翻译过来叫做瓶颈结构，瓶颈结构的特点是一头大一头小。这个是针对于网络结构中输入/输出的维度(dimensions)来讲的。来看一下Deep Residual Learning for Image Recognition(ResNet)论文当中的一部分。对应结构为下图。 ...

BottleNeck结构

02-20

### Bottleneck 结构概述 Bottleneck 层是在深度残差网络（ResNet）中引入的重要组件，旨在减少计算量的同时保持甚至提高性能。这种结构通过特定的设计降低了模型的参数数量和计算复杂度，从而提高了训练效率[^2]。 ### 实现细节典型的 Bottleneck 单元由三个卷积层组成： 1. **第一个卷积层 (1×1)**：该层主要用于降维操作，通常会将输入通道数减小到原来的四分之一。这一步骤可以显著减少后续处理的数据量。 2. **第二个卷积层 (3×3)**：此层负责空间上的特征提取工作，在较小维度的空间内执行标准的卷积运算来捕捉图像局部特征。 3. **第三个卷积层 (1×1)**：最后再利用另一个 1x1 的卷积核恢复原始的通道数目，以便于与其他部分相加形成恒等映射。以下是 Python 中基于 PyTorch 框架的一个简单实现示例: ```python import torch.nn as nn class Bottleneck(nn.Module): expansion = 4 def __init__(self, inplanes, planes, stride=1, downsample=None): super(Bottleneck, self).__init__() # First layer reduces dimensionality with a 1x1 convolution. self.conv1 = nn.Conv2d(inplanes, planes, kernel_size=1, bias=False) self.bn1 = nn.BatchNorm2d(planes) # Second layer applies spatial filtering using a 3x3 convolution. self.conv2 = nn.Conv2d(planes, planes, kernel_size=3, stride=stride, padding=1, bias=False) self.bn2 = nn.BatchNorm2d(planes) # Third layer restores original dimensions via another 1x1 convolutions. self.conv3 = nn.Conv2d(planes, planes * self.expansion, kernel_size=1, bias=False) self.bn3 = nn.BatchNorm2d(planes * self.expansion) self.relu = nn.ReLU(inplace=True) self.downsample = downsample self.stride = stride def forward(self, x): residual = x out = self.conv1(x) out = self.bn1(out) out = self.relu(out) out = self.conv2(out) out = self.bn2(out) out = self.relu(out) out = self.conv3(out) out = self.bn3(out) if self.downsample is not None: residual = self.downsample(x) out += residual out = self.relu(out) return out ``` 上述代码展示了如何构建一个完整的 Bottleneck 块，并将其应用于 ResNet 架构之中。