56、resnet中的下采样

最新推荐文章于 2025-03-11 11:44:04 发布
最新推荐文章于 2025-03-11 11:44:04 发布
阅读量893 收藏 9
点赞数 9
分类专栏： CV视觉算法入门与调优 文章标签： 深度学习 人工智能 算法 神经网络 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/dongtuoc/article/details/135436443
版权
本文介绍了ResNet神经网络中下采样的概念和作用，包括通过步长为2的卷积层及最大池化层实现下采样，下采样能减少计算量，增加感受野，防止过拟合，并使网络学习更抽象的特征。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

这一节是算法原理和背景的最后一章节，下一节开始进入实战部分。

如果你从第一节看到这一节，这总共56节的内容基本上都能理解的话，那么恭喜你，算法原理部分已经掌握了，也基本接近入门了。

总结一下算法原理的部分，介绍了传统计算机视觉的一些算法，比如滤波算法，然后介绍了一些深度学习的基础概念，包括训练和推理，正向传播，反向传播和损失函数。

随后重点介绍了resnet这一神经网络中用到的算法，包括卷积算法，批归一化算法，池化算法，激活函数，还有矩阵乘算法，以及每一个算法的原理和优势。

最后面的几节介绍了全连接算法，交叉熵损失函数，还有softmax算法。

同时在介绍一些常见算法的过程中，夹杂了一些算法的代码实现，这些实现是最原始的实现版本，只是实现功能，后面代码实战部分会逐步进行性能优化。

在进入实战之前，本节再继续介绍一下 resnet 这个神经网络中存在的一个概念，叫做下采样。

resnet 中的下采样

所谓下采样，我们可以通俗的理解为将原始输入的像素点数进行采样，采样的结果是输出的像素点数小于输入的像素点数，也就是下采样。

要实现下采样，有很多

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【PyTorch项目实战】之ResNet系列：resnet18、resnet34、resnet50、resnet101、resnet152
shinuone的博客
04-22 5429
ResNet (Residual Network) ：是一种深度卷积神经网络（CNN）架构，其核心思想是引入残差学习（Residual Learning）机制，通过跳跃连接（skip connections）来解决深层网络训练中的退化问题。
CV脱坑指南（二）：ResNet·downsample详解
小德不拿第18个大满贯就不改名的博客
07-08 9180
到这儿来～（feat.美丽的嫦娥姐姐 嗯经过了一周的实(mo)践(yu)之后，打算还是给ResNet出个续集 毕竟downsample这一块儿实在是挺费解的 其中ResNet出现的downsample，可以大致分为一下两种 1.1真正意义上让output.shape长宽变成1/2的我暂且称之为real downsample 1.2 shortcut前的x的为了适应shortcut后变化的shape而做的自适应调节 我暂且称之为 identity downsample 以下的所有案例，我们以Res
ResNet中的下采样选项详解
qq_56921730的博客
03-11 866
在ResNet（残差网络）中，下采样（Downsampling）是指在网络的不同阶段通过降低特征图的分辨率来减少计算量，同时增加特征图的通道数以捕获更高级的特征。下采样通常通过步幅（stride）大于1的卷积层或池化层来实现。ResNet中的下采样选项通常与残差块（Residual Block）的设计相关，尤其是在跳跃连接（Skip Connection）中如何处理输入和输出特征图的尺寸不匹配问题。下采样是ResNet中用于减少特征图空间尺寸和增加通道数的重要操作。在残差块中，下采样可以通过。
调用resnet50权重,将下采样层添加到Resnet50预训练模型
weixin_33939716的博客
02-05 719
I am using keras 1.1.1 in windows 7 with tensorflow backend.I am trying to prepend the stock Resnet50 pretained model with an image downsampler. Below is my code.from keras.applications.resnet50 impo...
【论文复现】ResNet
Gorgeous_wxd
11-30 2636
import torch import torch.nn as nn import numpy as np import math import torch.utils.model_zoo as model_zoo def conv3x3(in_planes, out_planes, stride=1): """3x3 convolution with padding""" # stride = 1,kernel_size = 3,padding = 1的话，shape输入输出是一样的
ResNet模型学习笔记
qq_44294745的博客
05-31 2288
从经验来看，网络的深度对模型的性能至关重要，当增加网络层数后，网络可以进行更加复杂的特征模式的提取，所以当模型更深时理论上可以取得更好的结果。但是更深的网络其性能一定会更好吗？实验发现深度网络出现了退化问题（Degradation problem）：网络深度增加时，网络准确度出现饱和，甚至出现下降。深层网络存在着梯度消失或者爆炸的问题，这使得深度学习模型很难训练。但是现在已经存在一些技术手段如BatchNorm来缓解这个问题。因此，出现深度网络的退化问题是非常令人诧异的。
ResNet学习
热门推荐
xxy_的博客
10-23 5万+
本文结构： 我的阅读笔记   1.ResNet之Building block   2.ResNet之CIFAR-10实验结构 其他资料   1.ResNet作者何凯明博士在ICML2016上的tutorial演讲   2.Bottleneck   3.diss ResNet的论文 论文翻译   ------------------------------------------...
深入浅出之Resnet网络
浩瀚之水的专栏
09-13 2万+
ResNet（Residual Network，残差网络）是一种由微软亚洲研究院提出的深度神经网络结构，其核心在于通过残差连接（residual connections）解决了深层网络训练中的梯度消失和梯度爆炸问题，使得网络可以训练得更深，性能更强。
ResNet详解
2301_78820199的博客
04-22 6094
ResNet详解！
Resnet详解
llf000000的博客
04-02 267
下采样：图像高宽变小上采样：图像高宽变大当步距为1的时候，卷积的处理是不会改变特诊矩阵的高和宽的。
resnet50_prototxt
10-03
resnet的caffe版网络定义文件
resnet-tensorflow实现
08-01
利用resnet分类cifar-10的数据，可设置resnet的层数32、56、110
练习6:ResNet练习
qq_40164157的博客
08-22 362
深度学习–ResNet练习 练习5 6 时间:2020.8.22 昂: BasicBlock: conv1 + bn1 + relu conv2 + bn2 Identity 注意维度一致 build_resblock: 第一个BasicBlock: 给一个下采样功能 其他的BasicBlock: 不进行下采样功能 ResNet: 一个根部: 第一层 resblock堆叠: 根据不同的ResNet给予不同的layer_dims进行堆叠 分类的fc: h, w 未知搞个均值拉好
史上最全采样方法详细解读与代码实现_残差网络ResNet代码解读
weixin_39984403的博客
11-21 580
残差网络效果卷积神经网络CNN的发展历史如图所示：从起初AlexNet的的8层网络，到ResNet的152层网络，层数逐步增加。当网络层数增加到一定程度之后，错误率反而上升，其原因是层数太多梯度下降变得越发困难。而ResNet解决了这一问题。目前ResNet是应用最广的图像相关深度学习网络，图像分类，目标检测，图片分割都使用该网络结构作为基础，另外，一些迁移学习也使用ResNet训练好的模型来提取...
论文笔记：再看ResNet——ResNet典型网络结构
Meringue's Blog
06-11 1万+
前言 第一次看ResNet论文的时候，由于刚接触深度学习不久，对ResNet的理解仅仅停留在论文中阐述的一些基本思想。加上当时实验室的硬件条件很有限，用的模型基本上以AlexNet和VGG为主，并没有在学习中使用过ResNet。因此忽略了论文中提出的几种典型ResNet网络。一直到工作后，才发现ResNet的几种典型结构在诸多计算机视觉任务中都充当着非常重要的角色，因此很有必要更细致地了解一下ResNet的经典网络。若是刚接触ResNet，还是建议从最论文开始看起，我自己也写过一遍对于ResNet原理的简单
Resnet代码详解
z240626191s的博客
04-16 6650
这篇文章是用来讲解Resnet(残差网络)代码的，结合代码理解残差网络结构。目录Bottleneck类Conv3×3Conv1×1 BasicBlock ResNet _make_layer代码解析完整的ResNet代码：可以直接调用torch内置的resnet官方代码。 不论是调用resnet50还是resnet101，这些模型都是调用的Resnet模型。因此我们仅需要看这个类就可以。在ResNet这个类中又由Bottleneck(瓶颈层)、3×3卷积层、1×1卷积层、BasicBlock组成。接下来
Resnet讲解
JMU-HSF
03-24 1460
分类问题-------花卉识别 了解Resnet 大体的框架 如何制作自己的数据集 花卉识别在resnet的精度 Resnet 介绍 ResNet（Residual Neural Network）由微软研究院的Kaiming He等四名华人提出，通过使用ResNet Unit成功训练出了152层的神经网络，并在ILSVRC2015比赛中取得冠军，在top5上的错误率为3.57%，同时参数量比V...
ResNet原理与代码实例讲解
AI天才研究院
05-31 506
ResNet原理与代码实例讲解 1. 背景介绍 1.1 深度神经网络的挑战 在深度学习领域,神经网络模型的深度是一个重要因素。一般来说,网络层数越深,其表达能力越强,对于复杂的任务如图像识别、语音识别等,通常需要使用更深的网络结构。然而,
RESnet18
最新发布
05-18
### ResNet18 的深度学习模型结构及其实现 #### 1. 模型概述 ResNet18 是一种由何恺明等人提出的卷积神经网络架构，属于残差网络系列的一部分。它通过引入残差连接解决了深层神经网络中的梯度消失问题，使得训练更深的网络成为可能[^1]。 #### 2. 网络结构详解 ResNet18 主要由多个 BasicBlock 构成，这些基本模块是浅层残差网络的核心组成部分。每个 BasicBlock 包含两个 3×3 卷积层以及一个用于跨阶段维度匹配的 shortcut 连接。对于较深的网络（如 ResNet50 及以上），则会采用 Bottleneck 结构来替代 BasicBlock[^2]。 以下是 ResNet18 的主要组成部分： - **输入层**：通常接受大小为 \(224 \times 224\) 或其他尺寸的图像作为输入。 - **初始卷积层**：包含一个 \(7 \times 7\) 的卷积核，步幅为 2，通道数为 64，后面跟着批量归一化 (Batch Normalization) 和 ReLU 激活函数。 - **最大池化层**：使用 \(3 \times 3\) 的窗口进行下采样，步幅为 2。 - **四个残差块组**：分别对应不同的特征图分辨率和通道数量。具体如下表所示： | 层次 | 输出形状 | 块的数量 | 特征图大小 | |------------|------------------|----------|-------------| | conv2_x | \(C=64\) | 2 | \(56\times56\) | | conv3_x | \(C=128\) | 2 | \(28\times28\) | | conv4_x | \(C=256\) | 2 | \(14\times14\) | | conv5_x | \(C=512\) | 2 | \(7\times7\) | 每组内的第一个 BasicBlock 需要调整通道数并执行下采样操作以改变空间分辨率；其余 Block 则保持相同的空间尺寸不变[^3]。 #### 3. 实现代码示例 下面是一个基于 PyTorch 的简单实现版本： ```python import torch.nn as nn class BasicBlock(nn.Module): expansion = 1 def __init__(self, in_channels, out_channels, stride=1, downsample=None): super(BasicBlock, self).__init__() self.conv1 = nn.Conv2d(in_channels, out_channels, kernel_size=3, stride=stride, padding=1, bias=False) self.bn1 = nn.BatchNorm2d(out_channels) self.relu = nn.ReLU(inplace=True) self.conv2 = nn.Conv2d(out_channels, out_channels, kernel_size=3, padding=1, bias=False) self.bn2 = nn.BatchNorm2d(out_channels) self.downsample = downsample def forward(self, x): identity = x out = self.conv1(x) out = self.bn1(out) out = self.relu(out) out = self.conv2(out) out = self.bn2(out) if self.downsample is not None: identity = self.downsample(x) out += identity out = self.relu(out) return out class ResNet18(nn.Module): def __init__(self, block, layers, num_classes=1000): super(ResNet18, self).__init__() self.inplanes = 64 self.conv1 = nn.Conv2d(3, self.inplanes, kernel_size=7, stride=2, padding=3, bias=False) self.bn1 = nn.BatchNorm2d(self.inplanes) self.relu = nn.ReLU(inplace=True) self.maxpool = nn.MaxPool2d(kernel_size=3, stride=2, padding=1) self.layer1 = self._make_layer(block, 64, layers[0]) self.layer2 = self._make_layer(block, 128, layers[1], stride=2) self.layer3 = self._make_layer(block, 256, layers[2], stride=2) self.layer4 = self._make_layer(block, 512, layers[3], stride=2) self.avgpool = nn.AdaptiveAvgPool2d((1, 1)) self.fc = nn.Linear(512 * block.expansion, num_classes) def _make_layer(self, block, planes, blocks, stride=1): downsample = None if stride != 1 or self.inplanes != planes * block.expansion: downsample = nn.Sequential( nn.Conv2d(self.inplanes, planes * block.expansion, kernel_size=1, stride=stride, bias=False), nn.BatchNorm2d(planes * block.expansion), ) layers = [] layers.append(block(self.inplanes, planes, stride, downsample)) self.inplanes = planes * block.expansion for _ in range(1, blocks): layers.append(block(self.inplanes, planes)) return nn.Sequential(*layers) def forward(self, x): x = self.conv1(x) x = self.bn1(x) x = self.relu(x) x = self.maxpool(x) x = self.layer1(x) x = self.layer2(x) x = self.layer3(x) x = self.layer4(x) x = self.avgpool(x) x = torch.flatten(x, 1) x = self.fc(x) return x ``` 调用方法可以定义如下： ```python def resnet18(): return ResNet18(BasicBlock, [2, 2, 2, 2]) # 定义各层次block数目 ``` #### 4. 性能特点 相比传统 CNNs，在相同的计算资源条件下，ResNet 能够显著提升分类精度。这是因为其独特的跳跃连接机制缓解了退化现象的发生概率，从而允许构建更加复杂的深层次架构而不会损害性能表现[^3]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

董董灿是个攻城狮

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值