转置卷积（反卷积）、微步卷积、空洞卷积

最新推荐文章于 2024-03-28 13:15:05 发布
最新推荐文章于 2024-03-28 13:15:05 发布
阅读量3.2k 收藏 4
点赞数 1
CC 4.0 BY-SA版权
文章标签： 深度学习 cnn 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/yihool_/article/details/123035075
本文详细介绍了深度学习中三种重要的卷积操作：转置卷积用于图像上采样，微步卷积是特殊情况，适用于快速增大输出尺寸；空洞卷积则通过增加感受野来提升特征提取能力，避免参数过多和信息丢失。理解这些概念对于优化卷积神经网络模型至关重要。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1.转置卷积：

转置卷积为卷积的逆操作，即通过转置卷积后实现图像的上采样

Z = W·X

X = W.T·Z

4*4的图片经过kernal_size=3，stride=1,padding=0的卷积操作得到2*2的特征

2*2的特征想要经过kernal_size=3的反卷积得到4*4的图片需要(kernal_size-1)的padding后进行卷积操作

2.微步卷积

微步卷积是转置卷积的特殊情况，即stride>1的卷积操作后，其转置卷积的trans_stride=1/stride

如图5*5的图片经过kernal_size=3,stride=2，padding=0的卷积操作后得到的1特征为2*2

反卷积时，特征值间插值(stride-1)，做（kernal_size-1）padding，得到7*7图像，然后通过kernal_size=3,stride=1进行卷积得到5*5特征

3. 空洞卷积

3.1 意义：增加输出特征的感受野

3.2 感受野：卷积神经网络每一层输出的特征图（feature map）上的像素点在输入图片上映射的区域大小。再通俗点的解释是，特征图上的一个点对应输入图上的区域

3.3 可以增加感受野的方式：

 3.3.1增加卷积核大小：对于每个特征像素输出卷的像素多

3.3.2增加层数：卷的次数多，对应最后特征像素映射的图片像素也多

3.3.3增加pooling层：压缩像素，相当于感受野增大

方法1和方法2会增加参数信息，即需要学习的参数增多，方法三会丢失信息

3.4 空洞卷积 

如果卷积核每两个元素之间插入d-1个空洞，那么卷积核的有效大小为：M = m + (m-1)*(d-1)

Alrick Meng
关注
小知识点系列(五) 本文(5万字) | 解读深度学习中的八种卷积 | pytorch中Conv1d、Conv2d，Conv3d | 空洞卷积 | 转置卷积 | 深度可分离卷积 |
专注于人工智能学习，总结
12-28 1272
卷积（convolution），是一种运算，你可以类比于加，减，乘，除，矩阵的点乘与叉乘等等，它有自己的运算规则，卷积的符号是星号。表达式为：连续卷积表达式：离散卷积表达式为：从参数上来看，x + (n-x) = n，可以类比为x + y = n，也就是说f, g的参数满足规律y = -x + n，即g的参数是f的参数先翻转再平移n。把g从右边褶到左边去，也就是卷积的卷的由来。然后在这个位置对两个函数的对应点相乘，然后相加，这个过程是卷积的积的过程。因此卷积的过程可以理解为：翻转，滑动，叠加。
转置卷积（Transposed Convolution）
weixin_45622568的博客
08-08 167
在上例中，输入矩阵右上角 3×3 范围的值 (黄色 2 3 4) 会影响 输出矩阵右上角的值 (黄色 27)，这其实也对应了标准卷积中感受野的概念。对于上例，我们想要建立的其实是输出矩阵中的 1 个值与输入矩阵中的 9 个值的关系。：输入就是一张图片（二维的像素阵列），那么输出就是判断图片是什么（无论图片是否经过平移还是经过卷积，输出的都是输入的类别，因此CNN的鲁棒性和抗干扰性是非常强的）假设，输入是一个 4×4 矩阵，使用 3×3 的标准卷积进行计算，同时令 padding=0，stride=1。
两种特殊卷积：转置卷积和空洞卷积
weixin_45564943的博客
12-11 5052
目录 1.转置卷积 2.空洞卷积 3.总结 1.转置卷积 简介： 我们一般可以通过卷积操作来实现高维特征到低维特征的转换。比如在一 维卷积中，一个5维的输入特征，经过一个大小为3的卷积核，其输出为3维特征。 如果设置步长大于1，可以进一步降低输出特征的维数。但在一些任务中，我们需 要将低维特征映射到高维特征，并且依然希望通过卷积操作来实现。 假设有一个高维向量为和一个低维向量为 如果用仿 射变换来实现高维到低维的映射， 其中为转换矩阵。我们可以很容易地通过转置 W来实现低维到高...
转置卷积
ycc_csdn的博客
12-13 262
关于GAN里面的转置卷积 最近在看有关生成对抗网络的内容，在生成器里面涉及到了编码器和解码器，里面就用到了deconv2d转置卷积,有关反卷积的输出特征图的尺寸计算如下： 如果输入feature map 大小为NN,卷积核为kk,卷积步长为s=1,那么因为转置卷积在四周每个边缘补0且数量为s-1，内部补0为ns,所以共补0：sn+s-1,得到输出的特征图的大小为：(sn+s-1-k+1)/1=sn...
关于转置卷积
qq_43780332的博客
03-15 674
转置卷积 首先：转置卷积不是卷积的逆运算，转置卷积也是卷积操作，不同的是进行转置卷积后图像尺寸变大而不是变小 转置卷积主要用于将图像还原回原本的尺寸 如何能做到卷积后图像反而变大？ 主要通过填充空白像素块来增大被卷积图像的尺寸，在尺寸增大后的新图像上做卷积操作，可以得到比被卷积图像更大的特征图。如图： 空白像素填充方式 由变量s，p，k控制 在输入特征图元素间填充s-1行、列 在输入特征图四周填充k-p-1行、列 例如： 转置卷积运算步骤 填充空白像素 将下采样所用卷积核上下、左右翻转
卷积与转置卷积
susansmile1014的博客
08-29 3247
当正向卷积步长不为1时（常常可能为2），转置卷积步长为： 转置卷积填充由正向卷积的卷积核和填充决定：   转置卷积的核和正向卷积一样：转置卷积的输出公式：         转置卷积又称微步卷积(“微步”的含义指：新的步长为1，而之前的步长为2，使得转置卷积的滑窗处理相比较卷积的“小”。)，可以视作传统卷积操作的一种“逆向”传递过程；并且，转置卷积受“正向”卷积的参数约束,即步长stride和零填充...
卷积、反卷积、转置卷积和微步幅卷积
qq_34535410的博客
11-16 6877
卷积 首先定义本文要用到的符号 输入图片的大小: i1=i2=ii_1=i_2=i。 卷积核的大小: k1=k2=kk_1=k_2=k。 卷积步长:s1=s2=ss_1=s_2=s。 填充padding=ppadding=p。 下图表示参数为(i=5,k=3,s=2,p=1)(i=5,k=3,s=2,p=1)的卷积计算过程，可以看出输出的图片大小是(3∗3)(3 * 3)。 下图是参数为(i
两种特殊卷积：转置卷积和空洞卷积，从JDK源码学习Hashmap
最新发布
ccc6553584的博客
03-28 800
文章中涉及到的知识点我都已经整理成了资料，录制了视频供大家下载学习，诚意满满，希望可以帮助在这个行业发展的朋友，在论坛博客等地方少花些时间找资料，把有限的时间，真正花在学习上，所以我把这些资料，分享出来。相信对于已经工作和遇到技术瓶颈的朋友们，在这份资料中一定都有你需要的内容。，录制了视频供大家下载学习，诚意满满，希望可以帮助在这个行业发展的朋友，在论坛博客等地方少花些时间找资料，把有限的时间，真正花在学习上，所以我把这些资料，分享出来。
反卷积层（转置卷积）
热门推荐
卖火柴的小男孩
08-26 1万+
反卷积（deconvolution）不是数字信号处理里面的意义，在深度学习里面应该叫做转置卷积（transposed convolution）又名微步卷积（fractionally strided convolutions），也有叫Backward strided convolution ，upconvoution, upsample convolution。主要从以下几个方面理解： 从概念上理
深度学习中的各种卷积总结
PRIS-SCMonkey的博客
07-26 4265
深度学习中的各种卷积总结 在深度学习中，卷积是一个非常重要的概念，卷积也是卷积神经网络拥有良好的图像处理能力的关键。这篇文章将介绍一下不同类型的卷积，为了简单起见，本文只关注于二维的卷积。
转置卷积（Convolution Transposed又叫反卷积、解卷积）
caip12999203000的博客
09-01 1451
转置卷积、反卷积、解卷积原理分享
理解转置卷积与空洞卷积
咔咔响
08-28 1262
前两篇我们对卷积层的原理和实现做了一些介绍。这一节我们来深入了解两个常用的卷积——转置卷积和空洞卷积。传送门：卷积核的基本概况转置卷积利用神经网络去生成图片，通察情况下是从低像素、粗糙的图...
[深度学习]转置卷积(Transposed Convolution)
北望花村
10-16 8020
一.写在前面 在GAN（Generative Adversarial Nets， 直译为生成式对抗网络）中，生成器G利用随机噪声Z，生成数据。那么，在DCGAN中，这部分是如何实现呢？这里就利用到了Transposed Convolution（直译为转置卷积），也称为Fractional Strided Convolution。那么，接下来，从初学者的角度，用最简单的方式介绍什么是转置卷积，以及...
【转置卷积Transposed Convolution】
weixin_41658139的博客
08-03 1221
转置卷积Transposed Convolution，也叫做Fractionally Strided Convolutions或Deconvolutions。Deconvolutions实际上是数学上Convolutions的逆运算，和转置卷积还是不一样的。转置卷积是可以转换为直接的卷积来运算的。...........................
转置卷积(transposed-convolution)
m0_56312629的博客
03-21 6972
本文介绍了转置卷积，介绍了转置卷积的背景、对反卷积的误解以及转置卷积的计算，最后用代码实现了转置卷积，并比较了常规卷积与转置卷积在padding、stride和通道参数的不同1.
微步卷积 pytorch
03-25
微步卷积是一种新型卷积算法，采用了微观核心对卷积算法进行优化，能够提高图像识别等任务的准确性。在PyTorch中，可以通过使用nn.Conv2d函数来实现微步卷积。以下是一个简单的例子： ``` import torch import torch.nn as nn class MicroConv2d(nn.Module): def __init__(self, in_channels, out_channels, kernel_size, stride=1, padding=0, groups=1, bias=True): super().__init__() self.kernel_size = kernel_size self.stride = stride self.padding = padding self.groups = groups self.conv = nn.Conv2d(in_channels, out_channels, kernel_size=self.kernel_size, stride=self.stride, padding=self.padding, groups=self.groups, bias=bias) def forward(self, x): x = nn.functional.unfold(x, kernel_size=self.kernel_size, stride=self.stride, padding=self.padding) batch_size, _, L = x.shape w = torch.randn(self.groups, L, self.conv.out_channels // self.groups, device=x.device) w = torch.softmax(w, dim=1) x = x.permute(0, 2, 1) x = x.view(batch_size * L, self.groups, 1) w = w.view(self.groups, 1, self.conv.out_channels // self.groups) out = torch.matmul(x, w) out = out.view(batch_size, L, self.conv.out_channels).contiguous() return out ``` 在这个例子中，MicroConv2d继承了nn.Module，并实现了__init__和forward两个函数。在__init__函数中，我们定义了卷积核大小（kernel_size）、步长（stride）、填充（padding）、卷积组数（groups）和是否使用偏置（bias）等参数，同时使用nn.Conv2d函数来定义实际的卷积层。在forward函数中，我们首先使用functional.unfold函数将输入张量变成一个二维矩阵，然后使用随机权重w对输入进行卷积操作，最后将结果reshape成卷积层的输出形状。在卷积操作中，我们使用了softmax函数对随机生成的权重进行了归一化处理，以提高模型的稳定性。 使用该类进行微步卷积操作的示例代码如下： ``` import torch import torch.nn as nn x = torch.randn(1, 3, 32, 32) conv = MicroConv2d(3, 64, kernel_size=3, stride=1, padding=1, groups=8) out = conv(x) ``` 在这个例子中，我们随机生成了一张3通道、32x32大小的图片作为输入，然后使用MicroConv2d函数定义了一个微步卷积层，并输入我们生成的图片进行卷积操作。最终，out张量的形状为1x64x32x32，表示输出了64个通道，每个通道的大小为32x32。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值