Deconvolution、upsampling和unpooling详解

最新推荐文章于 2024-10-31 15:34:48 发布
最新推荐文章于 2024-10-31 15:34:48 发布
阅读量813 收藏 3
点赞数 1
分类专栏： 深度学习 文章标签： Deconvolution unpooling unsampling
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/stu_shanghui/article/details/91493591
版权
本文探讨了Deconvolution（逆卷积）在尺寸还原中的应用及其与value还原的区别，同时对比了UnPooling和UnSampling在特征图尺寸放大过程中的不同策略。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Deconvolution更注重的是如何将尺寸还原回来，而不注重value还原

已知输入为X，卷积核为C，求输出特征Y，则卷积过程为Y=C∗X，如果已知Y和C,求输入X，

X=C^{-1}*Y,就是deconvolution过程.。

实际计算中并不是求C的逆矩阵，而是求C^{T}，所以X=C^{T}*Y ，求逆矩阵可以还原尺寸和value,但是如果再还原出相同的value的话，我们何必费怎么大的力气，经过怎么多计算而又得到了与前几层完全相同的特征图，直接使用输入特征不就可以了嘛。

例如:

X = \begin{bmatrix} x\\y \end{bmatrix} C=\begin{bmatrix} 1&2 \\ 3&4 \\ 5&6 \end{bmatrix} Y=C*X=\begin{bmatrix} x+2y\\ 3x+4y\\ 5x+6y\\ \end{bmatrix}

C^{^{T}}=\begin{bmatrix} 1 &3 &5 \\ 2&4 &6 \end{bmatrix} X=C^{T}*Y=\begin{bmatrix} 35x+45y\\ 44x+56y \end{bmatrix}

上式也可以说明deconvolution只能还原尺寸，不一定能还原value

下面的公式是对C的一个说明

 

总结：

逆卷积就是正向（正向传播）输入左乘C^{T}，反向（反向传播）左乘(C^{T})^{T}

卷积是正向输入左乘C，反向左乘C^{T}

 

UnPooling和Unsampling

图a是unpooling,它填充0值，图b是unsampling,它是填充相同的值

 

上采样（upsampling）和下采样（subsampled）
南淮北安的博客
10-21 2万+
文章目录一、上采样二、下采样 一、上采样 放大图像（或称为上采样（upsampling）或图像插值（interpolating））的主要目的是放大原图像,从而可以显示在更高分辨率的显示设备上。 上采样的原理： 图像放大几乎都是采用内插值方法，即在原有图像像素的基础上在像素点之间采用合适的插值算法插入新的元素。 二、下采样 缩小图像（或称为下采样（subsampled）或降采样（downsample...
M2Det算法详解
stu_shanghui的博客
06-22 4053
主要贡献：提出MLFPN结构， backbone采用了VGG-16 为解决目标实例的尺度变化问题，主流做法有以下两种： 在测试阶段使用图像金字塔（如cascade RCNN），就是将原始图像缩放成一系列的图形，就像金字塔一样（数据量增大很多，计算开销很大） 从输入图像中提取出的特征金字塔上进行检测，这种方式在训练和测试阶段都可以使用 总结：使用多尺度的图像来提高识别...
DL-Deconvolution与Upsample
FrankDura的博客
12-10 397
Deconvolution Deconvolution又叫做transposed convolution。其实就是卷积操作的逆过程。比如卷积操作使用2 x 2的滤波器对这个patch进行处理，那么这个patch经过卷积以后就变成了1 x 1像素块。Deconvolution就是将整个过程倒过来。 容易想象这样拓展后的区域容易出现棋盘效益。就是一块一块不够自然地效果。因此人们会在配合Upsample...
上池化（UnPooling）
正在挣扎中的人
11-21 1355
1. 什么是上池化？ 上池化是一种上采样的方法。 上池化是在CNN中常用的来表示max pooling的逆操作。最早来源于2013年纽约大学Matthew D. Zeiler和Rob Fergus发表的《Visualizing and Understanding Convolutional Networks》。 鉴于max pooling不可逆，因此使用近似的方式来反转得到max pooling操作之前的原始情况。 简单来说，记住做max pooling的时候的最大item的位置，比如一个3x3的矩阵，ma
unsampling matlab代码,上采样(UnSampling)、反卷积(Deconvolution)与上池化(UnPooling)
weixin_42514783的博客
03-24 645
反卷积(Deconvolution)、上采样(UnSampling)与上池化(UnPooling)的对比图示如下(图片出处见水印)：对比图上采样(UnSampling)FCN、U-net等网络结构中都有使用上采样。上采样是指使图像分辨率变高的方法。最简单的方式是重采样和插值：将输入图片进行rescale到一个想要的尺寸，并计算每个点的像素值，使用如双线性插值等插值方法对其余点进行插值来完成上采样过...
upsampling
qq_38897423的博客
12-02 280
cs231n 分割一课中 unsampling的几种方法
上采样和PixelShuffle（转）
急流勇进
12-09 2478
上采样和PixelShuffle（转） 有些地方还没看懂， mark一下 文章来源： https://blog.csdn.net/g11d111/article/details/82855946 去年曾经使用过FCN（全卷积神经网络）及其派生Unet，再加上在爱奇艺的时候做过一些超分辨率重建的内容，其中用到了毕业于帝国理工的华人博士Shi ...
图像的上采样
ahxieqi的博客
03-08 3688
2019 March 08 upsampling 图像的上采样 一、上采样原理 图像放大几乎都是采用内插值方法，即在原有图像像素的基础上在像素点之间采用合适的插值算法插入新的元素。 二、上采样的方法 2.1 插值法 - Interpolation 最简单的方式是重采样和插值：将输入图片 input image 进行 rescale 到一个想要的尺寸，而且计算每个点的像素点，使用如双线性插值 ...
【可视化CNN】《Visualizing and Understanding Convolutional Networks》深入解析
Gerwels_JI的博客
12-04 1783
0 为什么选择这篇Paper？ 2014年ECCV上的一篇经典文献：《Visualizing and Understanding Convolutional Networks》，可以说是可视化理解CNN领域的开山之作。 让炼丹师在调参或改动网络结构并提高最终的目标精度的时候，明白自己设计的CNN网络的每一层到底学习到了什么特征。 自2014年发表至今有2000多的引用量，学习这篇文章，可以很好的...
常见上采样（UpSampling）总结
wslkd0123的博客
08-09 3969
上采样，即对图像或特征图进行扩充放大，生成我们所需要的尺寸，常用于特征融合。 常用的上采样算法： 1，最邻近元法 最简单的一种上采样方法，不需要计算，在待求象素的四邻象素中，将距离待求象素最近的邻象素灰度赋给待求象素。 优点是不需要计算开销小，但锯齿状明显。 2，双线性内插法 双线性内插法是利用待求象素四个邻象素的灰度在两个方向上作线性内插 对于 (i, j+v)，f(i, j)...
机器学习笔记： Upsampling, FCN, DeconvNet，U-Net, U-net variant
qq_40206371的博客
10-17 1545
前言 在CNN-based 的 模型中，我们可能会用到downsampling 操作来减少模型参数，以及扩大感受野的效果。 下图是一个graph segmentation的例子，就先使用 downsampling来减少每个image的size，再使用upsampling来将size还原回最初大小 1 Upsampling downsampling 即 池化操作，在机器学习笔记：CNN卷积神经网络_UQI-LIUWJ的博客-优快云博客里面已经提到过了，这里就不说............
一句话理解tf.keras.layers.UpSampling2D
weixin_42670810的博客
08-28 7742
UpSampling2D UpSampling2D就是对图片数据在高与宽的方向进行数据插值倍增 参数说明 tf.keras.layers.UpSampling2D( size=(2, 2), data_format=None, interpolation='nearest', **kwargs ) 参数： size: int或者tuple,行与列的采样数，一个int表示两个值都相同。 data_format: 数据格式。str, 默认"channels_last",还有"channels
upsampling(上采样)的三种方式
weixin_41012399的博客
07-01 1万+
线性插值：双线性插值是目前在语义分割中用的比较多的一种方式，比如FCN中就是用的这种方法。 反卷积(deconvolution)，由于实现上采用转置卷积核的方法，所以有人说应该叫转置卷积TD(transposed convolution)。这个比较复杂，先举例下采样的卷积过程，输入44卷积，核为33，步长为1，输出大小就变成了22。计算机处理的过程是先把44的图片拉成列向量161，把33的卷积核...
数据上采样和下采样（上）
weixin_43027035的博客
10-31 2186
通过mse的评价指标，我们可以看出来这两种方法进行下采样的误差基本上一致，但是从一个图形中的对比，他们的差异明显挺大，那是为什么呢，这就的考虑到时间对齐问题了，由于我们的采样对应着时间点，如果不对齐那就会产生不好的效果，只对比了前面五十万的数据，与我们的本意就相差甚远，所以这里我们还要考虑到时间对齐的问题，接下来对代码进行改编。下采样是指减少数据点的数量。插值下采样和低通滤波看上去效果似乎差不多，但是在结束位置，貌似使用插值下采样的效果更好，但是这还不够明显，接下来将他们画到一张图形中进行对比。
什么是上采样和下采样
qq_44815135的博客
02-27 6703
在卷积神经网络（Convolutional Neural Network，CNN）中，下采样和上采样是指特征图的空间尺寸变化操作。
UpSampling上采样相关技术
IT菜鸟
10-17 4316
UpSampling上采样相关技术
上采样之双线性插值法
热门推荐
zhanly19的博客
08-19 3万+
上采样之双线性插值法上采样的定义上采样的类型：一、双线性插值：二、转置卷积 ：三、上采样（unsampling）四、上池化（unpooling） 上采样的定义 **上采样实际上是一个统称 **。在下采样的过程中，我们把一张图片的特征提取出来，实际上是把图片的关键部分提取出来的，图片的分辨率就降低了，实际上图片缩小了；在上采样过程中，要恢复图片的大小，提高图片的分辨率，就要用到一些方法，任何可以让图...
上采样(upsampling)方法总结
zeronose的博客
03-19 2万+
总结一下上采样，主要来源于论文《Deep Learning for Image Super-resolution:A Survey》 上采样层位置 上采样方法 2.1预定义插值式 最近邻插值、双线性插值、双三次插值，效果和计算量逐个上升；虽然插值式上采样已没人用，但是下采样过程（数据准备从HRGT到LR）最常用的还是双三次。 基于插值的上采样方法只能通过图像的本身内容提高图像的分辨率，并没有带来更多信息，相反还有噪声放大、计算复杂度增加、结果模糊等副作用。 2.2 反卷积 由于反卷积是个端到端的操作而
FCN学习笔记
Bungehurst
03-14 435
FCN学习笔记 FCN（Fully Convolutional Networks for Semantic Segmentation） Semantic Segmentation 语义分割问题，简而言之，就是在一幅图像中划分不同物体，将属于同一物体的像素用一个标签进行标注。比如说这样： 在深度学习应用到计算机视觉领域之前，研究人员一般使用纹理基元森林(TextonForest)或是...
deconvolution
最新发布
01-19
反卷积操作，也被称为转置卷积，在计算机视觉和深度学习领域用于上采样过程。不同于标准卷积层减少输入尺寸并提取特征的能力，反卷积旨在增加空间维度的同时恢复细节[^1]。 具体来说，反卷积通过学习一组滤波器来...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值