空洞卷积学习笔记

原创 已于 2022-11-08 16:27:48 修改 · 744 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#空洞卷积 #膨胀卷积

于 2022-11-08 15:48:03 首次发布

空洞卷积


推荐视频讲解:https://www.bilibili.com/video/BV1Bf4y1g7j8/?spm_id_from=333.999.0.0

什么是空洞卷积

空洞卷积也叫扩张卷积或者膨胀卷积，简单来说就是在卷积核元素之间加入一些空格(零)来扩大卷积核的过程。（在增加感受野的同时保持特征图的尺寸不变(要加padding)）

空洞卷积的简单原理。下图是常规卷积和空洞卷积的动图对比：
普通卷积:
在这里插入图片描述
空洞卷积:
在这里插入图片描述
通过对比感觉普通卷积就是空洞卷积的一种特殊情况，扩张率为1的一种情况。

为什么用空洞卷积

卷积的问题

空洞卷积的好处

  1. 扩大感受野：在deep net中为了增加感受野且降低计算量，总要进行降采样(pooling或stride 为 2 )，这样虽然可以增加感受野，但空间分辨率降低了。为了能不丢失分辨率，且仍然扩大感受野，可以使用空洞卷积。这在检测，分割任务中十分有用。一方面感受野大了可以检测分割大目标，另一方面分辨率高了可以精确定位目标。
    在这里插入图片描述

  • a是普通的卷积过程(di

最低0.47元/天 解锁文章
Dilated Convolution —— 空洞卷积（膨胀卷积）
birdguan
03-02 4万+
目录 Dilated Convolution概述 Dilated Convolution存在的问题 HDC (Hybrid Dilated Vonvolution) Dilated Convolution概述 Dilated Convolution是在标准卷积的Convolution map的基础上注入空洞，以此来增加感受野（reception field）。因此，Dilated ...
深度学习笔记---什么是空洞卷积
YOULANSHENGMENG的博客
11-08 4460
1，标准卷积 使用卷积核大小为3*3、填充为1，步长为2的卷积操作对输入为5*5的特征图进行卷积生成3*3的特征图，如图1所示。 图1 普通卷积 2. 空洞卷积 使用卷积核大小为3*3、空洞率（dilated rate）为2、卷积步长为1的空洞卷积操作对输入为7*7的特征图进行卷积生成3*3的特征图，如图2所示。 ...
深度学习之空洞卷积
03-09
深度学习之空洞卷积原始出处论文，介绍了空洞卷积实现方法以及实现意义。
『算法学习』空洞卷积
weixin_33877092的博客
09-21 2088
一、空洞卷积的提出 空洞卷积（atrous convolutions）又名扩张卷积（dilated convolutions），向卷积层引入了一个称为 “扩张率(dilation rate)”的新参数，该参数定义了卷积核处理数据时各值的间距。 该结构的目的是在不用pooling（pooling层会导致信息损失）且计算量相当的情况下，提供更大的感受野。 顺便一提，卷积结构的主要问题如下： ...
池化和空洞卷积_CNN模型合集 | 14 Dilated Convolutions（空洞卷积）
weixin_33838871的博客
01-16 1216
2017年Panqu Wang发表，空洞卷积用于语义分割，提出了HDC和DUC设计原则，取得了图像分割的好效果，Understanding Convolution for Semantic Segmentation，官方代码（MXNet）设计思想：空洞卷积（扩张卷积）：尽量保留内部数据结构和避免下采样，就是增大感受野的情况下保留更多信息，代替pooling卷积前的下采样可以增大卷积核的感受...
总结-空洞卷积(Dilated/Atrous Convolution)、gridding问题以及解决方案、训练技巧BN和PReLU、CReLU
m0_37644085的博客
04-23 1万+
这里有个可视化、直观的图：https://github.com/vdumoulin/conv_arithmetic https://zhuanlan.zhihu.com/p/50369448 https://www.zhihu.com/question/54149221/answer/192025860 https://www.zhihu.com/question/54149221/answ...
深度学习笔记（一）：卷积变种（分组卷积、空洞卷积、深度可分离卷积、可形变卷积） 卷积中的不一样的操作
最新发布
生活需要深度
07-19 1256
AlexNet中用到了一些非常大的卷积核，比如11×11、5×5卷积核，之前人们的观念是，卷积核越大，receptive field（感受野）越大，看到的图片信息越多，因此获得的特征越好。图来自微软亚洲研究院公众号要做到这个操作，可以直接在原来的过滤器前面再加一层过滤器，这层过滤器学习的是下一层卷积核的位置偏移量（offset），这样只是增加了一层过滤器，或者直接把原网络中的某一层过滤器当成学习offset的过滤器，这样实际增加的计算量是相当少的，但能实现可变形卷积核，识别特征的效果更好。
空洞卷积详解
tt丫的博客
02-23 2万+
入门小菜鸟，希望像做笔记记录自己学的东西，也希望能帮助到同样入门的人，更希望大佬们帮忙纠错啦~侵权立删。 一、感受野（知道的可以直接跳） 感受野指：卷积神经网络每一层输出的特征图上的像素点在输入图片上映射的区域大小，即FC层每个输出节点的值都依赖FC层所有输入，而CONV层每个输出节点的值仅依赖CONV层输入的一个区域，这个区域之外的其他输入值都不会影响输出值，该区域就是感受野。简单来说就是特征图上的一个点对应输入图上的区域。 举个栗子：一个5*5的特征图经过2个3*3卷积核后（步长为1，padd
关于深度可分离卷积、空洞卷积、分组卷积的理解笔记
qq_53639093的博客
03-25 2674
深度可分离卷积(Depthwise separable convolution) 深度可分离卷积由逐通道卷积(Depthwise Convolution)和逐点卷积(Pointwise Convolution)两个过程组成 对于多通道输入得到多通道输出的过程，深度可分离卷积相比于常规卷积，具有更少的参数数量和更低的运算成本；不仅如此，深度可分离卷积将以往普通卷积操作同时考虑通道和区域改变，卷积先只考虑区域，然后再考虑通道。实现了通道和区域间的分离 逐通道卷积(Depthwise Convolution) 第
[卷积]空洞卷积的改进
急流勇进
12-26 3407
[卷积]空洞卷积的改进 文章来源： https://zhuanlan.zhihu.com/p/50369448 从这几年的分割结果来看，基于空洞卷积的分割方法效果要好一些，为此，拿出两天时间来重新思考下空洞卷积问题。- . -语义分割创新该怎么做呢。引言空洞卷积(Dilated/Atrous Convolution)，广泛应用于语义分割与目标检测等...
语义分割--Understand Convolution for Semantic Segmentation
DFan的NoteBook
03-06 2万+
Understanding Convolution for Semantic Segmentation Understanding Convolution for Semantic Segmentation 收录：IEEE Winter Conference on Applications of Computer Vision (WACV 2018) 原文地址：HDC 代码: 官方-M...
听六小桨讲AI | 第6期：卷积的变体之空洞卷积
PaddlePaddle
06-08 999
点击左上方蓝字关注我们本栏目由百度飞桨工程师联手精心打造，对深度学习的知识点进行由浅入深的剖析和讲解。大家可视它为深度学习百科（面试秘籍也是可以哒），当然也可收藏为深度学习查询手册~上期为...
深度学习面经总结
frighting_ing的博客
03-09 1784
1. BN层的作用 （1）BN使得网络中每层输入数据的分布相对稳定，加速模型学习速度 （2）BN使得模型对网络中的参数不那么敏感，简化调参过程，使得网络学习更加稳定 （3）BN允许网络使用饱和性激活函数（例如sigmoid，tanh等），缓解梯度消失问题 （4）BN具有一定的正则化效果 详细内容学习 2. 空洞卷积 空洞卷积（dilated convolution）是针对图像语义分割问题中下采样会降低图像分辨率、丢失信息而提出的一种卷积思路。利用添加空洞扩大感受野，让原本 3×33\times 33×3的卷
ASPP - 空洞空间金字塔池化
晓野豬
01-18 2万+
文章目录1 空洞卷积1.1 空洞卷积的理解1.1.1 一维1.1.2 二维1.2 空洞卷积的优劣2. ASPP3. 代码 1 空洞卷积 1.1 空洞卷积的理解 1.1.1 一维 (a) 正常卷积：输入特征 Input feature，kernel = 3，stride = 1，pad = 1，输出特征 Output feature。 (b) 空洞卷积：与图 (a) 不同之处在于 pad = 2，同时引入一个 rate = 2（表示卷积核中参数间间隔的超参）。   还可通过下图进一步理解普通卷积与空洞卷
关于dilated convolution(空洞卷积)感受野的计算
编程之路
11-01 2万+
关于感受野的定义请参考：https://www.jianshu.com/p/2b968e7a1715 定义：感受野用来表示网络内部的不同神经元对原图像的感受范围的大小，或者说，convNets(cnn)每一层输出的特征图(feature map)上的像素点在原始图像上映射的区域大小。   计算公式:       从前往后： F后 = （F前 - 1） + k    (F代表感受野的大小，...
语义分割｜学习记录（4）膨胀卷积（空洞卷积 ）
weixin_45042017的博客
02-10 6658
膨胀卷积（空洞卷积）讲解
空洞卷积（扩张卷积，带孔卷积，atrous convolution）的一些总结与理解
lipengfei0427的博客
10-08 7382
空洞卷积（扩张卷积，带孔卷积，atrous convolution）是一种区别于普通卷积的卷积方式，从字面理解，就是卷积层中有洞。 1.一维理解 以一维为例： 图中(a)Input feature表示输入特征，Output feature表示输出特征，这是一个正常的kernel = 3; stride = 1; pad = 1的卷积操作。 图中(b)下面为Input feature，上面为Output feature，与图(a)不同的是pad = 2，同时引入了一个rate = 2，这个rate
如何理解空洞卷积（dilated convolution）
热门推荐
suixinsuiyuan33的博客
03-05 5万+
论文：Multi-scale context aggregation with dilated convolutions简单讨论下dilated conv，中文可以叫做空洞卷积或者扩张卷积。首先介绍一下dilated conv诞生背景[4]，再解释dilated conv操作本身，以及应用。首先是诞生背景，在图像分割领域，图像输入到CNN（典型的网络比如FCN[3]）中，FCN先像传统的CNN那样...
空洞卷积（扩张卷积dilated convolution）
橘露源的博客
11-15 3973
为什么用空洞卷积？ 普通的Deep CNN中普遍包含Up-sampling / pooling layer，导致 内部数据结构丢失；空间层级化信息丢失。 小物体信息无法重建 (假设有四个pooling layer 则任何小于 2^4 = 16 pixel 的物体信息在理论上将无法重建和分割。) 普通卷积过程如下： 在这样显著缺陷问题的存在下，语义分割问题一直处在瓶颈期无法再明显提高精度，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值