普通卷积，Depthwise卷积，分组卷积的对比

最新推荐文章于 2025-05-07 10:48:42 发布
最新推荐文章于 2025-05-07 10:48:42 发布
阅读量1.2k 收藏 8
点赞数
分类专栏： 人工智能 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sinat_33486980/article/details/103106428
版权

1、普通卷积

如上图所示

输入：H*W*c1,

卷积核：c1*k*k*c2（卷积核维度为c1*k*k，共有c2个）

输出：H'*W'*c2

参数量：c1*k*k*c2  （不考虑bias）

运算量：c1*k*k*c2*H'*W'

2、分组卷积（假设group=2）

输入：H*W*c1

卷积核：c1*k*k*c2（卷积核维度为c1*k*k，共有c2/2个）

输出：H'*W'*c2

参数量：c1*k*k*c2/2  （不考虑bias）

运算量：c1/2*k*k*c2/2*H'*W'+c1/2*k*k*c2/2*H'*W'=(c1*k*k*c2*H'*W')/2， 也就是普通卷积的1/2

3、深度可分离卷积（Depthwise卷积+Pointwise卷积）

输入：H*W*c1

卷积核：c1*k*k（group=c1,每一组1个），c1*k*k*c2

输出：H'*W'*c2

参数量：c1*k*k+c1*k*k*c2（不考虑bias）

运算量：c1*k*k*H'*W'+c1*k*k*c2*H'*W'

从理论到实践谈谈分组卷积（Group Convolution）与深度卷积（Depthwise Convolution）之间的联系
NorthSmile的博客
09-07 1620
深度卷积可以说是分组卷积的一种特殊情况：对于大小为（N,C_in,H_in,W_in）的输入，当分组卷积中groups=C_in，而输出为（N,C_out,H_out,W_out）=（N,K×C_in,H_out,W_out）时，分组卷积即为深度卷积（其中的K为一个正整数），其实在深度可分离卷积中使用的深度卷积就是K=1的特殊情况。
最全卷积总结篇（分组、深度可分离、空洞、转置等）
qq_44815135的博客
11-26 3061
分组卷积（Group Convolution）是一种卷积操作方式，它最早在AlexNet中引入，并在深度学习中被广泛使用，尤其是在高效模型设计（如MobileNet和ResNeXt）中。分组卷积通过将输入特征通道分为若干组，并在每组内单独进行卷积操作，可以减少计算复杂度和参数量，同时有效利用模型的结构特性。分组卷积的工作原理通道分组：输入特征图的通道图为C_in,输出特征图的通道数为C_out,将每组的C_in和C_out分为G组，每组的通道数为C_in/G和C_out/G。组内卷积。
深度可分离卷积(Depthwise Separable Convolution)和分组卷积(Group Convolution)的理解，相互关系及PyTorch实现
weixin_30793735的博客
03-30 2万+
深度可分离卷积(Depthwise Separable Convolution)和分组卷积(Group Convolution)的理解，相互关系及PyTorch实现 1. 分组卷积(Group Convolution) 分组卷积最早出现在AlexNet中，如下图所示。在CNN发展初期，GPU资源不足以满足训练任务的要求，因此，Hinton采用了多GPU训练的策略，每个GPU完成一部分卷积，最后把多...
对数group卷积，一种比普通group卷积更实用的卷积
qq_43534932的博客
03-08 405
前言 目前在很多移动端的设备当中，对深度模型的要求是低功耗与低内存，低功耗意味着计算量小，低内存意味着参数量少，以一个[H,W,C]图片经过[C,k,k,Cout]为例： 计算量为HWCkkCout（不算bais） 参数量：CkkCout 可以看出计算量以及参数量受多方面的限制 而目前解决这种问题的两个主流发方法： （1）深度分离卷积（MobileNet） （2）Group卷积（AlexNet，R...
深度可分离卷积简介
最新发布
GHL_17768588743的博客
05-07 992
深度可分离卷积（Depthwise Separable Convolution）是一种将标准卷积分解为两步操作的高效计算方式，旨在减少模型的参数量和计算量，同时保持特征提取能力。其核心思想是通过分离空间维度和通道维度的相关性，优化卷积过程。
分组卷积（Group Convolution）与深度可分离卷积（Depthwise Separable Convolution）
breeze_blows的博客
08-06 3999
常规卷积 输入input[1, 3, 64, 64], kernel[3, 4, 3, 3], stride=1, padding=0, 输出output[1, 4,
深度学习中组卷积(Group convolution)、深度卷积(Depthwise Convolution)以及深度可分离卷积(Depthwise Separable Convolution)的区别
shentu7的博客
04-17 8536
在轻量化网络中，经常使用组卷积、深度卷积或是深度可分离卷积来降低FLOPs，那么三者的区别在哪里呢？下面总结一下。 一、标准卷积 下面是用一个卷积核对输入特征做一次卷积，得到的输出特征的通道为1。 二、组卷积 组卷积是将输入特征按通道分为g组，每组特征中的通道数为Cing\frac{C_{in}}{g}gCin​​，所以相应的卷积核的大小也变了，通道数变少了。每次卷积后的特征按通道concat输...
常见卷积的区别，eg：普通卷积，Depthwise卷积,Pointwise卷积,Depthwise separable convolution
weixin_46598329的博客
07-29 380
那么卷积核数需要与输入的通道数相等，输出的通道数也不变，等于输入的通道数，等于卷积核数。普通卷积是，一个卷积核与input的所有通道都进行卷积，然后不同通道相同位置卷积后的结果再相加，如下图所示，：⾸先，每个通道内对应位置元素相乘再相加，最后计算所有通道的总和作为最终结果。卷积核的Channel通道数等于Input输⼊的通道数，Output输出的通道数等于卷积核的个数。Pointwise Convolution的运算与常规卷积运算相似，它的卷积核的尺寸为 1×1×M，M为上一层的通道数。
Pytorch实现卷积、Depthwise Convolution、分组卷积、动态卷积和转置卷积、反卷积、全卷积、空洞卷积、可变形卷积、深度可分离卷积等操作
taoqick的专栏
03-04 2115
底层是用img2col实现的，但是如果想用pytorch来实现，可以试试torch.unfold这个函数，
分组卷积，深度卷积，逐点卷积，深度可分离卷积
qq_31239371的博客
01-20 682
4.深度可分离卷积（Depthwise separable convolution, DSC）的一个极端情况：当分组卷积的分组数等于输入通道数，且等于输出通道数时，分组卷积就成了深度卷积。(Depthwise separable Convolution)是。2.深度卷积(Depthwise Convolution)(Depthwise Convolution)是。1.分组卷积(Group conv)5.分组卷积与深度卷积的联系。的一个极端情况，这是不对的。PS：好多博客写的是。
分组卷积
jacke121的专栏
05-09 7955
Pytorch的分组卷积 新代小新 2019-09-18 16:40:17 488 收藏 1 展开 最近使用pytorch的时候遇到nn.Conv2d和F.conv2d中的groups参数设置问题，查阅了一些相关资料发现网上的回答并不是很清晰明朗，所以自己写一篇关于pytorch分组卷积的见解。 普通卷积 关于普通卷积的知识可以直接点击链接多通道RGB卷积。 分组卷积 分组卷积和普通卷积最大的不同就是卷积核在不同通道上卷积后的操作，在生成一个FeatureMap的前提下，普通卷积是在声明与i...
卷积总结篇（普通卷积、转置卷积、膨胀卷积、分组卷积和深度可分离卷积）
caip12999203000的博客
09-08 1万+
卷积总结篇（普通卷积、转置卷积、膨胀卷积、分组卷积和深度可分离卷积），分别从概念、背景、原理、参数量、计算量、感受野、各种卷积的优点以及在网络的应用展开讲解。
【基础】卷积种类总结及图解
weixin_44505185的博客
09-12 8886
卷积种类总结及图解
深度可分离卷积的计算量
weixin_42702666的博客
03-28 9318
深度可分离卷积将传统的卷积分解为一个深度卷积（depthwise convolution）+ 一个 1×1的卷积（pointwise convolution）。如下图所示，(a)是传统卷积，(b)、(c)分别对应深度可分离卷积的深度卷积和 1×1的卷积： 假设输入特征图大小为 D_F×D_F×M，输出特征图大小为 D_F×D_F×N，卷积核大小为 D_K×D_K，则传统卷积的计算量为：...
【深度学习】Group Convolution分组卷积、Depthwise Convolution和Global Depthwise Convolution
chen1234520nnn的博客
08-26 1万+
目录 1. 分组卷积(Group Convolution) 1.1 分组卷积与普通卷积的区别 1.2 分组卷积的用途 2. 深度分离卷积(Depthwise Convolution) 原文链接：https://www.cnblogs.com/shine-lee/p/10243114.html 本文主要介绍减少参数量、计算量的卷积形式： Group Convolution(分组卷积) Depthwise Convolution(深度分离卷积) Global Depthwise Convolu
深度学习_卷积神经网络_分组卷积
欢迎大家关注我
11-04 1881
分组卷积介绍 分组卷积（Group Convolution）最早出现在AlexNet网络中，分组卷积被用来切分网络，使其能在2个GPU上并行运行。 接下来我们看下面的图来分析分组卷积和普通卷积的区别： 普通卷积进行运算的时候，如果输入feature map尺寸是C×H×WC\times H \times WC×H×W，卷积核有N个，那么输出的feature map与卷积核的数量相同也是N个，每个卷积核的尺寸为C×K×KC\times K \times KC×K×K，N个卷积核的总参数量为N×C×K×KN
tf.nn.depthwise_conv2d 卷积
weixin_30466953的博客
07-16 215
tf.nn.depthwise_conv2d( input, filter, strides, padding, rate=None, name=None, data_format=None ) 参数： input：4-D,形状根据data_format得出 filter：4-D,形状为[filter_height, filter_width...
对深度可分离卷积、分组卷积、扩张卷积、转置卷积（反卷积）的理解
热门推荐
Chaolei3的博客
02-26 3万+
参考： https://zhuanlan.zhihu.com/p/28749411 https://zhuanlan.zhihu.com/p/28186857 https://blog.yani.io/filter-group-tutorial/ https://www.zhihu.com/question/54149221 http://blog.youkuaiyun.com/guvcolie/a...
分组卷积（Group Converlution）
xu.hyj
07-24 4625
分组卷积及pytorch实现
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值