深度可分离卷积计算量分析

最新推荐文章于 2025-04-07 16:09:23 发布
原创 最新推荐文章于 2025-04-07 16:09:23 发布 · 484 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #pytorch

本文介绍了深度可分离卷积的概念及其与标准卷积的区别。深度可分离卷积通过将卷积分解为两个步骤——特征图局部信息整合与各通道信息交互——来减少计算量。与标准卷积相比，它在保持性能的同时显著降低了资源消耗。
  • 深度可分离卷积将卷积分成两步：特征图局部信息的整合、各通道的信息交互
  • 在这里插入图片描述
  • 如图所示，红框圈住的上面图是一般卷积的情形，下面是深度可分离卷积的情形，最下面是两者计算量的比较
  • 正常卷积计算量T1是输出特征图的高度、宽度、卷积核的高度、宽度、输入维度、输出维度的乘积
  • 深度可分离卷积第一步计算量比T1少了输出维度，第二步比T1少了卷积核的高度、宽度
深度可分离卷积参数量、计算量分析
qq_34425255的博客
03-20 995
分析：标准卷积的乘法计算量，只看乘法，首先输出的feature map里面，每一个元素都代表了一次卷积，所以输出有多少个feature map元素，就对应了进行了多少次卷积，红色里面就是feature map的元素个数，再乘以一次卷积的乘法次数，一次卷积其实就是卷积核的长宽乘以卷积核的通道，卷积核的感受野（蓝色里面），所以这是标准卷积一次卷积的乘法计算量，而参数量就是卷积核的长宽乘通道，再乘以N个卷积核。所以深度可分离卷积可以把参数量缩减为原来的N分之一，N往往是很大的数，比如N是256、512。
深度可分离卷积的计算量
weixin_42702666的博客
03-28 9467
深度可分离卷积将传统的卷积分解为一个深度卷积（depthwise convolution）+ 一个 1×1的卷积（pointwise convolution）。如下图所示，(a)是传统卷积，(b)、(c)分别对应深度可分离卷积的深度卷积和 1×1的卷积： 假设输入特征图大小为 D_F×D_F×M，输出特征图大小为 D_F×D_F×N，卷积核大小为 D_K×D_K，则传统卷积的计算量为：...
转：深度可分离卷积与其计算量实例
万物琴弦存于你的泡沫之中，光锥之外
08-04 1237
开篇总结： 图片转自 下面这个文章介绍了深度可分离卷积是怎么做的： https://towardsdatascience.com/a-basic-introdu
卷积核里面的参数怎么来的_深度可分离卷积（Depthwise separable convolution）
weixin_39669265的博客
11-30 1844
一、深度可分离卷积（Depthwise separable convolution）一些轻量级的网络，如mobilenet中，会有深度可分离卷积depthwise separable convolution，由depthwise(DW)和pointwise(PW)两个部分结合起来，用来提取特征feature map。相比常规的卷积操作，其参数数量和运算成本比较低。二、常规卷积操作对于5x5x3的输...
关于深度可分离卷积可以减少计算量的问题
beautiful77moon的博客
09-29 5720
一、什么是深度可分离卷积？深度可分离卷积的操作流程？ 二、为什么深度可分离卷积的计算量比普通卷积的计算量要小？ 例如：12*12*3的原始图像用256个5*5*3的卷积核卷出8*8*256的结果（stride=1） 1. 使用原始的卷积方法的计算量：256*(5*5*3)*(8*8)=1228800 注：单通道5*5卷积核的计算量为5*5，所以3通道的为5*5*3； 卷积核要在原始图像上...
深度可分离卷积（Depthwise seperable convolution）
热门推荐
冰雪棋书的博客
05-19 9万+
一、深度可分离卷积（Depthwise separable convolution） 一些轻量级的网络，如mobilenet中，会有深度可分离卷积depthwise separable convolution，由depthwise(DW)和pointwise(PW)两个部分结合起来，用来提取特征feature map。相比常规的卷积操作，其参数数量和运算成本比较低。 二、常规卷积操作 对于5x5x3的输入，如果想要得到3x3x4的feature map，那么卷积核的shape为3x3x3x4(即：)；
关于深度可分离卷积
最新发布
qq_45670407的博客
04-07 1602
关于深度学习中的深度可分离卷积
标准卷积和深度可分离卷积
weixin_56097064的博客
01-15 1170
深度卷积（Depthwise Convolution）：对每个输入通道单独进行卷积操作，不跨通道进行卷积。逐点卷积（Pointwise Convolution）：使用 1×1卷积核对深度卷积的输出进行通道混合，生成新的特征图。
全连接-普通卷积-深度可分离卷积-分组卷积-计算量和参数量
weixin_44605171的博客
09-11 2381
全连接-普通卷积-深度可分离卷积-分组卷积-计算量和参数量 一个全连接的参数量： params=(Ni+1)×No params=(N_i+1)\times{N_o} params=(Ni​+1)×No​ 其中，NiN_iNi​ 表示输入特征向量权重个数，NoN_oNo​ 表示输出特征向量的权重个数，+1表示偏置，直接理解参数量与输入输出个数有关。 一个全连接的计算量： FLOPs=[Ii+(Ii−1)+1]×Io FLOPs= [I_i+(I_i-1)+1]\times{I_o} FLOP
深度可分离卷积Depthwise Separable Convolution
知识搬运工的博客
07-14 7040
从卷积神经网络登上历史舞台开始，经过不断的改进和优化，卷积早已不是当年的卷积，诞生了分组卷积（Group convolution）、空洞卷积（Dilated convolution 或 À trous）等各式各样的卷积。今天主要讲一下深度可分离卷积（depthwise separable convolutions），这是 Xception 以及 MobileNet 系列的精华所在。 ...
可分离卷积基本介绍
04-11
可分离卷积基本介绍，A Basic Introduction to Separable Convolutions。
深度可分离卷积（参数量与计算量）VS普通卷积（参数量与计算量）
wilbur520的博客
07-27 1889
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Ma.
深度可分离卷积
qq_45560461的博客
03-19 1014
通过替换或插入深度可分离卷积模块，可以在保持模型性能的前提下显著降低计算成本。参考实现可借鉴MobileNet系列网络设计，进一步优化模型效率。
四、CNNs网络架构-深度可分离卷积（MobileNet v1、MobileNet v2、MobileNet v3、Xception、ShuffleNet v1、ShuffleNet v2）
damadashen的博客
05-25 8674
本文主要解释了什么是深度可分离卷积，并介绍了以下几个网络结构：MobileNet v1、MobileNet v2、MobileNet v3、Xception、ShuffleNet v1、ShuffleNet v2。
标准卷积、深度可分离卷积和分组卷积的参数量与计算量和感受野大小计算
qq_39987519的博客
07-07 4068
一、特征图尺寸计算方法 Wout=(Win+2∗Padding−F)/Stride+1 W_{out} = (W_{in} + 2*Padding-F)/Stride+1Wout​=(Win​+2∗Padding−F)/Stride+1 其中，Wout为输出特征图的宽度大小，Win为输入特征图的宽度大小，F为卷积核大小，Stride为卷积滑动步长，Padding为输入特征图填充的圈数。 例如，输入12×12×3 （特征图大小为12×12，通道数为3），经过卷积核大小为5×5，Padding=0，Stride
深度可分离卷积（Depthwise Seperable Convolution）与Mobilenet
aaa_aaa1sdf的博客
05-02 7901
一、标准卷积流程： 一次性完成，输入为， 过滤器为(个数为N)，输出为 计算量为： 图1.1 卷积示意 图1.2 计算量 二、深度可分离卷积（Depthwise Seperable Convolution）流程： 分两步完成，分别为Depthwise Conv 和 Pointwise Conv 1. Depthwise Conv：filtering sta...
【深度学习】利用深度可分离卷积减小计算量及提升网络性能
NJU phd 在读。
05-25 1300
【深度学习】利用深度可分离卷积减小计算量及提升网络性能 文章目录 1 深度可分离卷积 2 一个深度可分离卷积层的代码示例（keras） 3 优势与创新 3.1 Depthwise 过程 3.2 Pointwise 过程 4 Mobilenet v1 5 Xception 1 深度可分离卷积 深度可分离卷积提出了一种新的思路：对于不同的输入channel采取不同的卷积核进行卷积，它将普通的卷积操作分解为两个过程。 深度可分离卷积层对每个channel分别执行卷积，然后通过逐点卷积将这些输出混合。这
【笔记】空间可分离、深度可分离、扩张卷积：空间、深度可分离卷积提高运算速度，减少参数量，降低计算量；扩张卷积增大感受野，减少参数量，降低运算量，并引入空洞率的概念
nyist_yangguang的博客
10-17 732
注：深度可分离卷积部分，128个3x3x3卷积核移动5x5次，应纠正为128个1x1x3的卷积核。 正文：
可分离卷积
perfect_csdn1的博客
07-06 1611
先看一下nn.Conv2d()代码: torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros') 输入：（N，C_in，H_in，W_in） 输出：（N，C_out，H_out，W_out） dilation:空洞卷积率，控制卷积膨胀间隔 groups:分组卷积来控制输入和输出的连接方式，in_chann
深度可分离卷积计算量
07-29
深度可分离卷积是一种常用的卷积操作，它可以有效地减少模型的计算量。计算深度可分离卷积的总体计算量可以通过以下公式得到： 总计算量 = 深度可分离卷积的计算量 + 逐点卷积的计算量 深度可分离卷积由两个步骤...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

刀么克瑟拉莫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值