(脑肿瘤分割笔记:二十二)用于MRI实时脑肿瘤分割的3D扩张多纤维网络&&深度可分离卷积以及组卷积的介绍

目录

轻量化网络节省计算开销的相关概念补充

深度可分离卷积

DW卷积(Depthwise Conv)

PW卷积(Pointwise Conv)

普通卷积和深度可分离卷积计算量对比

组卷积

Tittle:3D Dilated Multi-Fiber Network for Real-time Brain Tumor Segmentation in MRI

Abstract--摘要

Introduction

Method-方法

扩张多纤维单元(DMF单元)

通道分组

复用器

使用扩张卷积的纤维

DMFNet网络架构


轻量化网络节省计算开销的相关概念补充

深度可分离卷积

使用深度可分离卷积可以在准确率小幅下降的前提下,大大的减少模型的参数量和运算量。在实践当中常使用深度可分离卷积来代替普通卷积来轻量化网络,从而减少计算的开销 

DW卷积(Depthwise Conv)

传统卷积和DW卷积对比图如下:

在传统卷积中比如一个输入特征矩阵深度为3,我们使用4个卷积核进行卷积,并且每个卷积核的深度都与输入特征矩阵的深度是一致的,然后输出特征矩阵的深度是由卷积核的个数所决定的,图中采用了4个卷积核所以输出特征矩阵的深度就为4。

而在DW卷积中,每个卷积核的深度都是为1的,在DW卷积中每一个卷积核只负责对输入特征矩阵的一个通道进行卷积,然后再得到相应的输出特征矩阵的一个通道。因此卷积核的个数等于输入特征矩阵通道数也等于输出特征矩阵的通道数。

PW卷积(Pointwise Conv)

 PW卷积的示意图如下所示:

PW卷积其实就是普通的传统卷积,只不过其卷积核的大小等于1而已。从上图中可以看出每一个卷积核的深度同样与输入特征矩阵的深度相同,然后输出矩阵的深度与卷积核的个数相同

 DW卷积+PW卷积就是深度可分离卷积

普通卷积和深度可分离卷积计算量对比

普通卷积的计算如下

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值