MobileNet V2 - 再探

最新推荐文章于 2022-12-20 11:58:40 发布
原创 最新推荐文章于 2022-12-20 11:58:40 发布 · 440 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

MobileNetV2提出逆向残差结构与线性瓶颈单元，对比ResNet与MobileNetV1，提升模型速度与准确性。在残差模块中去除最后的RELU操作，保留更多信息，采用depthwiseconv与6倍升维。

MobileNetV2: Inverted Residuals and Linear Bottlenecks 

主要贡献有2点：

1，提出了逆向的残差结构（Inverted residuals）

由于MobileNetV2版本使用了残差结构，和resnet的残差结构有异曲同工之妙，源于resnet，却和而不同。

由于Resnet没有使用depthwise conv,所以，在进入pointwise conv之前的特征通道数是比较多的，所以，残差模块中使用了0.25倍的降维。而MobileNet v2由于有depthwise conv，通道数相对较少，所以残差中使用 了6倍的升维。

总结起来，2点区别

（1）ResNet的残差结构是0.25倍降维，MobileNet V2残差结构是6倍升维

（2）ResNet的残差结构中3*3卷积为普通卷积，MobileNet V2中3*3卷积为depthwise conv

 

MobileNet v1，MobileNet v2 有2点区别：

（1）v2版本在进入3*3卷积之前，先进行了1*1pointwise conv升维，并且经过RELU。

（2）1*1卷积出去后，没有进行RELU操作

2，提出了线性瓶颈单元（linear bottlenecks）

<
最低0.47元/天 解锁文章
目标检测YOLO实战应用案例100讲-毫米波辐射图像去模糊重建与目标检测
qq_36130719的博客
09-11 827
最近数年，由于国内外频繁出现的恐怖袭击和暴力犯罪等社会问题，且恐怖作案手 法花样繁多，反恐战争正愈演愈烈。在重要交通站枢纽、繁华商务圈等公众集中地段设 置高精度的安全检查设施尤为重要。目前，我国所有的大型公共场所（如轨道交通、飞 机场、航运等等）的安防检查设备都能够检测乘客行李中携带的违禁物品，但是由于个 人隐私问题无法即时高效的检测出乘客贴身携带的危险物品。目前的安检设备，主要分为两种类型：即X射线安检仪和金属检测仪，分别针对物品和人体进行安全检查。
目标检测YOLO实战应用案例100讲-基于深度学习的水下混凝土结构表观病害智慧识别方法
最新发布
qq_36130719的博客
12-19 105
近年来，随着我国科学技术的进步与经济的飞速发展，带动了交通建筑行业的迅 猛发展，同期建设了大量的如桥梁、大坝、港口码头等涉水基础建筑。然而，这些涉 水建筑物在长期服役过程中，其水下结构部分长期承受外界荷载因素与自然环境侵蚀 作用，会造成不同程度的损伤，这些损失最初会以表观病害的形式出现。其中，承受 的外界荷载因素主要有：车辆荷载和水上漂浮物对涉水建筑的冲击作用等；遭受的自 然环境侵蚀主要有：水生生物对混凝土结构的腐蚀、水流的冲刷以及海水的腐蚀等；使得水下混凝土结构出现如裂缝、露筋、孔洞以及剥落等病害。
MobileNet V2
like_study_cat的博客
08-11 194
一、论文： https://arxiv.org/abs/18 非官方Caffe代码：https://github.com/shicai/MobileNet-Caffe 二、论文理解 MobileNet V2 是对 MobileNet V1 的改进，同样是一个轻量级卷积神经网络。 1）基础理论--深度可分离卷积（DepthWise操作） 标准的卷积过程可以看上图，一个2×2的卷积核在卷积时，对应图像区域中的所有通道均被同时考虑，问题在于，为什么一定要同时考虑图像区域和通道？我们为什么不能把通道
mobileNetV2
qq_37199669的博客
11-27 478
mobileNetV2的创新点是具有线性瓶颈的倒置残差模块。 mobileNetV1的创新点是深度可分离卷积，和参数a、b。 V1的缺点：在训练过程中深度可分离卷积的卷积核的参数大部分为0，会导致训练结果不理想。 分析问题：随着网络加深，造成了梯度消失！ 解决办法：残差网络。将残差思想融入网络！ V2沿用了深度可分离卷积，这里讲讲深度可分离卷积，将普通卷积操作划分为2步，第一步，相当于对每一个通道提取特征，第二步，将通道融合为一个，得到具有完整信息的特征图。那么，我们可以从中得知，提取特征的时候，卷积核的通
MobileNetV2原理说明及实践落地
benben044的专栏
12-13 3143
MobileNetV1主要是提出了可分离卷积的概念，大大减少了模型的参数个数，从而缩小了计算量。但是在CenterNet算法中作为BackBone效果并不佳，模型收敛效果不好导致目标检测的准确率不高。MobileNetV2在MobileNetV1的DW和PW的基础上进行了优化，使得准确率更高，作为CenterNet算法的BackBone效果也可以。Inverted Residuals：倒残差结构Linear Bottlenecks：结构的最后一层采用线性层。
MobileNet V2简单总结
ZDA_fight的博客
06-07 2035
2017_MobileNetV2_谷歌： 图： 网络描述： MobileNet V2提出了 the inverted residual with linear bottleneck，线性瓶颈反残差结构。 扩张（1x1 conv） -> 抽取特征（3x3 depthwise）-> 压缩（1x1 conv） 特点，优点： （1）引入残差结构，先升维再降维，增强梯度的传播，显著减少推理期间所需的内存占用 （2）去掉 Narrow layer（low dimension or depth） 后的
MobileNet v1、v2
蓬莱道人的博客
12-11 7366
1、MobileNet v1（2017.4 arXiv） （1）网络结构     MobileNet v1的网络结构非常简单，它是一个类似于VGG那样的直通网络，没有跳跃连接。MobileNet v1的主要贡献就是提出用深度可分离卷积代替普通卷积，它的整个网络大部分是基于深度可分离卷积的，只有网络前面几层使用普通卷积，整个网络参数比GoogLeNet小2.5倍，但是准确率比GoogLeNet高...
轻量化神经网络演进图谱：从MobileNet到TinyML的6大里程碑与场景适配法则
[轻量化神经网络演进图谱：从MobileNet到TinyML的6大里程碑与场景适配法则](https://static.wixstatic.com/media/0a4c57_f9c1a04027234cd7a0a4a4018eb1c070~mv2.jpg/v1/fill/w_980,h_551,al_c,q_85,usm_0.66_1.00_...
（轻量化CNN架构终极对比）MobileNet与ShuffleNet在边缘设备上的性能之王争夺战
[（轻量化CNN架构终极对比）MobileNet与ShuffleNet在边缘设备上的性能之王争夺战](https://static.wixstatic.com/media/0a4c57_f9c1a04027234cd7a0a4a4018eb1c070~mv2.jpg/v1/fill/w_980,h_551,al_c,q_85,usm_0.66_...
MobileNetV2
qq_32256033的博客
04-28 326
标准的卷积过程可以看上图，一个2×2的卷积核在卷积时，对应图像区域中的所有通道均被同时考虑，问题在于，为什么一定要同时考虑图像区域和通道？我们为什么不能把通道和空间区域分开考虑？ Xception网络就是基于以上的问题发明而来。我们首先对每一个通道进行各自的卷积操作，有多少个通道就有多少个过滤器。得到新的通道feature maps之后，这时再对这批新的通道feature maps 进行标准的1×...
个人对MobileNet V2的理解
qq_23150675的博客
03-16 2520
我不准备具体描述MobileNet V2的结构。我只想在论文中寻找一些更加本质的东西，关于普通卷积分解、feature map线性组合以及激活函数的，更加本质的东西。首先，引入一个概念，layer activation。指的其实就是是卷积层的输出。我们知道layer activation是有冗余信息的，也就意味着其中所包含的有用信息具有潜在的稀疏性。如果把layer activation看成一个N...
轻量级网络：MobileNet V2
那年聪聪
12-12 4565
轻量级网络：MobileNet V2，及MobileNet V1的缺点说明
MobileNet V2 随笔
时空间隙
06-04 5235
MobileNet V2 Linear Bottlenecks and Inverted Residuals 下图是可分离卷积: 请注意到由于 MobileNet 使用 Batch Normalization ，而 Batch Normalization 的 beta 项含有均值，因此整个 MobileNet 并没有使用 BiasAdd 操作。其次，我们要注意到 MobileNetV...
轻量级网络（二）：MobileNet V2
lailuosanjiao的博客
06-17 537
MobileNet V2 文献：MobileNetV2: Inverted Residuals and Linear Bottlenecks 创新点 【线性瓶颈（Linear Bottlenecks）】。V2 去掉了第二个 PW 的激活函数。 【反转残差单元（Inverted residuals）】。V2 在 DW 卷积之前新加了一个 PW 卷积。 Linear Bottlenecks 论文里面做了这么一个实验，如下图。普遍意义上来说，非线性激活单元会造成信息的丢失，要缓解这种丢失，非线性单元输入维度应
轻量级网络模型MobileNet发展脉络（V1-V2-V3）
AIGC Studio：分享AIGC前沿知识和好玩应用，公众号同名。
12-20 3492
本文介绍了轻量级网络模型MobileNet的发展脉络(V1-V2-V3),详细介绍了网络模型的结构，设计思路，并给出了实验结果。此外，本文还简单介绍了MnasNet,因为MobileNet V3模型的设计思路一部分来源于此。
MobileNetV2学习与实现
zhongqianli的专栏
01-26 858
摘要 《MobileNetV2: Inverted Residuals and Linear Bottlenecks》提出了一种新的移动端架构MobileNetV2。同时将这个移动端模型应用到了目标检测，得到了一个新框架SSDLite。此外通过Mobile DeepLabv3演示了如何构建移动端语义分割模型。 引言 主要贡献提出了一种新颖的模块：the inverted residual with...
MobileNetV2经典解读，通俗明白
thankyvision
05-16 4253
前生今世－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－＞ 早期的CNN网络，如VGG，利用的是直接堆叠卷积层和池化层的办法，如下图所示（vgg16）: 从左（bottom）到右（top），feature map的分辨率逐渐减小，这其中有两个问题如下： （１）卷积或池化的本质其实是滤波，滤波必然造成信息损失，层层滤波会造成信息层层损失，t...
MobileNetV2神经网络
qq_45771162的博客
03-07 5739
MobileNet是一个轻量化网络的经典网络，自诞生以来就被广泛应用于工业界。2016年，Google第一次提出了MobileNetV1，凭借深度可分离卷积这一创新点，整个网络在实际上成为了深度可分离模块的堆叠。自此，MobileNet作为轻量化网络，大大提高了卷积层的计算效率，进而也极大地提高了网络的运行速度。
谷歌发布轻量级视觉架构MobileNetV2，速度快准确率高
量子位
04-04 1613
林鳞 编译自 Google Research Blog量子位 出品 | 公众号 QbitAI深度学习在移动端部署的挑战仍在。虽然深度学习在图像分类、检测等任务上颇具优势，但提升模型精度对能耗和存储空间的要求很高，移动设备通常难以达到要求。别怕。昨天，谷歌发布了新一代移动架构MobileNetV2。这是一种为移动设备设计的通用计算机视觉神经网络，支持图像分类和检测等任务，结果比上一代模型有显著提升。
深入解析MobileNet-V2在pytorch0.3.0上的实现
在压缩包子文件的文件名称列表“MobileNet-V2-master”中，“master”通常是指源代码库中的主分支（master branch），也就是通常开发者默认工作的分支，它包含了最新的稳定代码。 总结一下，MobileNet-V2 pytorch...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值