MobileNet V1 V2 V3系列总结

最新推荐文章于 2025-01-16 16:44:50 发布
最新推荐文章于 2025-01-16 16:44:50 发布
阅读量3.4k 收藏 3
点赞数 2
分类专栏： 分类网络 文章标签： 神经网络 深度学习 cnn
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/EMIvv/article/details/121700592
版权

一、Mobilenet v1

MobileNet网络是由google团队在2017年提出的，专注于移动端或者嵌入式设备中的轻量级CNN网络。相比传统卷积神经网络，在准确率小幅降低的前提下大大减少模型参数与运算量。(相比vGG16准确率减少了0.9%，但模型参数只有vGG的1/32)
在这里插入图片描述

1、亮点

  • Depthwise Convolution:大幅度减少了运算量和参数量
  • 增加超参数 \alpha 、\beta

2、细节

普通卷积

在这里插入图片描述
dw卷积（特殊的一种组卷积），通常和pw卷积一起使用
在这里插入图片描述
pointwise convolution
在这里插入图片描述

两种卷积计算量对比：
在这里插入图片描述

3、原论文实验效果

在这里插入图片描述

4、存在问题

dw卷积部分卷积核参数的大部分数值为0，被浪费掉，没起到作用。

二、MobileNet v2

MobileNet v2网络是由google团队在2018年提出的，相比MobileNet v1网络，准确率更高，模型更小。
在这里插入图片描述

1、亮点

  • 倒残差结构：Inverted Residuals
  • Linear Bottlenecks

2、细节

在这里插入图片描述
在这里插入图片描述
倒残差结构的最后一个1*1卷积降维的时候使用了线性激活函数，解释如下图所示：
在这里插入图片描述
注意：不像resnet每个残差块都有shortcut，而是当stride=1且输入特征矩阵与输出特征矩阵shape相同时才有shortcut连接
网络结构：（t是1 * 1卷积的 升维倍数）
在这里插入图片描述

3、原论文实验效果

在这里插入图片描述

三、MobileNet v3

2019年提出
在这里插入图片描述

1、亮点

  • 更新Block（bneck）：加入SE模块、更新激活函数
  • 使用NAS搜索参数（Neural Architecture Search）
  • 重新设计耗时层结构

2、细节

Bneck降维1*1之前没有使用激活函数（不同于v2）
在这里插入图片描述
SE模块
在这里插入图片描述
在这里插入图片描述
swish替换为h-swish，sigmoid替换为h-sigmoid
在这里插入图片描述
MobileNetV3-Large 模型结构
在这里插入图片描述
MobileNetV3-Small 模型结构
在这里插入图片描述

3、原论文实验效果

在这里插入图片描述

yolo3通过tensorflow实现，包括mobilenet-v1、mobilenet-v2.zip
11-26
因此，您应该按如下方式构建这 5 种组合cnn+全文美国有线电视新闻网 + 小mobilenet_v1 + 完整版mobilenet_v2 + 完整版mobilenet_v2 + tiny此存储库中提供了这 5 个框架。依赖性python3tensorflow >= 1.12opencv快速...
mobilenet系列V1-V3
06-05
MobileNet系列是由Google团队开发的一系列轻量级卷积神经网络（CNN），旨在优化移动设备和嵌入式系统的性能。这个系列始于MobileNetV1，随后演化为MobileNetV2和MobileNetV3，每一代都在提高准确率和减少模型大小...
改进YOLOv5：MobileNEtv2、v3篇**涨点必备 | 创新实用 | 轻量化骨干网络大一统，包含FastNet、ShuffleNet、mobileNet、Ghostnet等
qq_44224801的博客
05-18 1456
​   轻量化MobileNEtv2、v3​   轻量化MobileNEtv2、v3。
2020-06-05：mobilenet系列算法对比分析
沈雁
07-13 531
mobilenet_V1： 残差块采用的是标准残差，特征提取受限于输入通道数； 网络最后采用relu6激活函数，会造成depthwise部分的卷积核废掉； mobilenet_V2： 残差快采用的倒置残差，解决特征受限于通道数的问题； 网络最后将relu6激活函数替换为Liner线行激活函数，避免了特征信息进一步丢失造成的depthwise部分的卷积核废掉； mobilenet_V3： 采用互补搜索算法减少了计算开销； ..
【经典神经网络架构解析篇】【6】MobileNet网络详解：模型结构解析、创新点、代码实现
阿旭的博客
01-16 755
【经典神经网络架构解析篇】【6】MobileNet网络详解：模型结构解析、创新点、代码实现
（ICCV201908）HBONet与Mobilenet系列性能对比调研
聿默的博客
09-01 506
参考：https://github.com/d-li14，其中复现了mobilenetV2-pytorch 1.HBONet性能（pytorch） https://github.com/d-li14/HBONet 2.作者复现的mobilenetV2（pytorch） https://github.com/d-li14/mobilenetv2.pytorch 3.tensorflow/models下mobilenetV2/V3性能（tf） https://github.com..
Mobilenet各个版本对比
三川小哥 狂想曲
11-12 681
MobileNet系列
weixin_30516243的博客
08-12 680
最近一段时间，重新研读了谷歌的mobilenet系列，对该系列有新的认识。 1.MobileNet V1 这篇论文是谷歌在2017年提出了，专注于移动端或者嵌入式设备中的轻量级CNN网络。该论文最大的创新点是，提出了深度可分离卷积（depthwise separable convolution）。 首先，我们分析一下传统卷积的运算过程，请参考第一个动图或者这篇博客。可以看出，传统卷...
MobileNet v1&v2&v3 创新点及结构简述
qq_43307074的博客
10-29 4140
MobileNet v1&v2&v3的创新点及结构简述
MobileNet V1、V2、V3网络结构
qq_38162944的博客
03-14 5792
传统卷积神经网络，内存需求大，计算量大，导致无法在移动设备以及嵌入式设备上运行。 在准确率小幅降低的前提下大大减少模型参数和运算量（相比VGG16准确率降低0.9%，但是模型参数只有VGG的1/32） Mobilenet这篇论文是Google针对手机等嵌入式设备提出的一种轻量级的深层神经网络，取名为MobileNets。个人感觉论文所做工作偏向于模型压缩方面，核心思想就是卷积核的巧妙分解，可以有效减少网络参数。 $$：卷积层中的卷积核个数 ...
轻量级网络--MobileNet V1、V2、V3(学习记录；完善ing)
qq_43308156的博客
01-17 3085
MobileNet全系列
MobilenetV1、V2、V3系列详解
turned的博客
05-03 9436
Mobilenet系列模型作为当前主流的端侧轻量级模型被广泛应用，很多算法都会使用其作为backbone提取特征，这一章对Mobilenet系列模型V1,V2,V3做一个总结。
轻量级网络----SqueezeNet、MobileNet系列、ShuffleNet、
ZSH12345678900的博客
08-10 541
简单过一下哈from scratch SqueezeNet 《SqueezeNet：AlexNet-level accuracy with 50x fewer parameters and <0.5MB》 <2016.02// 伯克利&斯坦福// ICLR 2017> paper: https://arxiv.org/pdf/1602.07360.pdf code: https://github.com/DeepScale/SqueezeNet Replace 3x3 fi
MobileNet v1 v2 v3论文学习总结
acx0000的博客
09-26 1037
mobilenet论文V1、V2、V3 mobilenet，用于移动和嵌入式视觉应用程序。mobilenet基于一种流线型架构，使用深度可分离卷积来构建轻量级的深度神经网络。在资源和准确性权衡方面进行了大量的实验，与其他流行的ImageNet分类模型相比，我们展示了强大的性能。然后，我们在广泛的应用和用例中展示了mobilenet的有效性，包括对象检测、细粒度分类、人脸追踪和大规模地理定位。
经典CNN模型（八）：MobileNetV2（PyTorch详细注释版）
qq_51872445的博客
07-26 8898
作者通过实验展示了 ReLU 激活函数在高维空间中对低维流形的影响。他们首先将一个二维矩阵（channel=1）通过矩阵T升维到更高维度，接着应用 ReLU 激活函数，然后用T的逆矩阵将其还原回二维空间。当T的维度较低（如 2 或 3）时，还原后的二维矩阵会丢失很多信息。然而，随着维度的增加，信息丢失逐渐减少。因此，为了避免 ReLU 激活函数对低维特征造成过多信息损失，倒置残差结构选择使用线性激活函数（即linear bottleneck），这样可以在输出时保持尽可能多的信息完整性。
第4周学习笔记：MobileNetV1, V2, V3
qq_45358370的博客
08-02 1067
一 理论学习 1.MobileNet V1 2.MobileNet v2 3.MobileNet V3 4.SENet 5.论文阅读 二 代码学习 1.定义 HybridSN 类 2.创建数据集 3.模型训练 4.模型改进——融入注意力机制
第4周学习：MobileNetV1, V2, V3
qq_37466455的博客
08-02 860
第四周学习
轻量级网络(一)：MobileNet V1，V2, V3系列
陶将的博客
08-09 2716
在实际应用中，不仅要关注模型的精度，还需要关注模型的速度。在既要精度又要速度的考量中，轻量化网络应运而生。轻量级网络拥有不差于笨重模型的性能，但相比于笨重模型，有更少的参数和计算量，对硬件更友好。轻量级网络发展至今，已经涌现了SqueezeNet系列，MobileNet系列，ShuffleNet系列，EfficientNet等等系列。这篇文章仅仅阐述MobileNet从V1到V3的发展历程。...
【CNN】MobileNet——卷积神经网络中轻量级的经典
lingchen1906的博客
11-22 2527
作者实验发现 V2 网络最后一部分结构可以优化，如Figure5所示，原始的结构用 1x1 的卷积来调整 feature 的维度，从而提高预测的精度，但是这一部分也会造成一定的延时，为了减少延时，作者把 average pooling 提前，这样的话，这样就提前把 feature 的 size 减下来了（pooling 之后 feature size 从 7x7 降到了 1x1）。这样一来延时减小了，但是试验证明精度却几乎没有降低。
mobilenet参数量
最新发布
02-10
### MobileNet 模型参数数量与架构分析 #### 参数量概述 MobileNet 是一种专为移动和嵌入式设备设计的高效卷积神经网络。通过采用深度可分离卷积技术，显著减少了计算成本并降低了模型复杂度[^2]。 #### 架构特点 MobileNet 的核心创新在于使用了深度可分离卷积替代传统卷积操作。具体来说： - **深度卷积（Depthwise Convolution）**：对输入特征图每个通道独立执行卷积运算。 - **逐点卷积（Pointwise Convolution）**：利用 $1 \times 1$ 卷积核融合来自不同通道的信息。 这种组合方式使得每层所需的乘法累加次数大幅减少，在保持较高精度的同时极大压缩了模型规模[^1]。 #### 参数统计 对于原始版本 MobileNet V1 来说，其典型配置下的总参数数目大约为 4.2 百万左右。这一数值远低于同期其他主流 CNN 结构如 ResNet 或 Inception 系列所拥有的数千万乃至上亿级别参数量[^4]。 以下是 Python 实现用于展示如何获取 MobileNet v1 的参数总量： ```python import tensorflow as tf model = tf.keras.applications.MobileNet(input_shape=(224, 224, 3), include_top=True, weights=&#39;imagenet&#39;) total_params = model.count_params() print(f&#39;MobileNet V1 total parameters: {total_params}&#39;) ``` 随着后续改进版 MobileNet V2 和 V3 的推出，虽然增加了部分新特性（例如倒残差结构、线性瓶颈等），但在整体框架下依然维持着较低水平的参数密度，从而继续保留了良好的运行效率优势[^5]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Shashank497

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值