论文阅读——MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

最新推荐文章于 2023-12-10 17:38:47 发布
最新推荐文章于 2023-12-10 17:38:47 发布
阅读量932 收藏 2
点赞数 2
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_44012382/article/details/108117436
版权

目录

前言

Abstract

1、Introduction

2、Prior Work

3、MobileNet Architecture

3.1、深度可分离卷积

3.2、网络结构和训练

3.3、宽度乘子：更窄的模型

3.4、分辨率乘子：减少表达

4、Experiments

4.1、模型选择

4.2减小模型中的超参数

4.3、细纹理识别

4.4、大范围地理定位

4.5、面部特征

4.6、目标检测

4.7、人脸识别

5、Conclusion

前言

之前有一段时间看了挺多深度学习方面的论文，但是由于时间方面的问题一直没来得及进行总结。最近一段时间突发奇想把自己看论文时的学习笔记给记录一下，由于之前没写过博文，所以排版可能会有点emmm...一言难尽。专业方面的知识，如果有理解不到位的地方欢迎各位大佬指教。

Abstract

本文的主要工作：

  • 提出了一个可在移动端应用的高效网络MobileNets，其使用深度可分类卷积使网络轻量化同时保证精度。
  • 引入两个全局超参数，让使用者可根据约束条件调整网络大小。
  • 在ImageNet分类集上与其他模型进行了广泛对比，验证了MobileNets的有效性。

1、Introduction

文章这一部分主要是简要介绍了一下，深度网络的发展和应用，并且引出自己提出的MobileNets网络，指出其在移动端应用方面的有效性。

2、Prior Work

文章的这一部分主要是介绍了对网络进行收缩和小型化的方法，以及相关的网络及研究成果。

1、相关网络：

  • Inception网络：使用深度可分离卷积减少前几层的计算量。
  •  Flattened网络：网络由完全分解的卷积构建。
  • Xception网络：演示了如何按比例扩展深度可分离卷积核。
  • Squeezenet网络：使用瓶颈方法设计了一个非常小的网络。

2、获得小型网络的方法：

  • 对预训练网络进行压缩：基于乘积量化、散列以及修剪、矢量量化和霍夫曼编码的压缩。
  • 蒸馏：使用较大的网络教授较小的网络。

3、MobileNet Architecture

3.1、深度可分离卷积

文章这一部分主要是介绍普通卷积和深度可分离卷积在计算方式上的差异，并且给出他们在所需计算量上的不同。假设F为输入特征图，D_{K}为卷积核的尺寸，D_{F}为输出特征图G的尺寸，M是输入通道数，N是输出通道数。

1、标准卷积

  • 假设步长为1，并且有填充，则标准卷积计算特征图的表达式如下所示：

  • 很明显，进行一次标准卷积的计算量如下：

  • 卷积一般有两个作用：1.使用卷积核(过滤器)对图中的特征进行提取。2.对提取的特征进行融合。在标准卷积中这两步一般是同时进行的，但是在深度可分离卷积中这两步是分开的。
标准卷积的卷积核

2、深度可分离卷积

  • 深度可分离卷积由两次卷积构成：深度分离卷积和逐点卷积。
  • 深度分离卷积：深度分离卷积把输入特征图的所有通道进行分离，每个通道对应一个卷积核对该通道的特征图进行单独的卷积操作(也就是说在深度分离卷积中，每个卷积核的深度固定为1)。因此深度分离卷积计算特征图的表达式和计算量如下：
最低0.47元/天 解锁文章
雨•人
关注
【第26篇】MobileNets：用于移动视觉应用的高效卷积神经网络
AI浩
01-25 1727
MobileNets：用于移动视觉应用的高效卷积神经网络 摘要 我们提出了一类称为 MobileNets 的高效模型，用于移动和嵌入式视觉应用。 MobileNets 基于流线型架构，使用深度可分离卷积来构建轻量级深度神经网络。 我们引入了两个简单的全局超参数，可以有效地在延迟和准确性之间进行权衡。 这些超参数允许模型构建者根据问题的约束为其应用程序选择合适大小的模型。 我们在资源和准确性权衡方面进行了广泛的实验，并与 ImageNet 分类上的其他流行模型相比表现出强大的性能。 然后，我们展示了 Mobi
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications--论文笔记
dezwb的博客
05-25 512
我们提出了一类称为mobilenet的高效模型，用于移动和嵌入式视觉应用。MobileNets基于流线型架构，使用深度可分离卷积来构建轻量级深度神经网络。我们引入了两个简单的全局超参数，它们可以有效地在延迟和准确性之间进行权衡。这些超参数允许模型构建者根据问题的约束为其应用程序选择合适大小的模型。我们在资源和精度权衡方面进行了广泛的实验，与其他流行的ImageNet分类模型相比，我们展示了强大的性能。
【论文翻译】MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
白纸的专栏
05-10 1060
【论文翻译】MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications 不放过每一个学习的机会，关注微信公众号：AI算法爱好者 或扫描二维码： MobileNets: Efficient Convolutional Neural Networks for Mobile Visi...
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications--Andrew
xu.hyj
09-01 1889
MobileNet使用深度可分离卷积搭建而成，通过在分类、目标检测、人脸识别等任务上实验MobileNet都具有很好的表现，可以作为各种图像任务的Backbone。 并且作者设计两个参数控制MobileNet的宽度（通道数）和分辨率，从而可以根据任务改造MobileNet。
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
sinat_41679123的博客
04-03 3272
17-arxiv-MobileNets- Efficient Convolutional Neural Networks for Mobile Vision Applications 通过拆解cnn的卷积核（用depth-wise和1x1的卷积核来代替原先卷积核），减小计算cost
论文阅读——MobileNets:Efficient Convolutional Neural Networks for Mobile Vision Applications
qq_37151108的博客
05-19 9536
本周打算了解一下轻量级网络。先从回顾2017年的MobileNetv1开始。 摘要 MobileNetv1：2017年由Google提出的适用于移动端或嵌入式设备的轻量级网络，首次提出深度可分离卷积（depthwise seperable convolution).
 Section I Introduction 自从AlexNet在2012年ILSVRC比赛中拔得头筹，近年来网络不断朝着更深、更复杂的架构发展，但却忽略了网络的效率以及一些任务对实时性的要求。
MobileNet通过设置两个超参数（widt
【MobileNetsv1】: Efficient Convolutional Neural Networks for Mobile Vision Applications
我的博客
06-13 261
我们提供了一种称为MobileNets的高效模型类，用于移动和嵌入式视觉应用。MobileNets基于一种简化的架构，使用深度可分离卷积来构建轻量级深度神经网络。我们引入了两个简单的全局超参数，可以有效地权衡延迟和准确性。这些超参数允许模型构建者根据问题的约束条件选择适合其应用程序的正确大小的模型。我们进行了大量的资源和准确性权衡实验，并在ImageNet分类任务上展现出与其他流行模型相比的较强表现。
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications论文解读
qq_43183663的博客
03-30 364
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications论文解读一、论文地址及贡献2.1论文地址2.2论文贡献二、MobileNets模型结构2.1深度可分离卷积2.2网络的结构和训练2.3Width Multiplier:更小的模型2.4 Resolution Multiplier:简化表示 一、论文地址及贡献 2.1论文地址 https://arxiv.org/abs/1704.04861 2.2
论文阅读：MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
漩涡小林的博客
03-06 920
文章目录1 摘要2 存在问题3 亮点3.1 深度可分离卷积3.2 α宽度乘法器和ρ分辨率乘法器3.2.1 α宽度乘法器3.2.2 ρ分辨率乘法器3.3 网络整体结构4 部分结果4.1 部分数据对比4.2 部分效果对比5 结论5.1 优势5.2 不足6 参考资料 1 摘要 本文针对嵌入式视觉应用领域，提出一个新颖的MobileNets网络，该网络使用了深度可分离卷积使得其网络结构十分轻量，并且，可以...
【论文学习】MobileNets：Efficient Convolutional Neural Networks for Mobile Vision Applications
热门推荐
斯丢劈德的博客
02-16 1万+
MobileNets是谷歌公司在2017年发布的一种可以在手机等移动终端运作的神经网络结构。论文地址：点击打开链接作者给出了移动端和嵌入式视觉应用的MobileNets模型。MobileNets基于流线型结构设计，使用深度可分离卷积（depthwise separable convolutions）来构建轻量级深度神经网络。作者引入了两个简单的全局超参数（）在速度（latency）和精确度进行折中...
[论文笔记] MobileNets: Efficient Convolutional Neural Networks for Mobile VisionApplications
qq_57886603的博客
11-15 3682
前言： 本部分主要记录下我对MobileNets以及EfficientNet的个人理解(如果没有了解过EfficientNet，这部分可以忽略)。 在读MobileNets论文的过程中，发现文中很大一部分与我之前读的EfficientNet(可能我阅读的顺序有点问题)有相似之处。首先，共同点两者都研究了网络的width(即输出的channel)以及分辨率(resolution)对网络性能的影响(包括参数量、计算量、准确率)；不同点在于：（1）EfficientNet还深入...
【论文阅读】MobileNets:Efficient Convolutional Neural Networks for Mobile Vision Applications
MoFMan的博客
07-14 949
论文简介： 《MobileNets:Efficient Convolutional Neural Networks for Mobile Vision Applications》中的MobileNets是Google针对手机等计算资源有限的嵌入式设备提出的轻量级的深层神经网络结构，其特点是在牺牲较少精度的情况下获得较快的运行速度（较少计算量和较少参数）。其核心思想是将传统卷积分解为深度分离卷积（depthwise separable convolutions）和1x1点卷积两步来实现。 一、Introd
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications（1）
yp532的博客
02-06 388
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications翻译
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications（2017）
qihshe的博客
12-10 221
我们提出了MobileNets的高效模型，用于移动和嵌入式视觉应用。MobileNets基于流线型架构，使用深度可分离卷积来构建轻量级深度神经网络。我们引入了两个简单的全局超参数（宽度乘法器α和分辨率乘数ρ），它们可以有效地在延迟和准确性之间进行权衡。这些超参数允许模型构建者根据问题的约束为其应用程序选择合适大小的模型。我们在资源和精度权衡方面进行了广泛的实验，与其他流行的ImageNet分类模型相比，我们展示了强大的性能。
MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications代码复现
最新发布
12-13
MobileNets是由Google团队开发的一系列轻量级深度学习模型，专为移动设备和嵌入式视觉应用设计，旨在提供高效能的同时保持较小的计算资源消耗。它们基于深度可分离卷积（Depthwise Separable Convolutions），即将传统的卷积分为两个步骤：首先是一个深度卷积（只对输入通道做卷积），然后是一个点卷积（每个通道独立处理）。这种结构简化了网络，降低了模型复杂度。 要代码复现实现MobileNet模型，你可以选择Python语言，比如使用TensorFlow或PyTorch库。以下是一个简化的步骤概述： 1. **安装依赖**：如果你使用TensorFlow，先安装`tensorflow`和`tensorflow.keras`。对于PyTorch，安装`torch`。 ```shell pip install tensorflow keras # 或者 pip install torch torchvision ``` 2. **导入库**： ```python import tensorflow as tf # 或者 import torch, torchvision from tensorflow.keras.applications.mobilenet_v2 import MobileNetV2, preprocess_input # TensorFlow示例 # 或者 from torchvision.models import mobilenet_v2 # PyTorch示例 ``` 3. **加载预训练模型**： ```python # TensorFlow 示例 model = MobileNetV2(weights='imagenet') # PyTorch 示例 model = mobilenet_v2(pretrained=True) ``` 4. **前向传播**： ```python # 获取图像数据并预处理 input_data = ... # 图像数组或张量 output = model(input_data) # 对图像进行分类 # 获取模型输出层 last_layer = model.get_layer('out') if TensorFlow else model[-1] features = last_layer(output).detach().numpy() # 对特征进行操作 ``` 5. **定制或微调模型**： 如果你想调整模型的某些部分，可以解冻特定层进行训练，或者替换掉最后一层以适应新的任务。 ```python # TensorFlow 示例（假设我们要修改最后两层） for layer in model.layers[:-2]: layer.trainable = False # 训练新添加的层 new_model.compile(optimizer='adam', loss='categorical_crossentropy') # 调整模型后部 custom_head = tf.keras.Sequential([...]) output = custom_head(model.output) # 然后继续训练 new_model.fit(...) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值