轻量级神经网络总结（1）- SqueezeNet - Xception- MobileNet v1/v2 - ShuffleNet V1/V2 - MixNet

最新推荐文章于 2025-05-27 09:07:27 发布
最新推荐文章于 2025-05-27 09:07:27 发布
阅读量7.6k 收藏 42
点赞数 6
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_42096202/article/details/91403210

现阶段神经网络在GPU上运行速度已经可以达到实时性要求，但是移植到手机端或者在CPU上运行还存在运行速度的问题。网络优化加速主要包含：1.设计轻量级的网络；2.网络模型压缩剪枝；3.其他的一些量化加速。这里主要是记录轻量级的神经网络（与模型压缩有着本质性的区别）：

1.SqueezeNet：

发表于ICLR-2017，它在ImageNet上实现了和AlexNet相同的正确率，但是只使用了1/50的参数。更进一步，使用模型压缩技术，可以将SqueezeNet压缩到0.5MB，这是AlexNet的1/510。
思想比较简单，主要包含squeeze层和expand层：squeeze层通过1×1的卷积核减少输入通道的数量；expand层中，把1×1 和3×3 得到的feature map进行concat，以得到不同尺寸的卷积特征，如图：
在这里插入图片描述

2.Xception：

Xception是Extreme Inception的意思，主要是对 inception的改进，提出了depthwise separable convolution来代替常规卷积操作。

（1）inception v3:

在这里插入图片描述

（2）depthwise separable convolution:

最低0.47元/天 解锁文章

200万优质内容无限畅学
chenzy_hust
关注
tensorflow一维卷积输入_Tensorflow--一维离散卷积
weixin_39621774的博客
12-20 658
Tensorflow–一维离散卷积一维离散卷积的运算是一种主要基于向量的计算方式一.一维离散卷积的计算原理一维离散卷积通常有三种卷积类型：full卷积，same卷积和valid卷积1.full卷积full卷积的计算过程如下：K沿着I顺序移动，每移动一个固定位置，对应位置的值相乘，然后对其求和其中K称为卷积核或者滤波器或者卷积掩码2.valid卷积从full卷积的计算过程可知，如果K靠近I，就会有部...
tensorflow一维卷积输入_基于Tensorflow一维卷积用法详解
weixin_39759600的博客
12-20 516
我就废话不多说了，大家还是直接看代码吧！import tensorflow as tfimport numpy as npinput = tf.constant(1,shape=(64,10,1),dtype=tf.float32,name="input")#shape=(batch,in_width,in_channels)w = tf.constant(3,shape=(3,1,32),dty...
EfficientNet：高效轻量的神经网络架构详解
最新发布
分享技术应用、实践场景等，评论区开放技术难题讨论，共同成长进步。
05-27 994
EfficientNet是一种高效的深度学习模型，通过复合缩放方法同步优化网络深度、宽度和分辨率，在保证精度的同时大幅降低计算资源消耗。文章详细介绍了其原理特点，包括精准平衡三个维度的设计理念，并提供了基于Java的简化实现示例。同时分析了模型的时间/空间复杂度优势及其在移动设备、医疗影像、自动驾驶等领域的应用场景。最后给出了从基础学习到进阶优化的实用指南，帮助读者深入掌握这一高效网络架构。
tensorflow实现1维卷积
aoheng0603的博客
04-03 1012
官方参考文档：https://www.tensorflow.org/api_docs/python/tf/nn/conv1d 参考网页： http://www.riptutorial.com/tensorflow/example/19385/basic-example http://www.riptutorial.com/tensorflow/example/30750/math-...
tf.layers.conv1d
Major_S的博客
08-15 910
tf.layers.conv1dtf.layers.conv1dtf.layers.conv1d
高效网络：Xception, MobileNet, MobileNet V2, ShuffleNet ，ShuffleNet V2
qq_20777119的博客
12-07 5709
目录 一、参数数量和理论计算量 二、Xception 三、MobileNetV1 四、MobileNetV2 五、ShuffleNet 六、ShuffleNet V2 一、参数数量和理论计算量 1、定义 参数数量（params）：关系到模型大小，单位通常为M，通常参数用 float32 表示，所以模型大小是参数数量的 4 倍 理论计算量（FLOPs）： 是 floating...
轻量化神经网络篇（SqueezeNet、Xception、MobileNet、ShuffleNet）
01-20
模型轻量化的主要方法包括卷积核分解、深度压缩（网络剪枝、量化、哈弗曼编码）、奇异值分解、硬件加速器以及低精度浮点数保存等。这些方法的目标是降低模型的存储需求和计算复杂性，使其更适合在资源有限的环境如...
轻量级网络--SqueezeNet、ShuffleNet_v2、MobileNet_v2
LeeWanzhi的博客
08-12 4901
大网络虽然精度高，但是体积太大，不利于部署移动端。于是出现了一些性能好、精度高的轻量级网络。 一、SqueezeNet SqueezeNet的特点就是先squeeze，再expand。 即先降低channel数量，再分两路扩大channel数量，最后进行concat拼接。 模型大小不到5M。 我将SqueezeNet作为base_network用到faster rcnn上，检测一下自...
42. 轻量化卷积神经网络：SqueezeNet、MobileNet、ShuffleNet、Xception - TensorS
08-03
这四个轻量化模型SqueezeNet、MobileNet、ShuffleNet、Xception都是为了解决深度学习模型在计算效率和存储空间上的问题。它们各自提出了独特的卷积方式，如SqueezeNet的Fire Module、MobileNet的Depthwise Separable...
基于keras集成常见图像分类模型含VGG16-19、InceptionV3、Xception、MobileNet、AlexNet、LeNet、ZF-Net、ResNet、DenseNet.zip
12-04
基于keras集成多种图像分类模型含VGG16_19、InceptionV3、Xception、MobileNet、AlexNet、LeNet、ZF_Net、ResNet、DenseNet.zip 【项目介绍】 如下模型： VGG16 VGG19 InceptionV3 Xception MobileNet AlexNet LeNet...
轻量化神经网络总结：SqueezeNet、Xception、MobileNet v1、MobileNet v2、ShuffleNet v1、ShuffleNet v2
Anut_hey的博客
07-06 1985
经典轻量化模型
Tensorflow2.0之 tf.keras.layers.Conv1D 做自然语言处理
weixin_43788143的博客
07-05 6463
tf.keras.layers.Conv1D( filters, kernel_size, strides=1, padding='valid', data_format='channels_last', dilation_rate=1, activation=None, use_bias=True, kernel_initializer='glorot_uniform', bias_initializer='zeros', kernel_regularizer=None,
tensorflow2学习（一）：Conv1D
今朝相守观桑田的博客
07-07 1712
Conv1D的输入输出： import tensorflow as tf from tensorflow.keras import layers con1 = layers.Conv1D(1, kernel_size=1, padding='same', activation=tf.nn.relu, input_shape=(2, 2)) model = tf.keras.Sequential() model.add(con1) print(model.input_shape) print(model.o
卷积神经网络CNN：一维信号输入
热门推荐
shuaigezhou123的博客
08-30 4万+
        时光荏苒，转眼间已经过去两个月了，这段日子大概是我研究生生涯中最忙碌的一段时光，从一个python小白，深度学习小白，到现在感觉自己总算摸到了深度学习的门槛，心中还是有一些欣慰和感慨，可能对于很多人来说，我的进度并没有那么快，但对我来说，这是一个质变的两个月，感谢忙碌的自己，上进的自己，永不放弃的自己。         tensorflow对于新手来说确实不太友好，但既然选择了，...
一维卷积时输入要学习序列长度问题
2023年最新地推相关信息
06-17 363
一维卷积时输入要学习序列长度问题？ conv1d 有些代码，没有设置初始要学习的序列长度。程序还能运转。 那么程序默认学习的序列长度多少 用pytorch 或者TensorFlow深度学习时，进行一维时间序列分析，一般要输入原始的长度。(如输入句子是预测语序15单词，预测第16个单词，此时要学习15个向量长度)。 但有看到有些代码，没有设置初始要学习的序列长度(此时有连续不断的数据不停在输入，...
python中multiple函数_关于多处理：在Python中将多个参数传递给pool.map（）函数
weixin_39678304的博客
12-09 1874
本问题已经有最佳答案，请猛点这里访问。我需要一些方法来使用pool.map()中接受多个参数的函数。根据我的理解，pool.map()的目标函数只能有一个iterable作为参数，但是有没有其他参数也可以传入的方法？在这种情况下，我需要传递一些配置变量，比如锁()，并将信息记录到目标函数中。我试过做一些研究，我认为我可以使用部分函数使它工作？但是我不完全理解这些是如何工作的。任何帮助都将不胜感激！...
tf.layers.conv1d函数解析（一维卷积）
weixin_44017891的博客
07-17 561
标题都是原文链接，可以点进去看。这里只做个简单的总结，方便以后用。 tf.layers.conv1d函数解析（一维卷积） 函数形式： tf.layers.conv1d( inputs, filters, kernel_size, strides=1, padding='valid', data_format='channels_last', dilation_rate=1, activation=None, use_bias=True, kernel_initializer=None, bias_initi
1.高效网络Xception, MobileNet, MobileNet V2, ShuffleNet ，ShuffleNet V2 2.为什么使用全局平均池化
qq_36934996的博客
12-05 214
1.https://www.pianshen.com/article/2982763223/ 2.https://www.cnblogs.com/zongfa/p/9048680.html
Conv1d 输入输出以及卷积核维度
A2321161581的博客
03-16 1395
Conv1d
深度解析：轻量化神经网络SqueezeNet、Xception、MobileNet、ShuffleNet
"本文介绍了轻量化神经网络的主要模型，包括SqueezeNet、Xception、MobileNet和ShuffleNet，以及模型轻量化的一些常用方法，如卷积核分解、深度压缩等。文章还提到了这些小型模型在分布式训练、移动设备部署等方面的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值