yolov5 剪枝、蒸馏、压缩、量化

已于 2023-04-09 13:11:50 修改
阅读量2.5k 收藏 8
点赞数
CC 4.0 BY-SA版权
分类专栏： AI赋能行业实战：‌最佳实践与落地案例深度解析！‌ 人工智能系统解决方案与技术架构 文章标签： YOLO 剪枝 深度学习
于 2023-03-15 20:24:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/wangyaninglm/article/details/129171762

文章大纲

神经网络模型的全周期优化方式都有哪些？

考察神经网络时期重要的激活函数sigmoid和tanh，它们有一个特点，即输入值较大或者较小的时候，其导数变得很小，而在训练阶段，需要求取多个导数值，并将每层得到的导数值相乘，这样一旦层数增加，多个很小的导数值相乘，结果便趋于零，即所谓梯度消失问题[插图]，

这将会导致靠近输入层的隐含层的学习效果也趋于零。而靠近输入层的隐含层参数无法学习，就意味着它的值类似随机生成，那么有具体现实意义的输入层经过这些隐含层后会被变换成无意义的信息，继续沿着神经网络往后传递一直到输出层，也就无法得出有效的结论了。所以，深度神经网络很难训练。在深度学习中，除了改进激活函数使用ReLU函数，还提出了逐层预训练等方法来解决这个问题。

在这里插入图片描述

剪枝

剪枝即剪去神经网络模型中不重要的网络连接，本章使用的剪枝方式为通道剪枝，即在训练过程中逐步将权重较小的参数置零，然后将全为0的通道剪除。剪枝有一个大前提：模型结构和参数冗余。对于MobileNet这种已经简化过的轻量级网络来说，剪枝的效果不算大。

为了使模型效果尽量接近原模型，可以在训练过程中逐步将每一层中绝对值较小的参

了解本专栏 订阅专栏 解锁全文 超级会员免费看
博客6：YOLOv5车牌识别实战教程：性能优化与部署
斌擎科技
04-03 750
嵌入式设备部署：可以将YOLOv5车牌识别模型部署到树莓派、Jetson Nano等嵌入式设备上，实现边缘计算。除了模型压缩之外，我们还可以采用模型加速技术，以提高模型在实际环境中的推理速度。摘要：在本篇博客中，我们将介绍如何优化YOLOv5车牌识别系统的性能，以及如何将模型部署到实际应用中。这样，我们就将YOLOv5模型转换为TensorRT引擎，并利用TensorRT加速了模型的推理速度。例如，可以训练多个YOLOv5模型，并将它们的预测结果进行加权平均或投票，以提高车牌识别的准确率。
yolov5-6.0的稀疏化训练、结构化剪枝、微调
qq_41920323的博客
04-22 4187
YOLOv5的BN剪枝、微调
【YOLOv5】【模型压缩与加速】【量化】FP32、FP16、INT8
笔记
11-12 1万+
量化是将模型参数的存储类型从高精度存储降到低精度存储，从而达到减小模型体积大小、加快模型推理速度的效果。这个直接使用yolov5的export导出32位存储的 engine格式模型即可。
深度学习模型（yolov5）压缩
qq_55068938的博客
12-01 2478
当我们利用深度学习训练出我们的模型之后，下一步会做什么呢？无疑是去测试我们的模型，精度达到标准既可发布上线，那发布之后我们会发现的问题是->推理时间慢，那我们该怎么做呢？更改网络为轻量级，如YOLOv5s、YOLOv5n通过技术手段进行模型加速，如tensorrt，openvino等资金雄厚的情况下，可以考虑使用更高算力的卡模型压缩接下来，就给大家介绍下发现的一个用于模型压缩的工具–>PaddleSlim
yolov5--4.0--模型压缩
い天然呆的博客
03-16 2608
yolov5的4.0版本也是更新了有一段时间了，具体更新内容如下; nn.SiLU() activations replace nn.LeakyReLU(0.1) and nn.Hardswish() activations throughout the model, simplifying the architecture as we now only have one single activation function used everywhere rather than the two types
YOLOv5改进策略|YOLOv5 的模型压缩方法、模型压缩、剪枝、量化
斌擎科技
06-13 2740
作为一个基本问题，目标检测多年来一直是一个活跃的研究领域。对象检测的主要目标涉及从数据中识别和 定位感兴趣的对象FF某些给定图像中的不同类别。对象检测是许多其他高级计算机视觉任务 [1] 的基础，从语义 分割 [2] 到对象跟踪 [3] 到活动识别 [4]。近年来，卷积神经网络(CNN)等基于深度学习的方法在目标检测任务 中取得了最先进的性能。由于计算能力和尖端算法的进步，物体检测变得更加准确，从而实现了广泛的现实应 用。
深度学习模型优化实战：YOLOv10模型蒸馏与量化技术详解及UI界面实现
最新发布
YOLO
07-06 415
YOLOv10在之前版本的基础上进行了多项创新，主要包括：python复制下载"""标准卷积块：Conv + BN + SiLU""""""YOLOv10中的核心模块，相比C3有更好的特征提取能力"""
Yolov5更换backbone，与模型压缩（剪枝，量化，蒸馏）
weixin_42638415的博客
12-15 2万+
目前支持更换yolov5的backbone主干网络为Ghostnet，以及采用eagleeye的剪枝方法支持对yolov5系列的剪枝。 后续，将会添加更多更轻量，更优秀的主干网络，比如swintrans，...
yolov5-模型蒸馏算法
weixin_43864650的博客
03-13 515
yolov5模型蒸馏算法
YOLOv11剪枝与量化（二）通道剪枝技术原理
大胡子大叔的专栏
07-02 1142
YOLOv11模型通道剪枝优化方法 通道剪枝是一种有效减小YOLOv11模型复杂度、加速推理的技术。实施步骤包括：1)理解模型架构；2)选择结构化或非结构化剪枝策略；3)确定剪枝比例并评估通道重要性；4)重构网络结构，修改卷积层参数；5)进行特征图重构以最小化性能损失；6)对剪枝后模型进行微调。该方法能显著减少参数量和计算量，但需平衡剪枝比例与精度损失，过度剪枝可能影响模型泛化能力。实施时可借助PyTorch等框架的剪枝工具或手动实现。
mobile-yolov5-pruning-distillation:mobilev2-yolov5s剪枝，蒸馏，支持ncnn，tensorRT部署。超轻但性能更好！
03-19
移动式yolov5修剪蒸馏 mobilev2-yolov5s的通道修剪和蒸馏。超轻但性能更好！ TensorRT版本===> Android版本===> 背景 yolov5s在640x640分辨率下的计算量和参数量分别为8.39G和7.07M。在速度上仍然有提升空间，通过替换backbone（mobilenetv2），通道剪枝对模型进行压缩。 。本项目以工程化为基础，主要是模型端的优化。实现了常用的剪枝和蒸馏算法，并完成了一个简单的介绍和评估。将工程可用模型转换成对应的部署版本。 基准线 数据集采用Pascal VOC，训练集= train2007 + train2012 + val2007 + val2012，测试集= test2007，基线采用mobile-yolo（imagenet预训练），如果没有特别说明，第一个模块采用重点如果特定特殊说明则可以使用替换参数，batchsize
YOLOv5模型压缩方法：综述
AI浩
08-04 4912
目标检测作为一个基本问题，多年来一直是一个活跃的研究领域。目标检测的主要目标是在给定的图像中从不同类别中识别和定位感兴趣的目标。目标检测是许多其他高级计算机视觉任务的基础[1]，从语义分割[2]到目标跟踪[3]到活动识别[4]。近年来，基于深度学习的方法如卷积神经网络(cnn)在目标检测任务中取得了最先进的性能。由于计算能力和前沿算法的进步，目标检测变得更加准确，从而实现了广泛的现实世界应用。与经典的目标检测方法相比，使用cnn缓解了目标检测中的特征提取、分类和定位问题[5,6,7,8,9,10]。
YOLOv5：对yolov5n模型进一步剪枝压缩
FriendshipTang的博客
09-06 2037
Python、PyTorch、YOLOv5、YAML、模型剪枝、模型压缩
yolov5模型压缩心得
qq_32582681的博客
07-29 1463
模型压缩
YoloV5 最强剪枝技术 模型压缩,3ms推理的YoloV5mAP60
jacke121的专栏
05-27 9353
UltraFastYoloV5发布!基于剪枝技术的模型压缩,3ms推理的YoloV5mAP60+
Yolov5模型压缩-slim network
weixin_43864650的博客
09-20 413
Yolov5模型压缩方法slim network
yolov5剪枝与知识蒸馏【附代码】
z240626191s的博客
05-21 1万+
剪枝和知识蒸馏均属于模型轻量化设计，剪枝是将已有网络通过剪枝的手段得到轻量化网络，可分为和，该技术，而是通过计算各个权重或者通道的贡献度大小，剪去贡献度小的权重或通道，再，得到最终的模型，这种方法自然也是可以的，但在某些任务中，如果剪枝较多效果会很差，即便微调训练也恢复不了多少精度。，同时在我其他博客中还实现了知识蒸馏是在一个精度高的大模型和一个精度低的小模型之间建立损失函数，将大模型"压缩"到小模型中【并不是严格意义上的压缩】。
YOLOv5模型剪枝压缩
热门推荐
IEEE_FELLOW的博客
05-25 3万+
基于yolov5 v5.0分支进行剪枝，采用yolov5s模型，原理为Learning Efficient Convolutional Networks Through Network Slimming（https://arxiv.org/abs/1708.06519）。 yolov5s是非常优秀的轻量级检测网络，但是有时候模型依然比较大，使得我们不得不缩减网络输入大小，但是单纯降低输入来减少运算，例如640降低到320，对检测效果损失很大，同时模型体积依然是14M左右，所以可以通过添加L1正则来约束BN
【亲测免费】 yolov5prune: 轻量级YOLOv5模型压缩工具
gitblog_00091的博客
04-17 481
yolov5prune: 轻量级YOLOv5模型压缩工具 项目简介 是一个基于PyTorch的项目，致力于优化和压缩YOLOv5目标检测模型，以实现更快、更高效的推理速度，同时尽可能保持准确率。对于那些在资源有限的设备（如嵌入式系统或移动设备）上运行YOLOv5应用的开发者来说，这是一个非常有价值的工具。 技术分析 YOLOv5是You Only Look Once (YOLO) 系列的最新版本，...
yolov9剪枝蒸馏、
06-02
### YOLOv9 剪枝与蒸馏技术实现方法及优化 YOLOv9作为目标检测领域的先进模型，其剪枝和蒸馏技术能够显著提升模型的效率和性能。以下是关于YOLOv9剪枝与蒸馏的具体实现方法及优化技术： #### 1. 剪枝技术 剪枝是一种减少模型参数数量、降低计算复杂度的技术。对于YOLOv9，剪枝可以通过以下步骤实现： - **结构化剪枝**：移除不重要的卷积核或通道，从而减少模型的计算量。例如，针对Batch Normalization (BN) 层中的权重进行L1正则化[^4]： ```python if isinstance(m, nn.BatchNorm2d) and (k not in ignore_bn_list): m.weight.grad.data.add_(srtmp * torch.sign(m.weight.data)) # L1 m.bias.grad.data.add_(opt.sr*10 * torch.sign(m.bias.data)) # L1 ``` 这种方法通过增加梯度的稀疏性，使得不重要的权重逐渐趋近于零，最终可以被移除。 - **非结构化剪枝**：直接移除权重矩阵中较小的值，保留较大的权重。这种方法适用于需要更高精度但对计算资源要求较高的场景。 - **微调训练**：剪枝后，模型通常会经历一次微调过程以恢复部分性能损失。微调时可以使用原始数据集或更小的数据子集[^2]。 #### 2. 蒸馏技术 知识蒸馏是一种将大型模型（教师模型）的知识迁移到小型模型（学生模型）的技术。对于YOLOv9，蒸馏可以通过以下方式实现： - **特征蒸馏**：通过模仿教师模型中间层的特征图，使学生模型学习到更丰富的特征表示。具体来说，可以通过MSE Loss或其他距离度量来最小化学生模型与教师模型特征图之间的差异[^1]： ```python loss_mimic = nn.MSELoss()(student_features, teacher_features) ``` - **输出蒸馏**：通过模仿教师模型的预测输出，使学生模型在最终任务上表现更好。常见的做法是使用Softmax后的概率分布作为监督信号，并通过Kullback-Leibler (KL) 散度来衡量两者的差异： ```python temperature = 4 soft_target = F.softmax(teacher_output / temperature, dim=1) soft_student = F.softmax(student_output / temperature, dim=1) loss_kl = nn.KLDivLoss()(torch.log(soft_student), soft_target) ``` - **联合蒸馏**：结合特征蒸馏和输出蒸馏，同时优化中间层特征和最终输出，以达到更好的性能[^3]。 #### 3. 优化技术 为了进一步提升YOLOv9的性能，可以结合以下优化技术： - **量化**：将浮点数权重转换为低精度表示（如INT8），从而减少内存占用并加速推理。基于TensorRT的量化工具可以显著提高GPU上的推理速度。 - **模型压缩**：通过去除冗余参数或简化网络结构，进一步减小模型大小。例如，Neural Magic的DeepSparse框架可以在CPU上实现高效的推理优化。 - **硬件加速**：利用专用硬件（如GPU、TPU）或优化库（如ONNX Runtime、TensorRT）来加速模型推理。 ```python import torch from torch.nn import functional as F # 示例代码：知识蒸馏 def knowledge_distillation_loss(student_output, teacher_output, temperature=4): soft_target = F.softmax(teacher_output / temperature, dim=1) soft_student = F.softmax(student_output / temperature, dim=1) loss_kl = F.kl_div(torch.log(soft_student), soft_target) return loss_kl ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

shiter

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值