Paddle 飞浆模型压缩 针对于OCR模型压缩

最新推荐文章于 2024-09-20 14:55:10 发布
最新推荐文章于 2024-09-20 14:55:10 发布
阅读量412 收藏
点赞数
分类专栏： OCR学习 学习成长 MaskRcnn 识别手写字符
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_38732601/article/details/112964589
版权

paddle 深度学习 pytorch

文章目录

前言

AI快车道-PaddleCV系列课程-第五课模型压缩观后感

一、判断是否需要模型压缩

示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。

二、OCR模型压缩

1.应用场景

在这里插入图片描述

2.PaddleSlim

在这里插入图片描述
在这里插入图片描述

剪裁

在这里插入图片描述

卷积通道剪裁

在这里插入图片描述
卷积通道剪裁是通过调整卷积核的数量来达到输出特征图的通道数

很主要的点 ：如何对卷积核重要性排序 卷积内的卷积核进行一个重要性排序，比如l0_norm 查一下每一个卷积中非零值的个数
在这里插入图片描述
多个卷积进行重要性排序

计算卷积之间的敏感度

在这里插入图片描述

剪裁建议

在这里插入图片描述

代码示例

在这里插入图片描述

模型压缩 — PaddleSlim
sdw8855的博客
03-17 676
PaddleSlim是一个模型压缩工具库，包含模型剪裁、定点量化、知识蒸馏、超参搜索和模型结构搜索等一系列模型压缩策略。
PaddleSlim模型压缩实践.pdf
04-05
百度“深度学习”训练营——《PaddleSlim模型压缩实践》课程的讲解文档。 百度“深度学习”训练营——《PaddleSlim模型压缩实践》课程的讲解文档。 百度“深度学习”训练营——《PaddleSlim模型压缩实践》课程的讲解文档。
paddlepaddle学习之模型压缩 PaddleSlim
weixin_42076509的博客
04-09 1853
1.模型压缩主要有以下四个方面： 剪裁 卷积通道数剪裁 （将大规模的参数量变少） 量化 将float32计算变成int 计算 （计算量及模型体积减少） 蒸馏 将大规模的知识迁移到小模型上 （将小模型的精度提高） nas 以模型大小和推理速度为约束的模型结构搜索（设计更高效的网络结构） 1.1卷积通道裁剪主要是裁减掉不重要的冗余的卷积参数，目的是为了减少参数量，加快推理速度。 ...
『paddle』paddleseg 学习笔记：模型压缩
libo-coder
07-21 688
模型压缩一、安装 PaddleSlim二、模型量化step 1. 模型训练step 2. 模型量化并再次训练模型裁剪step 1. 模型训练step 2. 裁剪并保存模型三、部署四、量化&剪枝加速比 许多的神经网络模型需要巨大的计算开销和内存开销，严重阻碍了资源受限下的使用，通过模型压缩可以减少模型参数或者计算量，有效地降低计算和存储开销，便于部署再受限的硬件环境中。PaddleSeg 基于 PaddleSlim，集成了模型在线量化、模型裁剪等模型压缩能力。本文提供相关能力的使用教程。 一、安装
第十一天：PaddleSlim模型压缩实践
sharp0016的博客
01-18 2968
** 第十一天：PaddleSlim模型压缩实践 ** 小模型的好处 •运行时显存/内存占用变小 •计算量减少、延时变小、QPS增大 •可以移动端及嵌入式端部署 怎么产出好用的小模型 •将模型的参数量变少 •将小模型的精度提高 •将模型的计算量减少 •设计更高效的网络结构 搜索策略对搜索的模型进行约束 作业 ：通道卷积裁剪 目标：先计算敏感度，依据敏感度剪裁模型 •敏感度的意义：得到敏感度信息后，可以通过敏感度确定每层卷积的剪裁率。 •怎么确定敏感度 每个卷积层的敏感度信息统计方法为：
基于飞桨的出色多语言OCR工具包
06-24
这一过程可能包括数据预处理、模型构建、训练、验证、调优和模型压缩等步骤，以实现最佳性能和效率。 综上所述，基于飞桨的多语言OCR工具包不仅具备强大的OCR功能，还提供了一整套的工具和资源，使得开发者和研究...
Umi-OCR-Paddle-v2.1.4.7z离线图片识别工具
11-21
Umi-OCR-Paddle-v2.1.4.7z是一款基于PaddlePaddle深度学习平台开发的、适用于Windows操作系统的离线图片文字识别工具。它提供了便捷的图片文字提取功能，适合于在无网络环境下的文字识别需求，尤其对于中文文档的...
中文检测超轻量推理模型
10-13
这样的模型是通过模型压缩、量化、蒸馏等技术实现的，目的是在牺牲一定的精度的前提下，换取更高的效率。 “推理模型”指的是该模型主要用于实际应用中的预测和决策过程，即接收输入数据后，根据预先训练好的模型...
paddel OCR  git clone https://github.com/PaddlePaddle/Paddle.git
11-21
5. **持续更新**：PaddleOCR项目活跃，不断推出新功能和优化，如模型压缩、轻量化等，以适应不同硬件条件下的应用需求。 总的来说，PaddleOCR结合了PaddlePaddle的强大功能，为开发者提供了完整的OCR解决方案，无论...
软件工程应用与实践（十二）：基于实例Paddle OCR代码分析
pinkray_c的博客
12-17 1557
2021SC@SDUSC 目录 一、前情回顾 1.1PP-OCR文字识别策略 1.2本文介绍策略 二、PP-OCR识别流程 2.1 数据集收集 2.2 模型配置 2.3训练准备 定义label输入以及超参数 实例化模型并配置优化策略 2.4 训练 2.5 预测前准备 像定义训练Reader一样定义预测Reader 预测数据 2.6 预测 预测使用代码 结果 总结 一、前情回顾 1.1PP-OCR文字识别策略 策略的选用主要是用来增强...
基于飞桨的OCR工具库，包含总模型仅8.6M的超轻量级中文OCR-python
06-18
基于飞桨的OCR工具库，包含总模型仅8.6M的超轻量级中文OCR，单模型支持中英文数字组合识别、竖排文本识别、长文本识别。同时支持多种文本检测、文本识别的训练算法。
PaddleOCR.zip 飞桨平台的ocr源码--V2.4
12-25
飞桨平台的ocr源码--V2.4
百度飞浆NLP模型
weixin_42631192的博客
03-03 537
参考：百度飞浆NLP模型
百度飞浆Paddle OCR检测和识别【OCR数据收集、标注、数据集划分、检测识别模型训练、导出模型】
lemon.qing@foxmail.com
09-20 7704
1、我的电脑没有GPU，如果不使用AI Studio训练的话，第一遍我是按照CPU进行环境配置和训练的，可以参考这篇文章，我按着弄了一遍，可以使用的。2、使用AI Studio平台进行数据GPU训练，每天都可以领到可以使用的点数，作为零氪用户也可以使用A100训练，完全够用的。Ai Studio进行训练方便简单快捷，不需要配置复杂的环境，或者解决各种离谱的代码报错。本文使用Ai Studio进行训练的。
无需训练代码，推理性能提升1.4~7.1倍，业界首个自动模型压缩工具开源
PaddlePaddle
07-12 439
PaddleSlim结合业务实践中上百个模型优化经验，沉淀出自动模型压缩工具(ACT, Auto Compression Toolkit)，大幅降低模型压缩技术门槛
飞桨 - 模型开发
Junds0的博客
11-09 832
优化算法：神经网络的训练就是调整权重（参数）使得损失函数值尽可能得小，在训练过程中，将损失函数值逐渐收敛，得到一组使得神经网络拟合真实模型的权重（参数）。在本次线性回顾模型中，我们的假设函数为 Y’= wX+b ，其中，Y’表示模型的预测结果（预测房价），用来和真实的Y区分。本关任务：上一任务已经配置好了网络模型，本关任务就联练习怎样模型让这个模型跑起来，及怎样在训练过程中将数据喂给模型，最终将训练好的模型存储在本地。每轮训练完，需要打印训练和测试的最后一个batch的损失值，右侧代码已给出提示。
百度飞浆ocr配置
暗色光的博客
06-25 1690
本次配置基于Windows10平台anaconda3进行配置。 1 建立虚拟环境 可以在Navigator里新建，也可以在Prompt命令窗口内创建 conda create --name ocr activate ocr 2 安装 paddlepaddle-gpu 2.0.0版 python -m pip install paddlepaddle-gpu==2.0.0b0 -i https://mirror.baidu.com/pypi/simple 安装时如果有报错ValueError: chec
易语言基于飞浆的本地ocr文字识别 xp win7 win10 无网离线 都可用
m0_74690739的博客
10-25 3991
易语言基于飞浆的本地ocr文字识别 xp win7 win10 无网离线 都可用，图片/截图/字节集参数都可识别，使用模块调用dll，免库，体积小简单方便，某些特殊图片（比如字体超大或者方向倾斜）的识别需要调整文档的参数（和飞浆的官方使用方法相同），且模块可直接导入模型文件。用户_26220577。
视觉学习笔记12——百度飞浆框架的PaddleOCR 安装、标注、训练、测试以及onnx转换
qq_45848817的博客
12-09 5068
飞桨首次开源文字识别模型套件PaddleOCR，目标是打造丰富、领先、实用的文本识别模型/工具库。 PaddleOCR是一个基于飞桨开发的OCR（Optical Character Recognition，光学字符识别）系统。其技术体系包括文字检测、文字识别、文本方向检测和图像处理等模块。
paddle ocr 推理耗时不稳定
最新发布
02-09
### PaddleOCR 推理性能优化 #### 一、分析耗时原因 推理过程中的时间消耗不稳定通常由多种因素引起，包括但不限于硬件资源波动、软件环境配置不当以及模型本身的复杂度。对于PaddleOCR而言，在不同场景下应用蒸馏、剪枝和量化技术可以有效提升效率并减少延迟[^1]。 #### 二、具体解决方案 ##### 1. 使用轻量级网络结构 通过采用更高效的神经网络架构来降低计算成本是一个有效的策略。例如，PP-OCR系列提供了多个版本的文字检测与识别算法供选择，其中一些较新的变体如SVTRNet相比早期版本具有更好的速度表现[^2]。 ##### 2. 应用模型压缩方法 为了进一步提高运行效率，可以在不影响精度的前提下对已训练好的模型实施剪枝操作去除冗余连接；或者利用知识蒸馏将大型教师模型的知识迁移到小型学生模型上；还可以考虑权重裁剪后的INT8量化处理方式以加速预测阶段的数据传输速率。 ##### 3. 配置合理的输入尺寸 适当调整图片送入到识别模块之前的预处理环节非常重要。根据实际需求设定合适的`--rec_image_shape`参数值能够帮助平衡准确率同推断速度之间的关系。比如，默认情况下PP-OCRv3会期望接收形状为(3,48,320)的图像作为输入，但如果应用场景允许的话，略微缩小高度或宽度可能会带来意想不到的效果改进[^3]。 ##### 4. 利用多线程或多GPU支持 如果目标平台具备足够的算力基础，则不妨尝试开启多进程模式或是分布式部署方案来进行批量数据处理工作。这不仅有助于充分利用现有设备潜能，而且能在一定程度上缓解单次请求响应时间过长的问题。 ```python from paddleocr import PaddleOCR # 初始化时指定use_gpu=True启用GPU加速，并可选地设置gpu_mem=xxx控制显存占用比例 ocr = PaddleOCR(use_angle_cls=True, lang='ch', use_gpu=True) result = ocr.ocr('path_to_your_image') ``` #### 三、持续监控与调优 最后但同样重要的是建立一套完善的日志记录机制用于跟踪每次执行期间的各项指标变化情况，从而便于后续针对性地开展精细化调节措施直至达到预期的服务水平标准为止。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值