PaddleSlim +​OpenVINO助力开发者实现Al模型量化与部署

本文介绍深度学习中的低比特量化技术,它能减少模型存储和计算需求,适合资源有限的设备。百度飞桨与英特尔将共同讨论量化压缩与推理优化,展示OpenVINO如何支持PaddleSlim量化模型,并通过NNCF增强OpenVINO工具套件的性能。活动将以目标检测任务为例,展示在无人机巡检场景中应用量化模型的效果。

低比特量化是深度学习中一个很有价值的方法,它将连续的浮点数数值映射到低比特表示的离散整数数值,可以显著减少深度学习模型的存储资源占用和计算量,使其更高效、更容易部署在资源受限的设备上。

基于百度飞桨与英特尔在量化方面的深度合作,7月28日,百度飞桨与英特尔团队的资深工程师将与大家共同探讨量化压缩与推理的联合优化问题,介绍OpenVINOTM如何对PaddleSlim量化模型进行支持。在本次演讲中,我们将探讨可应用于深度学习模型的不同类型的量化技术。此外,还将介绍神经网络压缩框架( NNCF ),以及其如何进一步为OpenVINOTM工具套件进行加持,从而实现卓越性能。

您将学习到:

  • 量化技术的价值以及不同类型的量化技术
  • 如何基于OpenVINOTM工具套件使用NNCF
  • 通过Jupyter Notebook演示量化前后的神经网络图,并进行性能比较
  • 以目标检测任务为例,基于无人机巡检场景介绍OpenVINOTM对飞桨量化模型的支持

诚邀您参加此次会议,扫码下图二维码立即报名参会,和我们一起走近模型量化之旅!

活动亮点:

  • 飞奖模型压缩工具库
  • 基于Paddle Slim和 OpenVINO”的量化压缩与推理的联合优化
  • 以目标检测任务为例,基于无人机巡检场景
  • 介绍OpenVINO”对飞奖量化模型的支持

image.png

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值