Paddle Lite 是飞桨的端侧推理引擎,具有高性能、多硬件、轻量级的特点,它支持飞桨/TensorFlow/Caffe/ONNX等模型在ARM CPU, Mali GPU, Adreno GPU, Huawei NPU 等多种硬件上的推理部署,性能达到业内领先。
目前Paddle Lite保持快速的迭代优化升级,距离正式版2.0.0发布仅一个月,Paddle Lite又一次发布了2.1.0版本。
Paddle Lite的Github链接:
https://github.com/PaddlePaddle/Paddle-Lite
01
Paddle Lite v2.1.0的重点功能
1.新增ARM端图像预处理库,用于图像预处理,它可以
-
支持多种颜色空间转换,如NV12_To_RGB、GRAR_To_RGB等
-
支持多种图像预处理操作,如图像旋转、翻转等
-
支持图像数据到Tensor的转换,如RGB_To_NCHW(Tensor)等
-
相关功能性能优于OpenCV。对1920x 1080的BGR图像,做如下操作:
o Resize:1920x 1080 --540x960
o Rotate:1920x 1080 旋转90度
o Flip:沿xy轴对角线翻转
与OpenCV在ARM v7 4线程下的性能对比数据如下图所示:
Paddle Lite 2.1.0:增强ARM图像预处理与模型裁剪

Paddle Lite 2.1.0版本新增ARM端图像预处理库,性能优于OpenCV,提供模型集合裁剪功能,优化报错信息,并支持更多模型与量化模型,提升预测库性能和编译速度,同时修复了若干Bug。此版本旨在提供更高效、轻量的端侧推理体验。

最低0.47元/天 解锁文章
440

被折叠的 条评论
为什么被折叠?



