1 介绍
在边缘计算和嵌入式设备中,如何高效地运行深度学习模型是一个关键问题。RV1126 芯片凭借其强大的 AI 加速能力,成为许多嵌入式设备和边缘计算应用的首选平台。为了使模型能够在 RV1126 上高效运行,我们需要将原始深度学习模型转换为 .rknn 格式。本文将通过一个具体的例子——MobileNetV2——一步步引导你完成从模型转换到推理部署的全过程。
2 模型转换步骤
2.1 环境准备
- 物理机环境:Ubuntu 18.04 x86_64
- RKNN版本:
- rknn-toolkit版本:1.7.5
- rknpu驱动版本:1.7.3
模型转换环境搭建则可以访问【RV1126 RKNN-Toolkit环境搭建】。
2.2 模型转换流程
2.2.1 深度学习模型转换流程
模型转换目前有两种流程,一种是以onnx作为中间表达,进行模型转换;一种是直接使用训练框架保存的文件进行rknn模型转换。
2.2.2 RKNN模型转换流程
2.3 模型转换
1、激活conda环境:
conda activate rv1126
2、执行脚本进行模型转换:
cd /home/ros/Downloads/project/deployed/rk/rv1126/rknn-toolkit-1.7.5/rknn_model_zoo/examples/mobilenet/python
python mobilenet.py --model ../model/mobilenetv2-12.onnx --target rv1126
3 结果展示
3 技术交流
3.1 QQ交流
RKNN非官方交流
:909472035