rv1126上跑yolov8。借助rknn_model_zoo 2.0更新，重点：在线预编译

最新推荐文章于 2025-02-18 15:28:07 发布

Fzq1021

最新推荐文章于 2025-02-18 15:28:07 发布

阅读量4.1k

点赞数 12

文章标签： YOLO 驱动开发嵌入式硬件人工智能深度学习

本文链接：https://blog.youkuaiyun.com/Fzq1021/article/details/137253431

版权

最近rknn_model_zoo迎来一次大更新，其中最吸引人的就是全面支持RKNPU1的设备了。最近刚好有空玩了玩将yolov8部署到rv1126开发板上，遇到不少坑写个教程。

前期准备工作

rknn_model_zoo地址：github地址

rknpu官方压缩文件下载地址：RKNPU1.7.5官方压缩文件

rknpu官方环境搭建压缩文件（whl）下载地址：RKNPU环境搭建官方压缩文件

这里解释一下这两个文件的作用：
第一个文件解压后名字是：“rknn-toolkit-1.7.5”，里面是仓库的代码，包括文档等。但是没有供python安装的包。
在这里插入图片描述

第二个文件解压后名字是：“rknn-toolkit-v1.7.5-packages”，里面是python的安装包。

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Fzq1021

关注关注

12
点赞
踩
49

收藏

觉得还不错? 一键收藏
7
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

YOLOv8部署全流程

Dneccc的博客

12-14

756

yolov8部署全过程用到的包\1.2win 固件(板卡系统)EASY-EAI-Nano-Ubuntu-20.04-firmware_20240227\tools\windows\RKDevTool\RKDevTool_Release\RKDevTool.exe。按钮，等待10秒左右，切换到Loader模式（此方法切换失败的话，则可以采用手动方式进入Loader模式）。填入以下内容并保存（按 'i' 进入输入模式，按 'Esc' 退出输入模式，输入 ':wq!Android-USB线，连接板卡和电脑。

RV1126笔记二十：吸烟行为检测及部署＜七＞

12-25

1074

部署到RV1126，Demo测试

7 条评论您还未登录，请先登录后发表或查看评论

yolov8pose在rv1126上的模型转换及部署测试

baidu_41284315的博客

08-08

2407

随着人工智能技术的不断发展，计算机视觉领域的研究和应用也越来越广泛。其中，关键点检测作为计算机视觉领域的一个重要分支，被广泛应用于手势识别、人机交互、虚拟现实等领域。而Yolov8-pose作为一种高效、快速的关键点检测算法，已经在很多领域得到了广泛的应用。本文将介绍如何将Yolov8-pose训练的pt模型转换至rknn 应用至rv1126平台。

RV1126 部署自己训练的yolov8

08-09

954

如果不用这个方式，outputs会是一个，导致后面的无法正常使用。RK的GIT上相关的问题，都没人回答，这是一个坑，被我踩了一次。cd到toolkit的examples->common_function_demos->export_rknn_precompile_model文件夹下，将刚刚得到的best.rknn模型拷贝进去。采用rknn_toolkit-1.7.5-cp38-cp38-linux_x86_64.whl。进入rknn_model_zoo/example/yolov8/python。

瑞芯微RV1126部署YOLOv8全流程：环境搭建、pt-onnx-rknn模型转换、C++推理代码、错误解决、优化、交叉编译第三方库

最新发布

cumtchw

02-18

1495

瑞芯微RV1126部署YOLOv8全流程：环境搭建、pt-onnx-rknn模型转换、C++推理代码、错误解决、优化、交叉编译第三方库

ubuntu子系统C++编译yolov8 以及 rv1126部署（自己训练的模型）

YUYGUYGU的博客

04-23

3353

需要创建一个文件夹，文件夹下文件如下（包含第4步得到的yolov8编译文件，第5步得到的yolov8.rknn模型。注意：以下文件最好放到ubuntu子系统里面进行解压，windows下解压会出现文件缺失，问题很严重。需提前安装adb，可以参考链接。在cmd中输入adb devices，可以看到rv1126开发板ID，即连接成功。编译后在如下目录得到 rknn_yolov8_demo 文件。然后安装torch，tensorflow等。在cmd中输入adb shell，进入rv1126系统目录。

rk1126, 实现 yolov8 目标检测

J。

01-21

2243

基于 RKNN 1126 实现 yolov8 目标检测。

yolov8在rknn(rv1109/1126)模型转换、量化移植过程

Awesome Computer Vision, 做计算机视觉的程序员

08-02

8118

yolov8是比较新的目标检测模型，根据论文和开源项目的报告，相对使用比较广泛的yolov5提升还比较明显。YOLOv8 深度详解！一文看懂，快速上手 - 知乎 (zhihu.com)通过对导出的模型进行一定的修改，1109上可以实现yolov8的运行并得到检测框，不过最终的运行速度和精度还有待验证。后处理的方式目前也是完全按照pytorch中的实现，过多的concat和split，可能对于C++并不太友好，后续尝试用更好的实现方式。Todo: 量化精度的测试以及C++部署。

使用rknn进行yoloV8部署（C++）

如果想成为中心，那么就到中心去吧。

12-30

921

RKNN 是一个为 Rockchip 处理器（尤其是集成 NPU 的处理器）量身打造的神经网络推理框架，旨在为开发者提供高效的 AI 推理能力。RKNN（Rockchip Neural Network）是由 Rockchip（瑞芯微电子）公司开发的深度学习框架，旨在提供高效、优化的神经网络推理（inference）能力，支持各种类型的神经网络模型的加速运行，特别是针对 Rockchip 的 ARM 处理器和 NPU（神经网络处理单元）进行优化。操作硬件：香橙派开发板。操作硬件：x86主机。

ELF2开发板（飞凌嵌入式）搭建深度学习环境部署（RKNN环境部署）

wuboy19的博客

02-04

1129

RKNN-Toolkit2 是由瑞芯微电子开发的一套深度学习模型优化和推理工具。它支持多种深度学习框架（如 Caffe、TensorFlow、PyTorch 等）的模型转换为 RKNN 格式，并提供了模型转换、量化、推理等功能。RKNN-Toolkit2 主要面向在瑞芯微 SoC 上进行 AI 应用开发，但也可以用于 PC 平台进行模型的转换、量化、推理等操作。

C++《在rv1126上实现的yolov5+Deepsort进行行人检测和跟踪》+项目源码+文档说明

11-18

<项目介绍> - 在rv1126上实现的yolov5+Deepsort进行行人检测和跟踪 - 不懂运行，下载完可以私聊问，可远程教学 1、该资源内项目代码都经过测试运行成功，功能ok的情况下才上传的，请放心下载使用！ 2、本项目适合计算机相关专业(如计科、人工智能、通信工程、自动化、电子信息等)的在校学生、老师或者企业员工下载学习，也适合小白学习进阶，当然也可作为毕设项目、课程设计、作业、项目初期立项演示等。 3、如果基础还行，也可在此代码基础上进行修改，以实现其他功能，也可用于毕设、课设、作业等。下载后请首先打开README.md文件（如有），仅供学习参考, 切勿用于商业用途。 --------

RV1126预编译模型：减少加载时间，提升推理速度的最佳实践

豆破苍琼

12-15

2380

本文将以 MobileNetV2 模型为例，详细介绍如何在 RV1126 平台上完成预编译工作，帮助开发者高效地部署深度学习模型。通过这篇教程，您将了解如何在 RV1126 上进行环境配置、模型编译、以及如何将预编译后的模型进行推理操作。

RKNN 模型动物园（RKNN Model Zoo）教程

gitblog_00537的博客

08-08

2162

RKNN 模型动物园（RKNN Model Zoo）教程 rknn_model_zoo项目地址:https://gitcode.com/gh_mirrors/rk/rknn_model_zoo 1. 项目介绍 RKNN Model Zoo 是基于 RKNPU SDK 开发的一个项目，它提供了当前主流算法的部署示例。这些示例涵盖了从导出 RKNN 模型到使用 Python API 和 CAPI 进...

RKNN：yolov8模型转换与板端推理流程

AI数据工厂

04-27

7407

记录了“yolov8的torch模型转onnx再转rknn，并在瑞芯微RK3588上进行推理验证”的过程。

【详细记录】rv1126 跑通 yolov5

weixin_45824067的博客

08-02

4233

在前面，已经将 onnx模型转为 rknn模型。这里探讨的是：rknn模型在rv1126开发板上运行。

瑞芯微RV1126/1109开发流程之yolov5部署(c++版本)

xidaoliang的博客

05-11

8231

1、ubuntu上安装rv1126交叉编译工具链方式一：（1）下载交叉编译工具交叉编译器概念：交叉编译器可以使我们在主机上编译出可以在嵌入式设备上运行的程序下载地址：Downloads | GNU-A Downloads – Arm Developer （2）下载后解压，解压命令 xz -d gcc-arm-8.3-2019.03-x86_64-arm-linux-gnueabihf.tar.xz tar -xvf gcc-arm-8.3-2019.03-x86_64-arm...

RV1126笔记三十二：基于 FastDeploy 在 RV1126 上的部署示例（RV1126 上部署 YOLOv5 检测模型测试）

02-26

1480

基于 FastDeploy 在 RV1126 上的部署示例（RV1126 上部署 YOLOv5 检测模型测试）

Jetson Orin NX 基于 ros 部署 yolov8

Agmage的博客

01-02

6060

NVIDIA® Jetson Orin™ NX 算力高达 100 TOPS，性能是上一代产品的 5 倍，适用于多个并发 AI 推理管道，此外它还可以通过高速接口连接多个传感器，因此可为新时代机器人提供理想的解决方案。Jetson Orin NX 模组极其小巧，但可提供高达 100 TOPS 的 AI 性能，功率可在 10 W到 25 W之间进行配置。此模组的性能可高达 Jetson AGX Xavier 的 3 倍、Jetson Xavier NX 的 5 倍。

rknn yolov8

01-13

### RKNN Toolkit与YOLOv8模型转换和部署教程 #### 准备工作为了顺利进行YOLOv8到RKNN的转换及部署，需先准备好所需的软件包和工具。这包括获取并安装`ultralytics_yolov8`项目、`rknn_model_zoo-2.2.0`用于ONNX转RKNN的操作，以及`rknn-toolkit2`来支持整个过程中的环境配置[^1]。 #### 数据集准备对于想要训练自定义数据集的情况，应按照标准流程整理好标注好的图片集合，并确保其格式符合YOLO系列算法的要求。此部分具体操作可参照相关指南完成。 #### 训练YOLOv8模型利用已有的框架资源，在本地环境中基于个人需求调整参数设置后启动训练程序。完成后会得到`.pt`(PyTorch)形式的目标检测模型文件。 #### 转换为ONNX格式通过Python脚本调用torch.onnx.export()函数可以实现从PyTorch(.pt)向通用中间表示(ONNX,.onnx)的有效转变。这段代码通常位于项目的export.py或其他类似命名的文件内: ```python import torch from ultralytics.yolo.engine.model import YOLO model = YOLO('path_to_your_trained_weight.pt') dummy_input = torch.randn(1, 3, 640, 640).cuda() output_names = ['output'] dynamic_axes = {'input': {0: 'batch_size'},'output': {0: 'batch_size'}} torch.onnx.export(model,dummy_input,'yolov8_custom.onnx',opset_version=12,output_names=output_names,dynamic_axes=dynamic_axes) ``` #### 将ONNX转化为RKNN 借助于`rknn_model_zoo`提供的API接口，能够轻松地把先前获得的ONNX模型进一步编译成适用于Rockchip硬件平台(RKNN)上的专用推理引擎格式。以下是简单的命令行指令示例: ```bash pip install rknn-api==2.2.0 ``` 接着运行如下Python代码片段来进行实际转换作业： ```python from rknn.api import RKNN rknn = RKNN(verbose=True) print('--> Config model') rknn.config(mean_values=[[0, 0, 0]], std_values=[[255, 255, 255]], target_platform='rv1126') print('--> Loading model') ret = rknn.load_onnx(model='./yolov8_custom.onnx') if ret != 0: print('Load ONNX model failed!') exit(ret) print('--> Building model') ret = rknn.build(do_quantization=False, dataset='./dataset.txt') # 如果有量化需求则设do_quantization=True 并提供校准集路径作为dataset参数值 if ret != 0: print('Build model failed!') exit(ret) print('--> Export RKNN model') ret = rknn.export_rknn('./yolov8_custom.rknn') if ret != 0: print('Export RKNN model failed!') exit(ret) ``` #### 开发板上部署RKNN模型最后一步是在目标设备（如搭载RK3588芯片的开发板）加载刚刚生成的.RKNN文件执行推断任务。为此目的而特别定制过的库——`rknn3588-yolov8`提供了必要的驱动和支持功能以便快速集成新创建出来的对象识别能力[^2]。