RK3588平台开发系列讲解（NPU篇）NPU 驱动的组成

最新推荐文章于 2025-03-20 11:52:58 发布
最新推荐文章于 2025-03-20 11:52:58 发布
阅读量989 收藏 8
点赞数 6
CC 4.0 BY-SA版权
分类专栏： RK3588 Android12 开发入门到精通专栏 文章标签： 驱动开发 RK3588 NPU
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_33487044/article/details/145234951

在这里插入图片描述

文章目录

沉淀、分享、成长，让自己和他人都能有所收获！😄

一、NPU 驱动组成

NPU 驱动版本、rknn_server 版本、librknn_runtime 版本以及 RKNN Toolkit 版本的对应关系尤为重要，如果某个版本不对应，这可能会影响到后期.rknn 模型在板子上的运行和推理，这些版本之间的对应关系如下

在这里插入图片描述
目前正点原子发布的出厂系统，rknn_server 版本为 1.7.0，RK 最新发布的为 1.7.3 版本，最新的版本可能新增了一些功能或者修复了一些 bug，所以我们可以尝试更新为最新版本。

  • RKNN Toolkit 是 RK 发布的基于 Python 接口的模型转换工具，一般在 Ubuntu 下安装该工具，然后通过该工具将我们训练好的模型文件（或者预训练模型文件）转换为能够在开发板上进行推理的.rknn 格式的模型文件。

  • rknn_server 是一个运行在开发板系统中的后台代理服务，可以将其理解为一种通信协议，主要用于接收 PC 通过 USB 传输给开发板数据，然后执行板端 r

了解本专栏 订阅专栏 解锁全文
RK3588平台开发系列讲解（NPU篇）NPU调试方法
内核笔记
03-20 5016
📢本篇我们一起来看一下NPU的调试方法。
独家！RK3588 YOLOv5 Android 源码级解析（NPU 量化 / 多线程架构 / 跟踪算法全开源）
最新发布
FJN110的博客
06-21 114
本文详细介绍了一个基于RK3588芯片的Android开发板实时目标检测项目。项目使用YOLOV5模型，结合RKNN开发框架实现高效推理。文章包含环境配置（Windows主机、Android开发板、RKNN SDK等）、项目架构（相机集成、并发处理、图像格式转换等核心挑战）和关键技术解析（硬件加速RGA转换、环形缓冲队列设计等）。通过生产者-消费者模式和NPU推理优化，系统实现了高性能实时检测。该项目为嵌入式设备上的计算机视觉应用提供了实用解决方案，展示了RK3588芯片在AI工作负载中的出色表现。
RK3588NPU驱动版本升级至0.9.6教程
分享技术，传播知识!
09-23 5374
1、（如果正确就不用改了，我这里的版本原本就时正确的）修改drivers/rknpu/rknpu_devfreq.c将MONITOR_TYPE_DEV写成了MONITOR_TPYE_DEV。2.2.1.1 SDK/kernel/include/sock/rockchip/rockchip_opp_select.h 修改如下。转换rkllm内存至少需要16G，从https://huggingface.co/Qwen/Qwen-1_8B-Chat下载所有文件。2.2.1 vm_flags_set具体修改如下。
AI嵌入式RK3588人工智能开发 --- 【2】RKNPU软件推理框架
xinxin的博客
08-27 2487
RKNN Toolkit2 仓库链接为 https://github.com/rockchip-linux/rknn-toolkit2。文件夹内容如下所示：RKNN-Toolkit2 资料包中有四个目录，分别为 docs、examples、packages 和 rknn_toolkit_lite2。docs 目录包含了 RKNN-Toolkit2 的使用文档，包括更新记录、两个 Python 环境所需的依赖 项、RKNN 算子支持列表、快速入门指南以及使用指导手册。
瑞芯微rk3588更新NPU内核驱动
努力写BUG的博客
11-24 4854
瑞芯微rk3588更新NPU内核驱动
rk3588(香橙派5pro)使用npu推理
我叫tacom，是个菜鸟程序员
04-11 2576
香橙派5pro使用npu(rknn-toolkit)完成模型推理
让NPU跑起来iTOP_RK3588开发板在Linux系统中使用NPU
mucheni的博客
09-12 730
服务程序称为 rknn_server，是在开发板上常驻的服务进程，用于连板推理。下载地址为“iTOP-3588 开发板\02_【iTOP-RK3588 开发板】开发资料\12_NPU 使用配套资料\01_rknpu2 工具”下面以 rknpu2/examples 下的 rknn_yolov5_demo 在 RK3588 Linux 64 位平台（buildroot。1 在虚拟机Ubuntu20.04上交叉编译 demo程序 rknn_yolov5_demo（demo已经默认是rknn，
RK系列升级内核中的RKNPU驱动
weixin_74253011的博客
08-09 5592
本教程适合rk3588以及rk356x.因为目前内核中RKNPU版本过低, 导致 c demo无法运行, 也就是c语言的推理无法进行, 需要进行驱动方面的升级, 但是在网上找到的教程都是升级rknn_server和librknnrt.so文件, 只是升级了调用的api接口罢了, 并不能真正的解决问题.自己琢磨了好久终于解决, 并将rknpu驱动从0.8.2升级到0.8.8.其实很简单的.如果不升级RKNPU (内核驱动层面 ) 驱动会导致c接口无法调用.# 查看 RKNPU 版本。
香橙派5使用RK3588S内置NPU加速yolov5推理，实时识别数字达到50fps
weixin_51651698的博客
04-17 2万+
香橙派5采用了RK3588S，内置的NPU达到了6Tops的算力，博主这里记录一下自己的踩坑过程，好不容易做出来的不能以后忘记了（手动狗头）。这里博主还在B站上发布了效果视频，大家感兴趣的话可以看一下。其中解决了先验框标注位置不对，或者出现非常多的框的问题
RK3588平台开发系列讲解（驱动基础篇）驱动模块传参
内核笔记
05-31 1368
📢在编写应用程序的时候，我们可以给 main 函数传递参数，比如 void main(int argc,char *argv[])，这个功能大家用起来已经很熟练了。其实在使用 insmod 命令加载模块的时候，也是可以给模块传递参数的。
RK3588平台开发系列讲解（AI 篇）RKNPU 推理软件框架
内核笔记
08-14 2157
📢本篇章主要讲解什么是RKNPU。
RK3568平台开发系列讲解（NPU篇）RKNPU SDK软件架构
内核笔记
03-13 4288
从上到下来看，最上层是 AI Apps层，也就是 RKNN 应用层，RKNN 应用层包含了客户开发的 AI 应用，包括瑞芯微提供的 demo 应用。往下一层，是瑞芯微对外开放的 RKNN API，这个 API 里面其实是 RKNN 运行时。RKNN API 往上提供了对应用的调用接口。再往下一层是 RKNPU 内核驱动层，主要负责功能是对下操作硬件 NPU，对上提供比较轻量级的接口。最下一层是 RKNPU 的硬件。
RK3568平台开发系列讲解（NPU篇）什么是RKNPU
内核笔记
11-28 3879
📢本篇章将介绍RKNPU。
RK3588平台开发系列：Android上NPU调试方法
2301_79326891的博客
08-21 1869
本文将详细介绍在Android上调试RK3588平台上的NPU的方法，并提供相应的源代码示例。首先，您需要确保您的RK3588开发板已正确连接到您的开发计算机，并且已安装了正确版本的Android开发工具包（Android SDK）和ADB驱动程序。在NPU调试工具中，您可以加载您想要测试的模型。在RK3588平台上，我们可以使用Rockchip提供的NPU调试工具来测试和验证NPU的功能。根据您的模型的要求，您可以创建一个包含输入数据的数据结构，并将其传递给NPU调试工具。步骤4：运行NPU调试工具。
RK3588部署及其RKNPU工具链使用学习
qq_37937847的博客
10-21 4769
RKNN-Toolkit2是为用户提供在计算机上进行模型转换、推理和性能评估的开发套件，RKNN-Toolkit2的主要框图如下：通过该工具提供的Python接口可以便捷地完成以下功能：**1. 模型转换：**支持将PyTorch、ONNX、TensorFlow、TensorFlow Lite、Caffe、DarkNet等模型转为 RKNN模型。**2. 量化功能：**支持将浮点模型量化为定点模型，并支持混合量化。**3. 模型推理：**将RKNN模型分发到指定的NPU设备上进行推理并获取推理结果。
RK3588更新NPU驱动的方法
荻夜的博客
03-20 929
想要在 RK3588 上跑一下 deepseek 的大模型，发现目前的内核提供的 NPU 驱动比较低，无法支持新的大模型，所以需要更新一下我们的 NPU 驱动本次更新的NPU驱动仅适用于RK3588和RK3676系列。
RK3588(自带NPU)的环境搭建和体验（一）
热门推荐
zichuanning520的博客
07-11 3万+
rk3588s开发板的使用
rknn3588如何查看npu使用情况
重剑无锋博客
08-11 1363
【代码】rknn3588如何查看npu使用情况。
瑞芯微 RK 系列 RK3588 CPU、GPU、NPU、VPU、RGA、DDR 状态查看与操作
Leon_Chenl的博客
12-30 6365
本文介绍瑞芯微 RK 系列 RK3588 CPU、GPU、NPU、DDR、VPU、RGA 的查看与操作方式
rk3588 npu驱动
03-28
为了成功搭建RK3588的NPU开发环境并完成驱动程序的配置，需要确保以下工具已就绪： - Ubuntu系统（建议版本20.04 LTS及以上），作为主机操作系统。 - RK3588硬件设备及其配套固件。 - Buildroot Linux系统的交叉...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

内核笔记

你的鼓励是我的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值