RK3588 NPU开发环境搭建

已于 2025-02-13 23:20:07 修改
阅读量689 收藏 2
点赞数
分类专栏： 人工智能 文章标签： linux ubuntu rk3588 RKNN NPU
于 2024-09-01 07:45:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/guochongxin/article/details/140815649
版权

如何在Ubuntu系统（PC）上搭建RK3588 Buildroot Linux的NPU开发环境？即电脑端运行Ubuntu系统，而RK3588板卡运行Buildroot Linux系统的情况下，搭建RK3588 NPU开发环境。

下面是相应的步骤（对应的命令）：

0.依赖文件

    RKNPU2 工程下载地址：rknn-toolkit2/rknpu2 at master · airockchip/rknn-toolkit2 · GitHub
    RKNN-Toolkit2 工程下载地址：GitHub - airockchip/rknn-toolkit2

1.环境配置

    电脑的操作系统需要Ubuntu18.04/20.04/22.04，还有一块RK3588开发板（使用buildroot生成的文件系统或者Ubuntu等，下面我们使用buildroot）。

 

了解本专栏 订阅专栏 解锁全文 超级会员免费看
RK3588开发笔记-npu板端推理环境搭建与使用
flypig has a dream！
12-11 339
在嵌入式AI应用中，RK3588作为一款强大的芯片，内置了高性能的NPU（神经网络处理单元），支持多种深度学习模型的推理。本文将详细介绍如何在RK3588开发板上搭建NPU板端推理环境，并实现模型的推理应用。NPU发展历程推理软件框架如下：卷积神经网络加速单元（CNA）(1）卷积预处理控制器卷积预处理控制器是 CNA 中用于预处理卷积计算的硬件单元，可以对输入的模型权重进行 解压缩之后加载进 NPU 的内部缓冲区，并且可以判断零节点加速运算速度，最后将要推理的数据加载进 NPU 的内部缓冲区中。
RK3562 NPU开发环境搭建
阿xin*的嵌入式AI
07-19 957
在Ubuntu搭建RK3562 NPU开发环境，并运行Python和C Demo全过程。
RK3588 NPU部署示例
weixin_46372402的博客
07-11 773
2、找到 rknn-toolkit2-master\rknn-toolkit2-master\rknn-toolkit2\packages 下的txt文件，找到对应版本的txt文件，文件名cp XY 即表示python的版本是X.Y。4、找到\rknn-toolkit2-master\rknn-toolkit-lite2\packages 下的文件，找到对应版本的whl文件，与上一步类似，在终端输入pip install 文件名.whl。7、点击运行，即可在rk3588平台运行程序。5、rknn即安装好。
RK3588 Android平台部署DeepSeek-R1教程
weixin_43245753的博客
02-08 1858
RK3588 Android平台部署deepsleep详细教程
RK3588NPU开发教程----虚拟机开发环境的搭建
u012154706的博客
11-05 1833
打开我们PC上的虚拟机，首先我先安装了环境管理工具virtualenv,搭建一个开发环境py36，接下来在py36中安装了rknntoolkit2-1.3.0的开发环境。1：我拿到的是在荣品买的RK3588，性能介绍兄弟们自己百度吧。注意：安装过程中可能会提示：“系统中未存在numpy”和“whl文件未检索到”，解决的办法是升级apt、先pip安装numpy,再进行下面步骤。第一步：去官网下载rknntoolkit2-1.3.0（我给的资源里也有，见文章开头），相关文档、安装包、示例。
【rk3588】环境搭建及系统编译
目标：MVP
08-29 4458
在目录下，有不同板型的配置文件(xxxx.mk)，用于管理 SDK 每个环节的编译配置，可以查看一下显然，根据名称，我们要使用的是，因为我们要编译buildroot系统。#**roc-rk3588s-pc-buildroot.mk**文件内容如下前3行代码使用source命令来执行位于当前脚本同一目录下的文件。前3行代码使用source命令来执行位于当前脚本同一目录下的/bin/bash配置文件指定了DTS文件和分区表文件等其他文件。上述配置文件中是。
瑞芯微RK3588环境搭建
2301_77147683的博客
06-18 760
该篇文章是小编进行瑞芯微RK3588环境搭建的随笔，仅供参考。
RK3588(自带NPU)的环境搭建和体验（一）
热门推荐
zichuanning520的博客
07-11 3万+
rk3588s开发板的使用
RK3588环境部署教程
qq_44129924的博客
04-30 2738
1、安装完成后设置linux和win之间可以相互复制、粘贴，教程https://blog.youkuaiyun.com/ssz__/article/details/126921531。进入rknn-toolkit2-15\rknn_toolkit_lite2\examples\inference_with_lite文件，5、安装rknn库，进入rknn–toolkit2文件的rknn_toolkit_lite2>package，注意这个安装aarch版本。即可，安装完成后打开终端，会出现（base）即安装成功。
RK3588环境资源含版端环境和虚拟机rknntoolkit2-1.3.0
11-02
RK3588NPU开发环境搭建资源，教程可看博主的文章，此处只有资源
基于RK3588的嵌入式linux系统开发（一）——开发环境的搭建（SDK解压与本地初始化）
q544344318的博客
02-10 6503
本文利用瑞芯微官方提供的SDK开发包进行RK3588嵌入式linux开发环境的搭建，本文在ubuntu20.4版本的系统上搭建，实测可行。
RK3588平台开发系列讲解（开发环境搭建）
whm128的博客
03-30 1036
推荐使⽤ Ubuntu 22.04 或更⾼版本的系统进⾏编译。其他的 Linux 版本可能需要对软件包做相应调 整。除了系统要求外，还有其他软硬件⽅⾯的要求。硬件要求： 64 位系统，硬盘空间⼤于 40G。如果您进⾏多个构建，将需要更⼤的硬盘空间。软件要求： Ubuntu 22.04 或更⾼版本系统。
[工程部署]rknn-toolkit以及rknpu_sdk环境搭建--以rk3588为例
嵌入式人工智能相关
04-14 8360
rknn-toolkit以及rknpu_sdk环境搭建--以rk3588为例，后续会继续更新yolov7部署在3588的相关教程
Rockchip RK3588 - OpenCL环境搭建
Graceful_scenery的博客
01-15 4545
在上一节《Rockchip RK3588 - 基于Qt的视频监控和控制系统 》，我们介绍了实时监控的实现，在实时监控中我们需要将分辨率为1920x1080的图像缩放为指定窗口大小的图像，当采样帧率比较高时，会占用大量的CPU资源； root@NanoPC-T6:/opt/qt-project/FloatVideo-TouchScreen# export DISPLAY=:0.0;./FloatV...
RK3588 （android & linux）编译环境搭建
501846585_QQAndroid_java
10-26 5583
rk3588 基于ubuntu22.04编译环境搭建.
基于RK3588设计高性能开发板-支持8K@60fps H.265/VP9视频解码
weixin_42780701的博客
05-25 1613
EVM3588是广州英码科技以瑞芯微新一代旗舰级芯片RK3588八核（A76x4+A55x4）64位处理器为核心，基于英码科技对应设计的核心模块SOM3588而开发的嵌入式8K人工智能开发板；主频高达2.4GHz，集成四核Mali-G610 GPU，内置6.0TOPs算力的AI加速器NPU，性能强劲，超低功耗，可为各类AI应用场景带来更优化的性能表现。
Rockchip RK3588 - Yocto构建rk3588平台镜像
Graceful_scenery的博客
06-06 1589
---------------------------------------------------------------------------------------------------------------------------- 开发板 ：ArmSoM-Sige7开发板eMMC ：64GBLPDDR4 ：8GB 显示屏 ：15.6英寸HDMI接口显示屏u-boot ：2017...
瑞芯微RK3588开发板部署深度网络
m0_62588333的博客
07-13 1340
一、先去buildroot官网下载buildroot，下载完然后放到共享文件夹，或者直接拖到虚拟机进行编译安装，然后在虚拟机解压，我这里直接放到共享文件夹然后复制到虚拟机的家目录，建议在家目录进行编译，我没试过在其他目录下编译的。这个过程可能会有很多问题，但是我不记得会出什么问题了，基本上安装了就可以了，可能会缺各种库的问题，具体再百度查查，也可以看看我另一篇博客，关于部署的问题的。注意：本次用到的RK3588上用到的系统是bulidroot的，这个build出来的根文件系统是给开发板用的，很重要。
RK3588平台Ubuntu系统配置RKNN环境
襟铭心缘的博客
01-31 6617
RK3588平台Ubuntu系统配置RKNN环境
rk3588 npu 多线程异步
最新发布
03-12
### RK3588 NPU 多线程异步处理概述 RK3588 配备了强大的神经网络处理器 (NPU)，支持高效的并行计算能力。为了充分利用这一特性，在开发过程中可以采用多线程异步编程模型来提高性能和响应速度[^1]。 对于 RK3588 的 NPU 来说，其硬件架构允许多个推理任务并发执行。通过合理设计应用程序结构，能够显著提升整体效率。具体而言，可以通过创建独立的工作线程或者使用事件驱动机制来进行任务调度[^2]。 #### 实现方式 一种常见的做法是在主线程之外启动若干子线程用于加载数据、预处理输入以及收集输出结果等工作；而核心的推理操作则交由专门负责与 NPU 交互的服务进程完成。这样不仅可以让 CPU 和 NPU 各司其职，还能有效减少等待时间带来的资源浪费现象[^3]。 另外值得注意的是，由于不同框架间可能存在差异，因此建议开发者依据所选用的具体工具链文档指导实施相应的优化措施。例如 TensorFlow Lite 或 PyTorch Mobile 提供了一些内置接口方便用户快速搭建起基于这些平台的应用程序原型[^4]。 #### 示例代码 下面给出一段简单的 Python 伪代码片段作为参考： ```python import threading from rknn.api import RKNN def load_and_preprocess_data(): # 加载并预处理图像或其他形式的数据集 pass def post_process_results(results): # 对推理后的结果做进一步分析或可视化展示 pass class NPUPipeline(threading.Thread): def __init__(self, model_path): super().__init__() self.rknn = RKNN() ret = self.rknn.load_rknn(model_path) if ret != 0: print('Load RKNN model failed') exit(ret) def run(self): while True: data = queue.get() # 获取待处理的任务项 outputs = self.rknn.inference(inputs=[data]) result_queue.put(outputs) # 将推理得到的结果放入另一个队列中 if __name__ == '__main__': pipeline = NPUPipeline('./model.rknn') pipeline.start() try: while True: raw_data = load_and_preprocess_data() queue.put(raw_data) # 把准备好的数据送入工作队列 results = result_queue.get() # 取出已完成推理的结果 post_process_results(results) except KeyboardInterrupt: pipeline.join() ``` 上述例子展示了如何利用 `threading` 库构建一个多线程环境下的 NPU 推理管道。其中涉及到两个主要组件：一个是持续运行着的后台服务类 `NPUPipeline` ，它会不断从共享内存池里取出新来的样本进行预测运算；另一个则是位于主循环内的控制逻辑部分，负责协调前后端之间的协作流程[^5]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

stxinu

共创嵌入式xAI！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值