OpenHarmony标准系统上实现对rk系列芯片NPU的支持(npu使用)

最新推荐文章于 2024-10-23 16:36:55 发布
最新推荐文章于 2024-10-23 16:36:55 发布
阅读量1k 收藏 29
点赞数 12
分类专栏： OpenHarmony标准系统折腾笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_58069108/article/details/142621233
版权
了解本专栏 订阅专栏 解锁全文
RK3588更新NPU驱动的方法
荻夜的博客
03-20 550
想要在 RK3588 上跑一下 deepseek 的大模型，发现目前的内核提供的 NPU 驱动比较低，无法支持新的大模型，所以需要更新一下我们的 NPU 驱动本次更新的NPU驱动仅适用于RK3588和RK3676系列。
RK3568 OpenHarmony3.2 AI NPU适配
Martian_Jonas的博客
07-12 1469
Neural Network Runtime（NNRt, 神经网络运行时）是面向AI领域的跨芯片推理计算运行时，作为中间桥梁连通上层AI推理框架和底层加速芯片，实现AI模型的跨芯片推理计算。本文介绍芯片厂商如何在将专有加速芯片接入NNRt，接入OpenHarmony社区生态。整体适配思路：在虚拟机平台上通过Build.gn的方式编译得到可执行文件, 然后将可执行文件及对应鸿蒙系统的api库文件推送到板子，最后将.rknn后缀结尾的模型文件以及图片文件等输入资源拷贝至RK3568进行模型的运行。
技术帖——飞凌嵌入式RK3588开发板推理模型转换及测试
飞凌嵌入式
06-02 813
使用RKNN-Toolkit2工具将rknpu2工程中的yolov5s.onnx模型转换为yolov5s.rknn模型为例进行讲解。
DAYU200鸿蒙开发板（RK3568）安装rknn_toolkit_lite2并运行demo
weixin_43843938的博客
02-28 3785
搭建开发板算法平台
如何使用命令行对RK开发板进行OpenHarmony版本烧录？
m0_64420071的博客
03-29 1826
开发版烧录
OpenHarmony南向设备开发：在标准系统上实现对rk系列芯片NPU的支持(npu使用)
初一十五的博客
10-23 1146
本文我们来学习如何在 OpenHarmony 标准系统 rk 系列芯片如何使用 npu
13.rk3588搭建rknn环境
weixin_71719718的博客
02-05 795
首先下载Anaconda3-2022.10-Linux-aarch64.sh，链接：https://pan.baidu.com/s/10oXSAaleAEoe6KaJ3IQyaw ，提取码：mtag。进入链接：链接：https://pan.baidu.com/s/1u14EuvcTLQbh8HN-gHrkqg ，提取码：hg6x ，获取rknn-toolkit2-master。下面一行表示每次打开系统后环境自动切换到base环境，如果不需要，可以把第二行去掉，然后每次进入系统后终端输入。
OpenHarmony标准系统上实现对rk系列芯片NPU的支持(驱动移植)
weixin_58069108的博客
09-27 1479
OpenHarmony南向设备开发：在标准系统上实现对rk系列芯片NPU的支持(驱动移植)
初一十五的博客
10-23 1501
本文以 rk3568 为例，将 RKNPU 驱动移植到 OpenHarmony 使用的 kernel 5.10 中......
开发板上新 | RK3568开发板上丝滑体验OpenHarmony标准系统
weixin_47070198的博客
12-31 4182
OpenAtom OpenHarmony（简称“OpenHarmony”）3.0 标准系统早已支持使用 ArkUI 开发应用，对于使用过 Hi3516 dv300 开发板开发过应用的同学一定深有体会：屏幕按钮响应慢，尤其是想输入 WIFI password 的时候。现在，新的 OpenHarmony 开发板终于来了——OpenHarmony 应用开发者的福音：应用开发不再卡顿，非常丝滑。 简介 瑞芯微 RK3568 芯片是一款定位中高端的通用型 SOC，采用 22nm 制程工艺，集成 4 核 ...
获取RK3588温度以及GPU,NPU，CPU频率shell脚本
目前从事linux驱动开发，多交流多学习吧
12-08 1923
获取RK3588温度以及GPU,NPU，CPU频率shell脚本。
20240520在RK3588S平台的Buildroot系统下查看GPU的使用率
南岭笑笑生之家
05-20 2249
1. 在ARM开发板上(使用板子为RK3588)，cat /sys/kernel/debug/rknpu/load 没有反应就前面加一个sudo。20240520在RK3588S平台的Buildroot系统下查看GPU的使用率。3.能看到NPU load、Core0、Core1、Core2等具体的占用数据。在网上查找得到RK3588开发板的NPU算力为6TOPs，乘百分比即可。二.查看GPU/NPU等资源占用，大概用了多少TOPS的资源。如果有进程正在使用gpu ，第一位0会有变化。
rknn3588如何查看npu使用情况
重剑无锋博客
08-11 4110
这个示例将使用时间作为X轴，内存使用量作为Y轴，并绘制两条折线，分别代表Resident Set Size (RSS)和Virtual Size (VSZ)。你可以使用pidstat命令来监视特定进程的内存使用情况，并将数据输出到文件中。在Linux中，你可以使用一些工具和命令来绘制某一进程的实时内存折线图。这将生成一个名为memory_graph.png的图像文件，显示进程的实时内存使用情况的折线图。请注意，这只是一个示例，你可以根据你的需求进行调整和修改，以适应你特定进程的内存数据和绘图要求。
RKNN-LLM 开源项目使用指南
gitblog_00617的博客
10-11 1154
RKNN-LLM 开源项目使用指南 rknn-llm 项目地址: https://gitcode.com/gh_mirrors/rk/rknn-llm 本指南旨在帮助开发者...
rk3588 多线程异步提高RK3588的NPU占用率，yolov5s目标检测-python摄像头实时检测65fps,c++实时检测120fps
weixin_44913833的博客
01-13 4401
rk3588 多线程异步提高RK3588的NPU占用率，yolov5s目标检测-python摄像头实时检测65fps,c++实时检测120fps
RK系列升级内核中的RKNPU驱动
gitblog_06581的博客
09-20 511
RK系列升级内核中的RKNPU驱动 RK系列升级内核中的RKNPU驱动 项目地址: https://gitcode.com/Resource-Bundle-Collection/b0a50 ...
在“AI PC”中使用NPU运行 Phi-3-mini
Hsiao的二进制生活
05-31 1127
网上有很多人吐槽“AI PC”，说这个无非是装了一些AI应用，其实和硬件没关系，X79洋垃圾一样可以用。这话对也不对，确实目前大多数AI应用都依赖云服务，说白了，给个浏览器就能用；但是对于利用本地算力的应用，这些老志强可能就力不从心了，此时就轮到这些“AI PC”发力了。例如这位朋友的“AI PC”装备的Intel Ultra处理器内置了NPU。NPU（神经处理单元）是大型 SoC 上的专用处理器或处理单元，专为加速神经网络操作和 AI 任务而设计。
RK3399 Mali-T860占用率(九十四)
Android系统攻城狮
12-01 4135
查看GPU频率范围 # cat /sys/class/devfreq/ff9a0000.gpu/available_frequencies 200000000 300000000 400000000 600000000 800000000 查看GPU工作模式 # cat /sys/class/devfreq/ff9a0000.gpu/available_governors userspace powersave performance simple_ondemand 查看GPU最大频率 # ca.
cherry studio npu
最新发布
03-17
### 关于Cherry Studio NPU的信息 目前，在提供的参考资料中并未直接提及 **Cherry Studio NPU** 的具体信息或使用教程。然而，可以从嵌入式开发工具和神经网络处理单元（NPU）的一般用途出发，推测其可能的功能与应用场景。 #### 嵌入式开发环境支持 如果假设 **Cherry Studio** 是一种类似于 SEGGER 提供的 Embedded Studio 的集成开发环境 (IDE)，那么它可能会提供以下功能[^1]： - 支持多种微控制器架构。 - 集成了编译器、调试器以及性能分析工具。 - 可能针对特定硬件平台优化了对 NPU 的支持。 对于 NPU 的支持而言，通常会涉及以下几个方面： - **驱动程序移植**：如同在 OpenHarmony 中为 rk 系列芯片移植 npu 驱动一样，开发者需要确保目标设备上的 NPU 能够被操作系统识别并正常工作[^2]。 - **API 接口调用**：通过 API 来加载预训练好的机器学习模型至 NPU 上运行推理任务。 以下是基于 Python 编写的简单伪代码示例展示如何加载模型到假想中的 `cherrystudio_npu` 库： ```python import cherrystudio_npu as cn def load_model(model_path): """ 加载指定路径下的深度学习模型 """ try: model = cn.load_model(model_path) return model except Exception as e: print(f"Error loading the model: {e}") return None if __name__ == "__main__": path_to_my_model = "/path/to/model.onnx" my_loaded_model = load_model(path_to_my_model) if my_loaded_model is not None: result = my_loaded_model.inference(input_data="some_input") print(result) ``` 此脚本仅作为概念验证，并不代表实际存在的库函数结构。 #### 下载与安装流程 假如存在名为 Ollama 的第三方服务提供了某些 AI 模型资源，则可以通过类似的步骤获取这些模型文件[^3]。虽然这里提到的是 bge-m3 这一特定类型的模型，但对于其他任何兼容的目标框架来说，操作逻辑大致相同——即先查询可用选项列表，再决定下载哪一个版本。 --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

离北况归

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值