RKNN部署记录-2（RKNN python API安装，使用

phoenixlxl

已于 2025-01-06 16:02:34 修改

阅读量2k

点赞数 6

CC 4.0 BY-SA版权

文章标签： linux 运维服务器

于 2024-05-06 15:54:26 首次发布

本文链接：https://blog.youkuaiyun.com/phoenixlxl/article/details/138447263

本文介绍了如何在Linux系统中使用rknn-toolkit进行模型部署，包括查询磁盘容量、NPU驱动版本，安装必要的库，以及在Python脚本中运行板端推理。遇到的invalidrknnmodelversion错误被解释为缺少库文件，并提供了解决方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

查看Linux磁盘容量：

df -h

查询NPU驱动版本：

 dmesg | grep -i rknpu 
# 或
 cat /sys/kernel/debug/rknpu/version 
# 或
 cat /sys/kernel/debug/rknpu/driver_version 
# 或
 cat /proc/debug/rknpu/driver_version

查询python版本并退出

python3

exit()

安装pip，numpy，ruamel.yaml，psutils

sudo apt-get update

apt-get install python3-pip

sudo apt-get install -y python3-numpy

sudo apt-get install ruamel.yaml

sudo apt-get install psutils

查询对应版本rknn lite 2库

GitHub - rockchip-linux/rknn-toolkit2

安装rknn-toolkit lite 2

# Python 3.10
 pip3 install rknn_toolkit_lite2-x.y.z-cp310-cp310-linux_aarch64.whl

（我使用的：rknn_toolkit_lite2-2.0.0b0-cp310-cp310-linux_aarch64）

python脚本运行板端推理

import time
import numpy as np
import platform
from rknnlite.api import RKNNLite
input_data = np.load('./test_input.npy')
rknn_lite = RKNNLite(verbose = False)
i = 0

print('--> Load RKNN model')
ret = rknn_lite.load_rknn('mobilenet_v1.rknn')
if ret != 0:
    print('Load RKNN model failed')
    exit(ret)
print('done')

print('--> Init runtime environment')
ret = rknn_lite.init_runtime()
if ret != 0:
   print('Init runtime environment failed')
   exit(ret)
print('done')

while i<100:
	start_time = time.time()
	# Inference
	print('--> Running model')
	outputs = rknn_lite.inference(inputs=[input_data])

	end_time = time.time()
	execution_time = end_time - start_time
	print(execution_time)
	i+=1

rknn_lite.release()
print('done')

运行时报错，