使用 Rockchip NPU 工具链
RK3576 平台通常提供了以下官方工具支持:
- RKNN-Toolkit / RKNN-Toolkit2
- 将训练好的模型(PyTorch / TensorFlow / ONNX 等)转换为 RKNN 格式。
- 进行模型量化、评估及推理测试。
- 输出适配 NPU 的可执行模型文件。
- RKNPU SDK
- 提供 NPU 的推理接口以及示例工程。
- 支持 C++ / Python 调用,帮助开发者快速集成人脸检测功能。
模型转换流程示例
- 准备原始模型文件(.pb / .onnx / .tflite 等)。
- 使用 RKNN-Toolkit 转换
- (a) 加载模型:rknn.load_tensorflow(...) 或 rknn.load_onnx(...) 等命令
- (b) 进行预处理配置:输入大小、均值、标准差、图像格式 (RGB / BGR) 等
- (c) 量化:使用离线量化工具提供的校准数据集,将 FP32 模型量化为 INT8
- (d) 保存转换后模型:rknn.save_rknn('face_detection.rknn')
- 在开发板上测试 RKNN 模型
- 借助官方示例或自定义程序进行推理测试,确认准确率和实时性是否符合预期。