RK平台边缘端部署（实践）
关注
分享
扫一扫
文章平均质量分 85
针对RK平台的边缘端部署方案
浩瀚之水_csdn
路漫漫其修远兮,吾将上下而求索,立刻行动,坚持,努立
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
【RKNN】RKNN-Toolkit2 Python API之hybrid_quantization_step2 函数详解
rknn.hybrid_quantization_step2 是 RKNN-Toolkit2 中 混合量化（Hybrid Quantization） 的第二步，用于根据手动调整的量化建议文件生成最终的混合精度模型（INT8 + FP16）。原创 2025-08-26 08:38:52 · 306 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之accuracy_analysis函数详解
rknn.accuracy_analysis() 是 RKNN-Toolkit2 中用于 量化模型精度验证 的核心接口，通过对比量化前后模型的输出差异，帮助开发者评估量化对模型精度的影响。原创 2025-08-25 11:42:53 · 612 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之list_devices函数详解
rknn.list_devices() 是 RKNN-Toolkit2 中用于 获取当前连接的 NPU 设备列表 的接口，帮助开发者识别和管理多个硬件设备（如 RK3588、RK3566 开发板）。原创 2025-07-04 16:34:04 · 629 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之rknn_query 函数详解
rknn_query 是 RKNN-Toolkit2 中用于 查询模型或运行时状态信息 的核心接口，支持获取模型属性、硬件配置、性能数据等关键信息，帮助开发者调试和优化模型部署。原创 2025-06-30 09:15:25 · 598 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之rknn_set_core_mask 函数详解
rknn_set_core_mask 是 RKNN-Toolkit2 中用于 指定 NPU 计算核心 的接口，主要针对 RK3588 平台的多核 NPU 架构设计。原创 2025-06-29 14:03:58 · 897 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之rknn_dup_context 函数详解
rknn_dup_context 是 RKNN-Toolkit2 中用于 复制模型上下文 的核心接口，主要用于 多线程推理场景 下的模型权重复用。原创 2025-06-29 10:34:31 · 528 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之rknn_inputs_set 函数详解
rknn_inputs_set 是 RKNN-Toolkit2 中用于 设置模型输入数据 的核心接口，支持多输入模型的数据配置。原创 2025-06-28 09:57:33 · 837 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之rknn_outputs_get 函数详解
rknn_outputs_get 是 RKNN-Toolkit2 中用于 获取模型推理结果 的核心接口，支持多输出模型的解析与后处理。原创 2025-06-28 09:57:16 · 1700 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之register_op函数详解
在 Rockchip NPU 生态中，自定义算子注册（register_op）是模型转换与部署的关键环节原创 2025-06-26 08:36:02 · 852 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 API之rknn_set_core_mask 函数详解
rknn_set_core_mask 是 RKNN-Toolkit2 中用于 动态分配 NPU 计算核心 的关键接口，专为 RK3588 平台 的多核 NPU 架构设计。原创 2025-06-26 08:35:16 · 618 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit C++和Python API函数
RKNN-Toolkit 的 C++ 和 Python API 函数主要围绕模型转换、推理部署、性能优化等核心功能展开，两者在应用场景和接口设计上有显著差异。原创 2025-06-25 14:05:30 · 584 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit C++ API函数的核心信息整理
关于RKNN-Toolkit C++ API函数的核心信息整理，结合官方文档及开发实践总结原创 2025-06-25 14:05:15 · 447 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit C++ API 函数 rknn_init()的详细解析
rknn_init() 是 RKNN-Toolkit C++ API 的核心函数，用于初始化 RKNN 上下文并加载模型数据，为后续推理操作准备环境。它会解析模型二进制数据或模型文件路径，创建 rknn_context 句柄，该句柄将贯穿整个模型生命周期的操作。原创 2025-06-24 08:45:28 · 487 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit C++ API 中 rknn_query() 函数的详细解析
rknn_query() 是RKNN模型的核心查询接口，用于从已初始化的模型上下文中获取多种关键信息，包括模型属性、输入/输出张量配置、性能统计等。通过不同查询命令（cmd），开发者可以动态调整模型推理流程，优化资源分配。原创 2025-06-24 08:45:14 · 322 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit C++ API 中 rknn_inputs_set() 函数的详细说明
rknn_inputs_set() 用于将预处理后的输入数据绑定到RKNN模型，是模型推理前的关键步骤。它支持单输入或多输入模型，需根据模型定义的张量属性（通过 rknn_query 查询）正确设置数据格式、尺寸和内存布局。原创 2025-06-23 09:36:03 · 386 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit C++ API 中 rknn_run() 函数的详细解析
rknn_run() 是RKNN模型推理的核心执行函数，用于触发NPU对已设置输入数据的计算过程。该函数是同步操作，调用后会阻塞当前线程直至推理完成。其性能直接影响模型部署的实时性，需结合预处理/后处理优化以提升整体吞吐率。原创 2025-06-22 14:55:52 · 822 阅读 · 0 评论 -
【算能】BMRuntime 库中bmrt_shape_count 函数详解
bmrt_shape_count 是 BMRuntime 中 简化内存计算 的关键工具，尤其在处理多维张量时，能够避免手动计算错误，提升代码可维护性。合理使用该函数，可确保内存分配、数据拷贝和模型解析的准确性，是 TPU 开发生态中不可或缺的一环。原创 2025-06-22 14:55:40 · 423 阅读 · 0 评论 -
【RKNN-Toolkit】 C++ API 中 rknn_destroy() 函数的详细解析
rknn_destroy() 是资源释放的核心接口，用于销毁由 rknn_init() 创建的 rknn_context 上下文对象，并释放所有关联的 NPU 资源（如模型权重内存、零拷贝内存句柄等）。该函数通常在程序退出或模型卸载时调用，避免内存泄漏和资源占用，是 RKNN 开发流程的必要收尾步骤。原创 2025-06-21 09:31:33 · 717 阅读 · 0 评论 -
【RKNN-Toolkit】 C++ API 中 rknn_release() 函数的详细解析
rknn_release() 是RKNN模型输出资源释放接口，用于释放通过 rknn_outputs_get() 获取的输出内存。该函数确保推理结果占用的内存被正确回收，避免内存泄漏。原创 2025-06-21 09:31:12 · 783 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之hybrid_quantization_step1 函数详解
hybrid_quantization_step1 是 RKNN-Toolkit2 中用于 混合量化（混合精度量化）的第一步，通过分析模型各层的量化敏感度，生成建议的量化策略文件（CSV 格式）。开发者可基于此文件手动调整关键层的量化精度（如将敏感层设为 FP16），以在精度和性能之间取得平衡。原创 2025-05-11 13:39:16 · 328 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之get_sdk_version函数详解
rknn.get_sdk_version() 是 RKNN-Toolkit2 中用于 获取当前 NPU 工具链及硬件驱动的版本信息 的关键接口，帮助开发者验证开发环境与硬件驱动的兼容性。原创 2025-05-10 18:39:06 · 384 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之eval_memory函数详解
rknn.eval_memory() 是 RKNN-Toolkit2 中用于 评估模型在 NPU 运行时内存占用 的核心接口，提供模型运行时的内存分配详情与峰值统计，帮助开发者优化模型内存布局及资源分配。原创 2025-05-05 11:14:25 · 479 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之eval_perf函数详解
rknn.eval_perf() 是 RKNN-Toolkit2 中用于 评估模型推理性能 的核心方法，提供逐层耗时统计、内存占用分析及硬件利用率数据，帮助开发者定位计算瓶颈并优化模型。原创 2025-05-05 11:13:58 · 523 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之accuracy_analysis函数详解
accuracy_analysis() 是 RKNN-Toolkit2 中用于 量化精度分析 的核心接口，通过对比浮点模型与量化模型（或 NPU 硬件推理）的输出差异，定位量化误差来源。原创 2025-05-04 19:26:05 · 441 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之init_runtime函数详解
init_runtime() 是 RKNN-Toolkit2 中用于 初始化 NPU 运行时环境 的核心方法，直接影响模型在目标硬件上的部署与推理性能。原创 2025-05-04 19:25:52 · 719 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之inference函数详解
inference() 是 RKNN-Toolkit2 中用于 执行模型推理 的核心方法，支持多种输入格式和高级参数配置。原创 2025-05-03 20:23:20 · 676 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之export_rknn函数详解
export_rknn() 是 RKNN-Toolkit2 中用于 保存转换后的 RKNN 模型 的关键方法，支持导出标准模型或预编译模型。原创 2025-05-03 20:23:05 · 252 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API之build函数详解
build() 是 RKNN-Toolkit2 中用于 模型转换与量化 的核心方法，负责将加载的预训练模型（如ONNX/PyTorch）转换为 RKNN 格式，并执行硬件优化。原创 2025-05-02 19:18:53 · 452 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python 模型加载API函数详解
RKNN-Toolkit2 提供多种函数加载不同框架的预训练模型，将其转换为 RKNN 格式。原创 2025-05-02 19:18:39 · 465 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API函数之rknn.config()函数详解
rknn.config() 是 RKNN-Toolkit2 中用于 配置模型转换和推理参数 的核心方法，直接影响模型优化策略、量化精度及硬件适配性。原创 2025-05-01 22:58:41 · 831 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API函数之RKNN(config=None)函数详解
RKNN(config=None) 是 RKNN-Toolkit2 的核心构造函数，用于创建 RKNN 对象，初始化模型转换与部署的上下文环境。原创 2025-04-30 16:55:47 · 219 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 Python API函数详解
RKNN-Toolkit2 的 API 设计以开发者效率为核心，覆盖模型转换、量化、部署全流程。通过灵活的参数配置（如多核调度、混合量化）和调试工具（性能分析、精度对比），可快速适配复杂边缘场景。原创 2025-04-29 20:19:00 · 786 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit2 工具的详解
RKNN-Toolkit2 是 Rockchip 推出的第二代神经网络模型转换与优化工具，相比初代工具链，它在 多框架支持、量化精度、硬件兼容性 及 安全部署 等方面进行了全面升级。原创 2025-04-29 11:01:23 · 1551 阅读 · 0 评论 -
【RKNN】RKNN-Toolkit工具的详解
RKNN-Toolkit 是 Rockchip 官方提供的开发工具，用于将主流深度学习框架训练的模型转换为 RKNN 格式，并在 Rockchip NPU 硬件上进行高效推理。原创 2025-04-29 11:00:59 · 1302 阅读 · 0 评论 -
【RKNN】RKNN（Rockchip Neural Network） 的详解
RKNN 为 Rockchip 硬件提供了高效的 AI 推理解决方案，适合需要低功耗、实时响应的边缘场景原创 2025-04-28 08:34:51 · 1683 阅读 · 0 评论