weixin_38991876的博客

借用了实际计算还是使用的方式。

如果做量化，又要考虑到模型的有效性问题，因为量化后类别的输出和回归检测框的输出同时做归一化，一个范围是0-1,一个范围是0-640,必然导致类别的输出基本全部为0,导致量化模型没法用。下面会给出我按照该7种方法针对rk3568做部署的代码，我这里onnx的推理和生成rknn的方法和他的一致，不一样的是C++部署部分。他那里直接给出了官方模型调整后的onnx文件，如果想要使用自己的模型，onnx网络结构的修改可以参考我之前的文章。我主要参考的是我前同事的博客，他这里写的非常清楚。

之前的做法一直是直接在源码ultralytics里面对模型的网络结构部分的代码就行修改，然后在推理那里增加一个保存onnx的操作，执行一遍推理，虽然推理会崩溃，但是可以顺利保存我们想要的onnx文件。4.启动脚本，并在浏览器上输入127.0.0.1:5000，即可访问onnx-modifier的界面，然后就可以打开onnx文件并做操作了。2.然后需要把onnx-modifier的源码下载下来 https://github.com/ZhangGe6/onnx-modifier。

C3模块基于CSPNet（Cross Stage Partial Network）思想，由三个卷积层构成，分为两条分支：一条通过多个Bottleneck模块堆叠，另一条直接进行卷积操作，最终将两条分支的特征图拼接后输出。引入轻量化设计，如将第一个卷积的核大小从1x1改为3x3，恢复类似ResNet的Bottleneck结构。：在COCO数据集上，YOLOv11的模型参数比YOLOv8减少22%，同时保持更高的mAP。：通过动态结构和注意力机制，更适合复杂场景的高精度需求，但实现复杂度较高。

在小规模自定义数据集（如工业螺母检测）上，两者的mAP(0.5)均达到0.995，但YOLOv8在更严格的mAP(0.5~0.95)指标上略优。：替换YOLOv8的主干为EfficientNetV1，通过均衡缩放深度、宽度和分辨率，降低参数量并提升精度（实验显示mAP提升约2%）。YOLOv11通过优化网络结构和引入轻量化模块（如DWConv），在保持实时性的同时降低了计算量，适合边缘设备部署。YOLOv11对模型的深度（层数）和宽度（通道数）进行了优化调整，增强了复杂场景下的鲁棒性。

YOLOv8的颈部网络是Backbone和Head之间的桥梁，核心目标是生成多尺度、高语义、高分辨率的特征金字塔，使模型能同时高效检测不同大小的目标，同时兼顾速度与精度需求。

YOLOv8 通过架构创新和训练策略优化，显著提升了模型性能，同时保持了 YOLO 系列的高效率特性，是目前更推荐的主流选择。C2f 通过增加跨层连接和更多的分支结构，提升了特征提取能力，同时减少了计算量。Backbone 和 Neck 的深度增加，通过更复杂的特征融合提升检测精度，尤其是在小目标和密集场景中。（任务对齐分配器），动态分配正负样本，替代 YOLOv5 的静态分配策略，提升训练效率。支持基于无标签数据的预训练（如 DETR 风格的预训练），提升小数据集上的表现。

注：在64位Linux系统中，BOARD_ARCH对应aarch64目录，在32位系统，对应armhf目录。2.第一步安装完成以后，可以实现python文件的推理，想要使用C++还需要配置相关的SDK环境。下载rknn-toolkit2的安装包，有点大，如果git clone不行可以考虑直接下载包即可。本文实现yolov8的rk3568板端部署的基本npu环境配置，以比较简洁的方式，亲测可行。这里注意要保证安装包的版本和第1步安装的python版本一致，例如我的都是v2.3.0。

参考该文章：侵删。