树莓派Armv7l（Yolov5+Onnx）

原创 已于 2023-12-26 14:48:49 修改 · 1.1k 阅读 · 16 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#YOLO #linux

于 2023-12-24 19:24:00 首次发布

树莓派Armv7l（Yolov5+Onnx）

镜像网站

https://www.piwheels.org/simple/

1.pandas、opencv、numpy安装

https://www.piwheels.org/simple/pandas/pandas-1.0.3-cp37-cp37m-linux_armv7l.whl
https://www.piwheels.org/simple/opencv-python/opencv_python-4.4.0.44-cp37-cp37m-linux_armv7l.whl
https://www.piwheels.org/simple/numpy/numpy-1.21.4-cp37-cp37m-linux_armv7l.whl

2.torch系列安装

2.1torch系列对应关系

全文链接：https://gitcode.com/pytorch/vision/overview?utm_source=csdn_github_accelerator&isLogin=1

2.2.torch安装

链接：https://github.com/KumaTea/pytorch-arm/tags

我选择的是torch-1.7.1-cp37-cp37m-linux_armv7l.whl

2.3. torchvision安装

我选择的是**torchvision-0.8.2
最低0.47元/天 解锁文章
树莓派4b onnxruntime安装运行yolov5
weixin_42357472的博客
05-13 5863
1、安装onnxruntime 参考：https://github.com/PINTO0309/onnxruntime4raspberrypi wget -O onnxruntime-1.9.1-cp37-none-linux_armv7l.whl https://github.com/PINTO0309/onnxruntime4raspberrypi/releases/download/v1.9.1/onnxruntime-1.9.1-cp37-none-linux_armv7l.whl_np1195
35、ubuntu20.04搭建瑞芯微的npu仿真环境和测试rv1126的Debain系统下的yolov5+npu检测功能以及RKNN推理部署以及RTSP视频流解码
sxj731533730
08-06 9866
镜像是：F:\rv1126\AIO-RV1126(1109)-JD4\Buildroot\薪火车牌识别固件\AIO-RV1126_RV1109-XHLPR_IPC_2021_0906_1125。第一步：刷机，真的是难，各种各样的小问题，反正成功的方法只有一个，遇到问题，断电重新进行连接，刷机，基本都能解决上次的问题，这说的我都无语了,刷了的debain10系统。替换配置是：F:\rv1126\Debian10\debian10_2021_0429_1902。刷机固件网址和方法参考官方。...........
【树莓派换清华源 】 armv7l bullseye
TYJhhxx的博客
12-11 1897
【树莓派换清华源 】 armv7l bullseye
armv7l安装miniconda
酷酷的小飞侠的博客
12-13 2746
armv7l架构的资料相对较少，本文记录安装miniconda及搭建虚拟python环境的过程。
python2.7.16 armv7l版本
06-10
python2.7.17，armv7l交叉编译版本，可运行于嵌入式linux
armv7l
BlueBirdssh的专栏
02-20 649
在 **ARMv7l** 中，最后的字符是字母 **“l”**（小写字母 “L”），表示 **little-endian** 存储模式，而不是数字 **“1”**。在 **ARMv7l** 中，最后的字符是字母 **“l”**（小写字母 “L”），而不是数字 **“1”**。在处理器架构中，**“l”** 通常表示 **little-endian**，而不是数字 **1**。- **armv7b**：表示 ARMv7 架构，运行在 **big-endian**（大端模式）。### 4. **总结**
raspberrypi 树莓派 armv7l 32位的系统安装onnxruntime
weixin_45233413的博客
06-09 7827
raspberrypi 树莓派 armv7l 32位的系统安装onnxruntime
ARMv7l架构Android系统动态库文件深入解析
最新发布
weixin_35757531的博客
07-25 1227
ARMv7架构是ARM公司设计的一系列32位RISC处理器架构的代号。这一架构自从2000年代初期开始，逐渐成为移动设备处理器架构的事实标准。ARMv7架构在保持低功耗的基础上，加强了计算性能和多媒体处理能力，这使得搭载ARMv7处理器的移动设备在处理速度上有了质的飞跃。ARMv7架构的主要特点包括：高性能与能效比：通过对处理器的优化设计，ARMv7在提供高性能的同时，保证了低功耗的运行。丰富的指令集：ARMv7拥有丰富的指令集，支持多种编程语言和操作系统。
树莓派上使用dockers运行yolov5-lite目标检测项目（onnxruntime）
guanhougan的博客
08-03 1139
创建docker环境并运行yolov5-lite目标检测项目
树莓派4B（armv7l，arm32）buster部署英特尔第二代神经计算棒，示例：运行darknet-yolov4-tiny
DEDSEC_Roger的博客
10-20 2904
开启cmd，“以管理员身份运行”，先激活之前创建的虚拟环境并设置环境变量，导航到有.pb文件的地方，使用Windows上的Model Optimizer生成IR文件，按照你自己在Windows上的OpenVINO安装路径来运行下面的代码。接下来为Model Optimizer做准备，因为我只打算将TensorFlow的模型文件作为我的转换媒介，因此我只做关于TensorFlow的准备，其他模型文件的转换可以参考下面的链接。这种环境变量的设置方法是临时的，关闭cmd就失效，也可以手动设置永久的环境变量。
numpy-1.18.2-cp37-cp37m-linux_armv7l.whl
04-07
树莓派安装tensorflow所需依赖包，numpy-1.18.2-cp37-cp37m-linux_armv7l.whl
armv7交叉编译工具.rar
10-18
这是armv7的交叉编译工具，我用来在rk3288的板卡上进行交叉编译时用的。是在linaro的官网上下载的，2018版的，很好用。
scipy-1.4.1-cp37-cp37m-linux_armv7l .rar
03-26
机器学习比不可少的的依赖包。基于arm，树莓派。国内镜像都是基于Windows或者linux的。官网下载速度奇慢，直接pip安装基本可以放弃，在此提供该版本，供大家学习使用。
torch-1.7.0a0-cp37-cp37m-linux_armv7l.whl
11-27
在树莓派上编译好的Pytorch安装包，树莓派4b 32位系统, Pytorch 1.7.0, Python3.7
torch-1.6.0a0+b31f58d-cp37-cp37m-linux_armv7l.whl
01-08
树莓派上python3.7 pytorch1.6 安装包
什么是 armv7l？
抟土成人祖，炼石补青天。眼中览银河，手可摘星辰。
12-25 1845
如果你的系统架构显示为 armv7larmv7larmv7ll32armv7l。
玩客云 armv7l armbian 编译安装opencv2和opencv-contrib-python
thinktanker的博客
02-16 1857
玩客云刷机系统为Armbian 23.11.1 Jammy with Linux 6.4.13-edge-meson，很多包不好直接安装和下载，因此只能由源码编译以opencv-contrib-python-4.6.0.66 ( opencv-python-4.9.0.80一样操作) 下载源码 cd ~/downloads tar -zcvf opencv-contrib-python-4.6.0.66.tar.gz cd opencv-contrib-python-4.6.0.66采用setup.py安装
armv7l安卓刷linux,技术讲解-安卓APK快速生成后门（实现手机入侵）
weixin_30695203的博客
05-13 2572
Hello，朋友们大家好，欢迎来到LIUSE网络。对于渗透测试来讲，一个成功的Backdoor(后门)是非常有价值的！那么今天Liuse就带领大家一起来学习基于安卓apk的后门制作。对于不知道什么是“后门”的同学，请去墙角面壁思过三分钟。什么是后门：后门程序就是留在计算机系统中，供某位特殊使用者通过某种特殊方式控制计算机系统的途径。等于你买了开发商一套房子，开发商在你家后院挖了一条秘密通道，可以随...
玩客云折腾之路 - (Armbian/Armv7l) 搭建Gitea - 通过二进制文件安装
wangvic21的博客
05-04 5030
记录一下玩客云如何安装gitea，实现代码的托管。由于Docker镜像无Armv7镜像，需要通过命令行运行可执行文件。
c onnxruntime 部署yolov5树莓派
03-21
<think>好的，我现在需要帮助用户在树莓派上使用C语言通过ONNXRuntime部署YOLOv5模型。首先，我得理清楚整个流程可能涉及的步骤和潜在的问题。 首先，用户提到了树莓派、C语言和ONNXRuntime，以及YOLOv5模型。我知道ONNX Runtime是一个跨平台的机器学习模型推理框架，支持多种语言，包括C。树莓派是基于ARM架构的，所以需要注意ONNXRuntime的版本是否支持ARM，尤其是可能需要的ARMv7或ARMv8架构。 第一步，用户需要安装ONNXRuntime的C库。我应该检查官方文档是否有针对树莓派的预编译版本。如果没有，可能需要从源码编译，这可能会比较麻烦，特别是依赖项的管理，比如需要安装CMake、必要的开发工具链等。用户可能需要先更新系统，安装依赖，然后下载源码编译。这里可能需要提醒用户注意编译时的配置选项，比如是否启用GPU支持，但树莓派的GPU可能不支持，所以可能只能使用CPU。 接下来，用户需要将YOLOv5模型导出为ONNX格式。YOLOv5通常是使用PyTorch训练的，所以用户需要先用PyTorch的export.py脚本将模型转换为ONNX。这里可能需要确认opset版本是否兼容，以及输入输出的形状是否正确。比如，输入是否为1x3x640x640的张量，输出是否处理正确。用户可能需要安装必要的Python库，比如onnx和onnxruntime，或者torch.onnx来导出模型。 然后，编写C语言代码来调用ONNX Runtime进行推理。这里需要包括头文件，链接相应的库文件。用户需要初始化环境，创建会话，准备输入和输出张量。对于图像处理部分，可能需要用C语言读取图像，进行预处理，比如缩放、归一化、转换为float32等。这可能需要使用像libjpeg或stb_image这样的库来加载图像，或者用OpenCV，但在树莓派上安装OpenCV可能比较麻烦，可能需要用更轻量的库。 预处理后的数据需要填充到ONNXRuntime的输入张量中，然后调用SessionRun进行推理。之后，解析输出张量，执行后处理，比如非极大值抑制（NMS）来过滤检测框。这部分在C语言中实现可能比较复杂，需要手动处理张量数据，计算置信度、类别概率，以及框的坐标转换。 编译时，用户需要确保正确链接ONNXRuntime的库，可能需要设置编译选项如-I和-L来指定头文件和库的路径。使用gcc时，需要添加-lonnxruntime的链接选项。如果编译时找不到库，可能需要检查LD_LIBRARY_PATH是否包含库的路径，或者在编译时使用-Wl,-rpath选项。 可能遇到的问题包括：ONNXRuntime的版本不兼容树莓派架构，导致无法运行；模型导出时的错误，比如不支持的算子；预处理和后处理的代码错误，导致推理结果不正确；内存不足，因为树莓派的内存有限，大模型可能无法加载；性能问题，因为树莓派的CPU处理能力较弱，推理速度可能很慢。 关于性能优化，用户可能需要考虑模型量化，比如将FP32模型转换为INT8，但ONNXRuntime在ARM上是否支持量化需要确认。另外，多线程可能帮助，参考引用[1]中提到使用pthread库进行多线程编程，但需要看ONNXRuntime是否支持多线程推理，或者用户自己将图像处理并行化。不过，在资源有限的树莓派上，多线程可能带来额外的开销，需要权衡。 另外，用户可能需要交叉编译ONNXRuntime，或者在树莓派本地编译，但后者可能耗时较长。如果用户遇到编译问题，可能需要检查依赖是否全部安装，或者尝试更简单的例程先验证ONNXRuntime是否正确安装。 最后，测试整个流程时，用户需要准备测试图像，运行程序，检查输出是否正确检测到目标。如果结果不对，可能需要逐步调试，比如检查输入数据是否正确预处理，输出张量的解析是否正确，模型是否导出正确等。 综上所述，步骤大致分为：环境准备（安装ONNXRuntime），模型导出，C代码编写（包括预处理、推理、后处理），编译和测试。需要详细指导用户每一步的具体操作，并提醒可能遇到的坑和解决方法。</think>在树莓派上使用C语言通过ONNXRuntime部署YOLOv5模型，需按照以下步骤进行： --- ### **1. 环境准备** #### 1.1 安装ONNXRuntime C库 - **下载预编译库**：访问ONNXRuntime的[GitHub Release页面](https://github.com/microsoft/onnxruntime/releases)，选择支持ARM架构的版本（如`linux-arm`或`linux-arm64`）。若无预编译版本，需从源码编译： ```bash git clone --recursive https://github.com/microsoft/onnxruntime cd onnxruntime ./build.sh --config MinSizeRel --arm --update --build ``` - **设置环境变量**：将编译生成的库路径（如`onnxruntime/build/Linux/MinSizeRel`）添加到`LD_LIBRARY_PATH`： ```bash export LD_LIBRARY_PATH=/path/to/onnxruntime/lib:$LD_LIBRARY_PATH ``` #### 1.2 模型导出 使用PyTorch将YOLOv5模型转换为ONNX格式： ```python # 在Python环境中执行 import torch model = torch.hub.load('ultralytics/yolov5', 'yolov5s', pretrained=True) dummy_input = torch.randn(1, 3, 640, 640) # 输入尺寸需与模型匹配 torch.onnx.export(model, dummy_input, "yolov5s.onnx", opset_version=12) ``` 确保导出时指定`opset_version=12`以兼容ONNXRuntime[^1]。 --- ### **2. C语言代码实现** #### 2.1 初始化ONNXRuntime环境 ```c #include <onnxruntime_c_api.h> int main() { OrtEnv* env; OrtCreateEnv(ORT_LOGGING_LEVEL_WARNING, "YOLOv5", &env); OrtSessionOptions* session_options; OrtCreateSessionOptions(&session_options); OrtSetIntraOpNumThreads(session_options, 4); // 设置线程数 OrtSession* session; OrtCreateSession(env, "yolov5s.onnx", session_options, &session); // ...后续代码 } ``` #### 2.2 输入预处理 - **图像加载**：使用`stb_image.h`加载图像并调整尺寸至640x640： ```c #define STB_IMAGE_IMPLEMENTATION #include "stb_image.h" int width, height, channels; unsigned char* img_data = stbi_load("input.jpg", &width, &height, &channels, 3); ``` - **归一化与格式转换**：将像素值归一化到[0,1]并转换为`float32`： ```c float* input_data = (float*)malloc(1 * 3 * 640 * 640 * sizeof(float)); for (int i = 0; i < 640 * 640; i++) { input_data[i] = img_data[i * 3] / 255.0f; // R input_data[i + 640*640] = img_data[i*3+1] / 255.0f; // G input_data[i + 2*640*640] = img_data[i*3+2] / 255.0f;// B } ``` #### 2.3 运行推理 ```c OrtMemoryInfo* memory_info; OrtCreateCpuMemoryInfo(OrtDeviceAllocator, OrtMemTypeDefault, &memory_info); OrtValue* input_tensor; OrtCreateTensorWithDataAsOrtValue(memory_info, input_data, 1*3*640*640*sizeof(float), (int64_t[]){1,3,640,640}, 4, ONNX_TENSOR_ELEMENT_DATA_TYPE_FLOAT, &input_tensor); const char* input_names[] = {"images"}; const char* output_names[] = {"output"}; OrtValue* output_tensor; OrtRun(session, NULL, input_names, &input_tensor, 1, output_names, 1, &output_tensor); ``` #### 2.4 后处理与NMS 解析输出张量并过滤检测框： ```c float* output_data; OrtGetTensorMutableData(output_tensor, (void**)&output_data); // 假设输出形状为[1,25200,85]，85对应x,y,w,h,conf,80类概率 for (int i = 0; i < 25200; i++) { float conf = output_data[i*85 + 4]; if (conf < 0.5) continue; // 置信度阈值过滤 // 计算类别概率最大值... // 应用非极大值抑制(NMS)... } ``` --- ### **3. 编译与运行** 使用`gcc`编译并链接ONNXRuntime库： ```bash gcc yolov5_inference.c -o yolov5 -I/path/to/onnxruntime/include -L/path/to/onnxruntime/lib -lonnxruntime -lm ``` --- ### **注意事项** 1. **性能优化**：树莓派CPU性能有限，可尝试以下优化： - 使用量化后的INT8模型（需ONNXRuntime支持）。 - 减少输入分辨率（如320x320）。 - 启用多线程（通过`OrtSetIntraOpNumThreads`）。 2. **内存限制**：树莓派4B内存为4GB，大型模型可能导致OOM，建议使用YOLOv5s或更小模型。 ---
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值