树莓派（8）：树莓派搭建MNN

最新推荐文章于 2024-04-29 15:08:19 发布

原创

最新推荐文章于 2024-04-29 15:08:19 发布 · 2.2k 阅读

12 ·

CC 4.0 BY-SA版权

文章标签：

#神经网络

本文详细介绍在树莓派4B上搭建MNN轻量级深度神经网络推理引擎的过程，包括硬件和软件环境配置、MNN版本选择、编译选项设置及编译步骤。提供亲测可行的MNN版本，附带编译后的MNN库文件下载链接。

树莓派搭建MNN

0.环境
- 0.1硬件环境
- 0.2软件环境
1.获取MNN
2.编译选项
3.Build on RaspberryPi
- 3.1准备
- 3.2 编译
4. End & Share

MNN是一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。

最近在树莓派上部署了一下，跑神经网络能够达到非常不错的效果。关于MNN的资料非常多，相信大家可以轻松找到，比如语雀这里就有很详细的资料，其github也是有更为直接的资料。

在此只记录一下树莓派搭建MNN的过程，包括安装界面以及遇到的一些坑，以便下次有需求时能顺利搭建，同时也供大家参考。

0.环境

0.1硬件环境

我用的是树莓派4B(4G版本)，应该是各种树莓派型号都可以。

0.2软件环境

我用的是树莓派镜像buster版本，另外，MNN对于cmake、protobuf、gcc的版本是有一定要求的——

cmake (version >=3.10 is recommended)
protobuf (version >= 3.0 is required)
gcc (version >= 4.9 is required)

这个比较简单，更新到最新版本就OK了。

1.获取MNN

git clone https://github.com/alibaba/MNN.git
此方法要慎重，MNN版本不对会很麻烦。比如出现下面这种状况——

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Zhao Dongyu

关注关注

1
点赞
踩
12

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

在树莓派4B上基于NCNN框架部署YOLOv8的实战教程

m0_64661770的博客

07-23

305

摘要：本文详细介绍了在树莓派4B上基于NCNN框架部署YOLOv8目标检测模型的完整流程。从PyTorch模型转换为NCNN格式，到树莓派环境配置（OpenCV和NCNN编译），再到C++代码实现与优化，涵盖模型加载、推理和绘图等核心功能。测试结果显示，树莓派4B上可实现约2 FPS的检测速度，Windows平台达6~7 FPS。文章还提供了量化模型、多线程优化等实用建议，并附常见问题解答，为边缘设备部署轻量化目标检测提供了可行方案。（149字）

基于树莓派4B与NCNN的YOLOv8高效部署实战：无GPU环境下的C++加速优化全流程指南**

2 条评论

摩羯小虾 2020.06.20
1.0可以编过。。
- Zhao Dongyu回复摩羯小虾 2020.06.22
  [reply]qq_24442581[/reply]谢谢:)

树莓派安装MNN

上善若水，为而不争

04-12

2157

前言 MNN是阿里开源的一款用于边缘端设备部署、推理深度学习模型的框架，与腾讯开源的ncnn类似哈。 MNN在[github](https://github.com/alibaba/MNN "github")上有开源，同时官方也有提供[开发接口文档](https://www.yuque.com/mnn "开发接口文档")；而且写的比较详细。跟ncnn一样，MNN也是在手机端用的还比较多，...

树莓派4B使用MNN部署Yolov5-lite

deku_desi的博客

06-16

2889

树莓派使用MNN部署yolov5-lite

在树莓派4B上手动编译whl文件安装python的MNN包

叼辣条闯天涯

05-11

1252

免VIP阅读：https://blog.gabrielme.xyz/MNN-Python-On-Raspberry-Pi-4B/ 本文内容来自ling9601在MNN GitHub中issues_1051的回答，加上笔者实测过程中的一些注释。由于MNN没有用于树莓派4B的pip安装包，所以需要在树莓派上使用python版的MNN的话可以自己编译whl文件，然后安装。或者直接尝试安装笔者编译的whl包：点这里，安装失败再自行编译。笔者使用的树莓派4B系统为2021-05-07-raspios-buste

前端部署MNN+树莓派从0到1_环境配置

sinat_29634715的博客

11-22

786

接触深度学习也有段时间了，实际项目落地部署尤为重要，尤其前端部署，再牛逼的模型部署不支持也是白瞎。所以想着折腾下前端部署，github开源项目+前端部署岂不美哉。高通、海思、安霸针对自己的硬件都有自己一套深度学习加速，但底层源码都是不开源，只是提供上层的api接口；目光转移到了腾讯的ncnn和阿里的mnn，考虑到mnn的文档比较详细，便选择了mnn，正好手头有树莓派这个前端设备，便有了前端部署MNN+树莓派这个系列。一.树莓派安装OpenCV https://www.pyimagesearch..

在Raspberry Pi 4上安装NCNN/MNN深度学习框架(aarch64+armv7l)

热门推荐

xfxuezhang.cn

11-30

1万+

实用、简单。 Raspberry 64-bit (aarch64) # check for updates (64-bit OS is still under development!) $ sudo apt-get update $ sudo apt-get upgrade # install dependencies $ sudo apt-get install cmake wget $ sudo apt-get install libprotobuf-dev

树莓派环境搭建

sinat_29634715的博客

08-28

302

1.烧录系统 https://www.raspberrypi.org/software/operating-systems/#raspberry-pi-os-32-bit https://shumeipai.nxez.com/2013/09/07/raspberry-pi-under-windows-system-installation-to-sd-card.h 2.远程连接（默认密码raspberry） Preference--->Raspberry Pi Configuratio..

树莓派上YOLO11模型优化实现高效目标检测

通过对这三种格式的性能对比（如FPS帧率、内存占用、启动时间、功耗等指标），项目得出了最适合树莓派平台的部署方案，可能是基于NCNN或MNN的INT8量化模型，配合TensorRT-like的底层优化策略，实现了接近实时的检测...

树莓派上部署ncnn，运行yolov5_lite算法，最简单的方法，保姆级教程你值得拥有！！！！！

qq_45756736的博客

04-29

3510

本实验使用的是这个下载好镜像之后，一定要先改交换区的大小，不然后面会卡到你怀疑人生，推荐看这个进行本实验前需要更换国内源，换源大家可以看看https://blog.youkuaiyun.com/qq_45756736/article/details/138291635?安装运行环境，训练模型等，这里就不再赘述。

Ubuntu16.04 Python安装MNN

爱哭鬼

07-21

1329

apt-get install graphviz pip install -U pip pip install -U MNN mnn #查看mnn信息

Yolo-FastestV2在树莓派4B上的MNN移植记录

weixin_39266208的博客

12-25

4346

Yolo-FastestV2 https://github.com/dog-qiuqiu/Yolo-FastestV2/，非常感谢作者的分享！模型准备首先，下载代码，根据要求训练，或者直接使用作者训练好的模型，根据作者的文档，导出onnx模型。 MNN编译下载最新的MNN代码。编译MNNConvert 首先编译MNNConvert，这个是x86_64版本的，还好，用cmake可以在不同的目录里build，根据官方文档编译，默认是不成功的，我的版本是1.2.1。编译方式如下： cd MNN/ ./s

34、树莓派进行人体姿态检测并进行语音播报

sxj731533730

07-31

3149

第二步写代码在树莓中，调用串口和摄像头（摄像头可以使用手机的摄像头或者笔记本的摄像头直接用ffmpeg拉流推流给树莓派代码），我用的usb摄像头，推拉流摄像头使用手机摄像头当做实际树莓派的输入视频流参考这篇。基本思想需要水一篇博客，套用了qiuqiu大佬的simplepose代码，使用ncnn框架，做了个动作检测，然后套用了树莓派4b和使用了语音模块播报。其中中文生成语音十六进制使用喇叭官方软件拷贝就行，只上个简单图。一、自己购买树莓派和喇叭，链接参考这篇博客。..................

MNN使用详细指南(原创，包含树莓派构建MNN)

我们的征途是星辰大海的博客

01-04

1万+

MNN使用指南(包含树莓派构建MNN) C++版分三步： 1、 MNN动态链接库构建：首先请下载MNN包： https://github.com/alibaba/MNN 解压后文件夹重命名为MNN! 然后是编译：类似于opencv编译动态链接库，我们要想使用MNN同样需要进行libMNN.so构建，详情请查看https://www.yuque.com/mnn/cn/build_linux 这里我...

树莓派3B 内核模块编译

xm_chen1980的博客

12-27

3215

树莓派3 Model B到手，按照操作说明书组装起来，成功启动，证明硬件没有问题。从树莓派官网下载系统镜像文件2016-11-25-raspbian-jessie.img，按照操作说明将其少烧写到TF卡上。启动系统后，输入命令uname -a,可以得到输出： Linux raspberrypi 4.4.34-v7+ #930 SMP Wed Nov 23 15:20:41 GMT 201

MNN框架学习（一）：编译及使用

sinat_31425585的博客

09-28

1万+

1.编译MNNConvert工具：需要预先安装protobuf >= 3.1.0， protobuf >= 3.0 gcc版本高于4.9 cd MNN/tools/converter ./generate_schema.sh mkdir build cd build && cmake .. && make -j4 # ...

MNN和NCNN安装记录

时光机 °的博客

06-21

4458

安装cmake wget https://github.com/Kitware/CMake/releases/download/v3.15.0-rc1/cmake-3.15.0-rc1.tar.gz tar -zxvf cmake-3.15.0-rc1.tar.gz cd cmake-3.15.0-rc1 ./bootstrap make –j make install cmake –versi...

轻量级深度神经网络推理引擎——阿里巴巴的 MNN

c20081052的专栏

05-06

3174

MNN 是一个轻量级深度神经网络推理引擎。仓库地址：https://github.com/alibaba/MNN 截止目前20190506 发布了测试版beta0.1.1 介绍 MNN是轻量级深度神经网络推理引擎。可在设备上加载模型并做推理。目前，MNN已经应用在超过20个阿里的app中，比如淘宝、天猫、优酷等等，覆盖直播，短视频，搜索推荐，通过图片搜索产品，互动市场，股权配置...

树莓派MNN.llm

05-24

### 树莓派与MNN.llm安装配置及使用教程 #### 1. 树莓派简介 树莓派是一种基于ARM架构的小型单板计算机，广泛应用于嵌入式开发、物联网项目以及机器学习模型部署等领域。其低功耗特性和强大的硬件支持使其成为开发者青睐的选择之一[^1]。 #### 2. MNN框架概述 MNN (Mobile Neural Network) 是阿里巴巴开源的一个轻量级神经网络推理框架，专为移动设备优化设计。它能够高效运行各种深度学习模型，在资源受限环境下表现出优异性能[^2]。 #### 3. 环境准备在开始之前，请确认已准备好以下条件： - 已完成操作系统镜像烧录并正常启动的树莓派设备； - Python环境版本建议Python 3.x以上； - 连接至互联网以便下载必要的依赖库文件。 #### 4. 安装过程详解 ##### （1）更新系统包管理器索引执行命令刷新APT源列表以获取最新软件信息。 ```bash sudo apt update && sudo apt upgrade -y ``` ##### （2）安装基础构建工具链及相关组件为了编译自定义模块或者处理特定需求可能需要用到gcc/g++编译器以及其他辅助程序。 ```bash sudo apt install build-essential cmake git python3-dev libatlas-base-dev -y ``` ##### （3）克隆官方仓库到本地目录下通过Git命令拉取远程存储库中的代码副本用于后续操作。 ```bash git clone https://github.com/alibaba/MNN.git ~/MNN cd ~/MNN ``` ##### （4）切换分支标签匹配目标平台特性由于不同硬件可能存在差异因此需选取适配版次进行定制化调整。 ```bash git checkout v1.3.0 # 或者其他稳定发行版本号 ``` ##### （5）生成Makefile脚本前先指定交叉编译参数选项考虑到Raspberry Pi系列采用的是armv7l指令集结构所以这里要特别指明主机类型等相关细节设置。 ```bash mkdir build && cd build cmake .. \ -DCMAKE_SYSTEM_NAME=Linux \ -DCMAKE_SYSTEM_PROCESSOR=arm \ -DMNN_BUILD_FOR_RASPBERRY=true \ -DMNN_USE_THREAD_POOL=false make -j$(nproc) ``` ##### （6）验证成功与否并通过简单测试案例检验功能可用性加载预训练权重数据后调用接口方法实现图像分类预测等功能演示效果展示给用户看。 ```python from PIL import Image import numpy as np from mnn import Interpreter, Session def load_model(path): interpreter = Interpreter(path) session = Session(interpreter) input_tensor = interpreter.getSessionInput(session) return interpreter, session, input_tensor image_path = 'test.jpg' model_file = './example/mobilenet_v1_1.0_224_quant.mnn' img = Image.open(image_path).resize((224, 224)) data = np.array(img.convert('RGB')).astype(np.float32)[np.newaxis,...]/255. interpreter, session, input_tensor = load_model(model_file) tmp_buffer = data.tobytes() input_tensor.copyFrom(tmp_buffer) interpreter.runSession(session) output_tensor = interpreter.getSessionOutputAll(session)['MobilenetV1/Predictions/Reshape_1'] print(output_tensor.getData()) ``` #### 5. 常见问题排查指南如果遇到错误提示无法顺利完成整个流程可以尝试按照如下方式逐一解决： - 检查联网状态确保能顺利访问外部站点； - 对照文档说明仔细核对每一步骤输入是否正确无误； - 查阅社区论坛寻求帮助交流经验技巧；