修改MNN模型参数和节点的方法

已于 2022-04-18 10:58:26 修改
阅读量1.4k 收藏
点赞数 2
于 2022-04-18 10:57:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_19313495/article/details/124244290
版权

深度学习 神经网络 计算机视觉 mnn
本文介绍了如何使用MNNDump2Json和MNNRevert2Buffer工具修改MNN模型的结构。首先，通过MNNDump2Json将MNN模型转换为JSON文件，然后在JSON文件中找到并修改所需节点，最后用MNNRevert2Buffer将修改后的JSON文件转换回MNN模型，完成模型结构调整。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

最近有需求要更改MNN模型的结构，在网上找了好久，只找到两篇相关的，但是试了一下都没成功。

之后我在钉钉群里面问了一下，得到此方法。

编译的converter里面会有一个MNNDump2Json和MNNRevert2Buffer。

我们可以使用：

./MNNDump2Json XXX.mnn XXX.json

将mnn模型转为json文件。

然后我们可以在json文件里面找到我们要修改的节点进行修改。

最后使用：

./MNNRevert2Buffer XXX.json XXX.mnn

将json文件转为mnn模型就能搞定了。

.json文件的结构需要适应一下，不过看懂还是很简单的。

完事~

大模型推理加速调研（框架、方法）
qq_33287871的博客
01-05 778
大模型推理加速的目标是高吞吐量、低延迟。吞吐量为一个系统可以并行处理的任务量。延时，指一个系统串行处理一个任务时所花费的时间。调研了一些大模型推理的框架。近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，为了将大模型部署在端侧设备中，我们需要使用一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。量化（Quantization）剪枝（Pruning）知识蒸馏（Knowledge Distillation）
54、记录yolov7 训练、部署ncnn、部署mnn、部署rk3399pro npu、部署openvino、部署oak vpu、部署TensorRT
sxj731533730
12-15 5532
基本思想：记录一下yolov7训练人头检测和部署oak的vpu相机上和rk3399 pro开发板上，完成需求。一、准备数据集，来自官方数据集，存在问题，已经修正。二、在现有的数据集基础上转yolo数据集。修改yolov7.yaml。四、修改coco.yaml。
FP16/INT8 MNN 量化
weixin_67051070的博客
08-15 1519
是的，经过QAT训练之后，通过convert指令将模型转换为量化模型后，使用torch.save保存下来的.pth文件就是量化后的模型。这种量化模型的.pth文件可以被用作推理或转换为其他格式。推荐流程: 先将 PyTorch 模型转换为 MNN，然后再使用 MNN 的原生工具进行量化。这种方式能确保量化过程适应 MNN 的推理引擎，避免跨框架量化引入的不兼容问题。理由: MNN 框架对量化的支持和优化是基于其特定的推理引擎，因此通过 MNN 的量化工具量化的模型通常能获得更好的推理性能和精度。EMA。
从端到端打通模型端侧部署流程（MNN）
KingsMan666的博客
04-03 2126
官方文档有疑问一定要先查这里！MNN是一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。目前，MNN已经在阿里巴巴的手机淘宝、手机天猫、优酷等20多个App中使用，覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。此外，IoT等场景下也有若干应用。相对来讲，目前我们过了两个端侧部署框架NCNN和MNN，开源较早，社区成熟，案例较多，问题容易解决。易用性较强，相对于MNN会更容易上手，很多操作都直接封装到NCNN内部，方便操作。
【mnn】——模型文件参数修改（python）
怡宝2号
01-06 625
mnn, python 转载自:MNN模型文件参数修改（python） 生成python接口 这一步是通过flatc命令生成MNN模型结构的python接口。 cd MNN-master/schema/default/ flatc -p --all-gen MNN.fbs 执行完之后会生成MNN文件夹，这个文件夹包含了所有解析MNN模型结构的接口。 我们回过来看看MNN.fbs里面的内容： root_type Net这里指定了root节点。 Net结构 table Net { bizCod.
使用MNN进行模型推理(ubuntu)
qq_37546267的博客
08-17 4852
MNN是阿里开源的针对模型在移动端部署的框架，在模型移植的前期，我们往往需要经历代码调试的过程，而这个过程在PC端进行会比较方便。本文记录在ubuntu上MNN的运行环境配置，以及使用MNN进行推理的主要步骤。 本文所用模型为一个mnist模型，模型由TensorFlow训练，并转化为.mnn模型，推理程序主要依赖OpenCV和MNN两个库。 环境配置 如果你习惯于使用QT，可以参考以下内容编写.pro文件进行qmake： CONFIG += c++11 TARGET = mnist CONFIG +
tf.keras.preprocessing.image_dataset_from_directory()函数
重剑无锋博客
07-30 5874
image_size = (180, 180) batch_size = 32 train_ds = tf.keras.preprocessing.image_dataset_from_directory( "PetImages", validation_split=0.2, subset="training", seed=1337, image_size=image_size, batch_size=batch_size, ) val_ds = tf.k.
MNN测试程序所需要的模型和测试图片压缩包.rar
02-05
MNN测试程序所用到的模型和测试图片，具体结合MNN学习笔记博客系列第六篇中的代码进行使用： https://blog.youkuaiyun.com/sinat_31425585/category_9390512.html
Yolo-FastestV2在树莓派4B上的MNN移植记录
weixin_39266208的博客
12-25 4215
Yolo-FastestV2 https://github.com/dog-qiuqiu/Yolo-FastestV2/， 非常感谢作者的分享！ 模型准备 首先，下载代码，根据要求训练，或者直接使用作者训练好的模型，根据作者的文档，导出onnx模型。 MNN编译 下载最新的MNN代码。 编译MNNConvert 首先编译MNNConvert，这个是x86_64版本的，还好，用cmake可以在不同的目录里build，根据官方文档编译，默认是不成功的，我的版本是1.2.1。编译方式如下： cd MNN/ ./s
用YOLOv5模型识别出表情！
Datawhale
08-31 2014
↑↑↑关注后"星标"Datawhale每日干货&每月组队学习，不错过Datawhale干货作者：闫永强，算法工程师，Datawhale成员本文利用YOLOV...
mnn windows 转换工具 1.2.0
08-25
mnn windows 转换工具 1.2.0，release版，目前最新版，编译了2个小时，亲测可用,现在来分享给大家，可以直接用
MNN框架学习（二）：使用MNN部署模型
热门推荐
sinat_31425585的博客
10-01 1万+
这里代码其实大部分来自于xiongdongzhang的github项目：https://github.com/xindongzhang/MNN-APPLICATIONS，个人觉得学习一个新东西，最开始的步骤应该是用起来，至于怎么用起来，可以先参考一下别人怎么用的，将代码拆分、重组和封装，通过这一系列的过程，我们就可以基本掌握这个新东西的使用方法，会用之后，才考虑原理的学习。 这里...
MNN模型结构解读
JKANG94的博客
05-30 2488
MNN模型结构解读–反序列化为文本格式 MNN是阿里开源的端侧深度学习框架，支持Tensorflow、Caffe、ONNX、tflite主流模型文件格式，通过Convert模块将已经训练好的网络模型转为MNN定义的模型格式，官方已经支持Netron工具可视化MNN模型，由于MNN的模型结构定义使用了flatbuffers库，因此可以通过flatbuffers的接口将.mnn格式的文件解析为文本格式。 flatbuffers是谷歌开源的序列化结构化库，相比protobuf库性能更好更加轻量，只需包含inclu
MNN模型存储结构(flatbuffers)(转)
jjhhfb的博客
11-26 805
FlatBuffers，MNN模型存储结构基础-------------https://www.jianshu.com/p/8eb153c12a4b Mnn模型存储结构-------------https://www.jianshu.com/p/b1fa70005dbf Mnn Converter Debug [进阶] ---- 微架构设计 & 模型定制化转换概述-----------...
kernel参数值设定
zhangweibh的专栏
06-01 3645
服务器内存为4G的情况下 vi     /etc/sysctl.conf net.ipv4.ip_forward = 0 net.ipv4.conf.default.rp_filter = 1 net.ipv4.conf.default.accept_source_route = 0 kernel.sysrq = 0 kernel.core_uses_pid = 1 net.i
深度学习模型部署框架之mnn
最新发布
心流的博客
12-08 758
本文是深度学习模型部署框架的第三篇，更多部署框架可以查看本专栏的其他文章。概念：mnn是一个轻量级的深度神经网络引擎，支持深度学习的推理与训练。适用于服务器、个人电脑、手机、嵌入式各类设备。优势：轻量性，无任何依赖；兼容性好，支持常见的框架；工具齐全，与开发者交流方便。坑点：实践的不多，目前没发现什么坑点。本文介绍了mnn的在应用方面的一些经验总结，更多内容参阅文档。
MNN推理引擎框架简介
csdndevpress0035的博客
07-24 1642
MNN（Mobile Neural Network）一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。
MNN：从入门到源码剖析（一）
weixin_43214408的博客
10-13 2839
MNN简介 安装 运行Demo 分析Demo
浅析移动终端深度学习推理框架之MNN
03-27 2221
MNN是一种深度学习的开源推理引擎，全称是"Mobile Neural Network"，主要用于在移动设备和嵌入式设备上执行深度神经网络模型的推理任务。它支持跨平台的推理引擎API，可以运行在不同的硬件设备上，包括Android、iOS、Linux 和 Windows 等系统。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值