将pytorch 模型转为 ncnn模型

最新推荐文章于 2024-08-08 18:52:13 发布
原创 最新推荐文章于 2024-08-08 18:52:13 发布 · 881 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#pytorch #android #ncnn

该教程详细介绍了如何在Visual Studio 2019环境下将PyTorch模型转换为NCNN模型。首先，通过.pth文件转换为ONNX格式，然后编译protobuf-3.4.0和NCNN库，最后使用onnx2ncnn工具将ONNX模型转换为NCNN。过程中可能遇到nmake找不到、rc编译错误等问题，解决方法包括添加环境变量和修改CMake配置。完成转换后，将在NCNN的build目录下得到ncnn.bin和ncnn.param文件。

将pytorch 模型转为 ncnn模型（vs 2019 ）

文章目录

step 1 pth文件转为onnx文件

具体步骤可以参考：https://github.com/ultralytics/yolov5/blob/master/export.py
和https://blog.youkuaiyun.com/weixin_44753371/article/details/119328952的step1

step2:.onnx转ncnn模型

编译protobuf-3.4.0

下载 protobuf-3.4.0 https://github.com/google/protobuf/archive/v3.4.0.zip

cd <protobuf-root-dir>
mkdir build
cd build
cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -Dprotobuf_BUILD_TESTS=OFF -Dprotobuf_MSVC_STATIC_RUNTIME=OFF ../cmake
nmake
nmake install

Build ncnn library

cd <ncnn-root-dir>
mkdir -p build
cd build
cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -DProtobuf_INCLUDE_DIR=<protobuf-root-dir>/build/install/include -DProtobuf_LIBRARIES=<protobuf-root-dir>/build/install/lib/libprotobuf.lib -DProtobuf_PROTOC_EXECUTABLE=<protobuf-root-dir>/build/install/bin/protoc.exe ..
nmake
nmake install

或：

cd
最低0.47元/天 解锁文章
39、Pytorch口罩模型，转成ncnn和mnn进行口罩检测
sxj731533730
03-04 2296
基本思想：手中有一个口罩检测的模型，随手记录一下MNN转化过程 一、模型工具转化 ubuntu@ubuntu:~/MNN/build$ ./MNNConvert -f TF --modelFile facemask.pb --MNNModel facemask.mnn --bizCode MNN Start to Convert Other Model Format To MNN Model... Start to Optimize the MNN Net... inputTensors : [ da
PyTorch模型转为ncnn
wangmou211的博客
08-09 1479
PyTorch模型转为ncnn 参考链接：https://blog.youkuaiyun.com/weixin_43541325/article/details/117421050 1. 安装onnx, pip install --upgrade onnx onnxruntime 2. 导出onnx模型 以torchvision自带的resnent18为例, 将PyTorch的模型导出为onnx的格式。 import torch import torchvision # An instance of your mo
pytorch模型转ncnn
cnnmena的博客
01-19 877
pytorch模型转ncnn, linux离线安装ncnn
将pytorch训练的模型转为ncnn模型
weixin_44753371的博客
08-02 2297
1、训练自己的pytorch模型 训练完成后，生成.pth后缀模型，此时要转为可部署的ncnn模型需要经历一些过程，如下：.pth -> .onnx -> .pram 和 .bin模型 2、.pth转.onnx 2.1 避坑 有时候会出现onnx库不能将某些模块转换出来，如mobilenet中的hardswish激活函数就不能被转换，原因是由于pytorch的版本低，导致无法转换，可以升级pytorch的版本。 2.2 代码 以下代码为将.pth文件转为.onnx文件 import torch
win10平台下将PyTorch模型转成ncnn模型
Star_ID的博客
04-14 1108
PyTorch模型转onnx模型再转成ncnn模型
让模型从Pytorch到NCNN——Pytorch模型向NCNN框架部署的小白向详细流程（PNNX模型转换、Linux模型使用）
m0_56942491的博客
08-08 5141
一开始，稚嫩的我只是想能在实际应用场合中使用一些深度模型（结果没想到后面坑这么大），这就需要涉及到，如何将实验室里基于pytorch的一个开发模型，部署到算力和系统架构都不同的嵌入式设备中。随后我了解到了，部署到嵌入式设备上需要借助一些深度学习模型部署框架，这其中最著名的可能就是 ONNX (Open Neural Network Exchange) 了，我在阅读论文中也时常看到这个词汇，当时还不知道是啥。其他的还有腾讯家的 NCNN、阿里家的 MNN (Mobile Neural Network) 等。在
【mamba模型零基础采用NCNN框架部署APK】Pytorch模型转NCNN模型
weixin_43509698的博客
03-09 640
两种方法利弊，如果采用新技术的模型，建议采用pnnx。因为会出现很多算子不支持的情况，就需要一个个进行修改，onnx不利用修改算子。1.pytorch模型转onnx模型，在优化onnx模型，最后通过onnx2ncnn.exe将onnx模型转为NCNN模型。2.Pytorch模型转换为TorchScript模型，即pt,在通过pnnx.exe转换为NCNN模型。
pytorch模型（pth，pkl）转ncnn（中介onnx）（附搭建ncnn教程）
qq_50444970的博客
08-19 4978
pytorch模型（pth，pkl）转ncnn（中介onnx）（附搭建ncnn教程） 文章目录pytorch模型（pth，pkl）转ncnn（中介onnx）（附搭建ncnn教程）部署ncnn在windows上部署ncnn（基于VS2019）在Ubuntu18.04上部署ncnnpytorch模型转onnx（以TDnet为例）onnx转ncnn 部署ncnn pytorch转ncnn是要在电脑上部署好ncnn环境，下图为可部署ncnn的平台 在windows上部署ncnn（基于VS2019） 一.安装VS2
ncnn填坑记录四：pytorch模型转ncnn
下大禹了的博客
06-01 3147
上一篇：ncnn填坑记录三：在pc端运行examples 以torchvision自带的resnent18为例 一.pytorch模型转为onnx import torch import torchvision import torch.onnx # An instance of your model model = torchvision.models.resnet18() # An example input you would normally provide to your model's fo
【深度学习】win10下pytorch转ncnn手把手教程
qq_42595835的博客
05-06 3456
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、环境配置1.VS20192.CMake3.21.33.OpenCV3.4.134.protobuf3.4.05.编译ncnn二、使用步骤1.引入库2.读入数据总结 前言 最近需要把pytorch转为onnx再转为ncnn。整体流程大概为： 1、pytorch转为onnx； 2、使用onnx-simplifier工具简化onnx模型； 3、简化后的onnx转化为ncnn。 一、环境配置 1.VS2019 点击链接去官网安.
RIFE插帧算法(V4.6)-pytorch转ncnn模型
xiaosier_D的博客
05-31 2871
首先附上各位大佬的github 地址链接，请多多支持各位开源大佬的工作(动动小手，star一下)：1. rife插帧算法原地址(pytorch实现)，作者特别优秀！书归正传，本文介绍一下如何通过pytorch转onnx再转ncnn模型的方式，将rife插帧算法应用在ncnn框架上。本文就基于上述模型的出入参和基本结构进行。
pytorch转ncnn目标检测源码
08-22
pytorch转ncnn目标检测源码，对应博客https://blog.youkuaiyun.com/weixin_45915902/article/details/103416431
mobilenetv2的Pytorch模型转onnx模型再转ncnn模型
qq_36890370的博客
03-22 3348
一、Pytorch模型转onnx模型 1、准备一个训练好的模型 模型下载链接：https://pan.baidu.com/s/1hmQf0W8oKDCeMRQ2MgjnPQ| 提取码: xce4 2、模型转换及测试代码（详细过程见代码注释） （1）先加载一张mnist测试图片用pytorch模型测试得出结果（判断Pytorch模...
使用pnnx把pytorch模型转ncnn模型
热门推荐
小菜的博客
11-15 1万+
序言 在做训练模型转部署模型的时候，通常都是先转成onnx，再转目标框架，但是经常会出现的问题就是某些算子不支持，这样一来，模型部署起来就比较困难，不过现在ncnn支持torch直接通过pnnx转成ncnn模型，将整个torch的模型直接搬过来，避免了算子不支持的问题，具体的介绍还请移步nihui大佬的知乎：PNNX: PyTorch Neural Network Exchange。 结合自己最近的情况，最近在白嫖PaddleOCRV2的移动端模型，想把它转成ncnn去部署在边缘设备上，情况是在转mbv3版
Pytorch模型转换为onnx或ncnn的方法兼谈pytorch模型编写规范
znsoft的专栏
01-30 719
使用torch.jit.trace_module( model, {"entrypoint",[parameters]}) 来记录模型，entrypoint在大多数模型中是　forward, 如果有定制，可以修改。影响成功的主要问题是：在模型的forward函数中不能使用条件语句，否则 会影响trace。此时的办法就是去掉里面的条件语句。pytorch-> torchscript->pnnx, 中间有副产品onnx模型。使用torch.jit.save来保存模型。
Pytorch 模型通过转为ncnn移植android
Ceri的博客
12-29 2013
模型转换 pytorch转onnx import torch.utils.data from torch.autograd import Variable from squeezenet import squeezenet1_2 import onnxruntime import numpy as np from onnxruntime.datasets import get_example import cv2 import onnx model_file = '/home/bbt/qinghua
pytorch生成的pth文件转成onnx文件再转成ncnn最后真机调试
大雷哥
12-15 2963
官方与训练pth文件代码如下 import torch import torchvision import torch.nn as nn import collections from torchsummary import summary from model import vgg from torchvision import models out_onnx = './vgg16Net.onnx' model = models.vgg16(pretrained=True) params = model
【pytorch】ncnn
JNing
09-22 465
onnx转ncnn 完整实现： def onnx2ncnn(self): assert os.path.isfile(simplified_onnx_path) os.system('onnx2ncnn {} {} {}'.format(simplified_onnx_path, param_path, bin_path)) print('\n param has been save to {}'.format(param_path)) print(' bin has
yolov8模型转为ncnn无法导出使用
最新发布
08-12
将YOLOv8模型转换为NCNN格式时，导出失败可能由多个因素导致，包括模型结构不兼容、输入输出配置错误、版本不一致、依赖库缺失等。以下是针对这些问题的解决方案： ### 1. 确保使用支持导出NCNN的YOLOv8版本 部分YOLOv8版本（如8.0.134）已经支持直接导出NCNN格式，而8.2+版本的源码结构发生了较大变化，可能导致导出失败。因此，建议使用8.0.134版本进行模型导出，并确保源码未被修改[^2]。如果使用命令行导出，可以尝试以下命令： ```bash yolo export model=yolov8s.pt format=ncnn ``` 该命令将直接生成`.param`和`.bin`文件，无需中间转换步骤。 ### 2. 检查ONNX模型是否符合NCNN要求 如果YOLOv8版本不支持直接导出NCNN，通常需要先将模型导出为ONNX格式，再使用`onnx2ncnn`工具转换。在此过程中，需确保ONNX模型的输入输出名称与NCNN兼容。可以通过[Netron](https://netron.app/)查看模型结构，确认输入输出节点名称是否符合预期。例如，YOLOv8的输出节点通常为： ```bash --output_names "/model.22/dfl/conv/Conv_output_0,/model.22/Sigmoid_output_0" ``` 确保这些节点名称在转换命令中正确指定，否则可能导致转换失败[^3]。 ### 3. 使用正确的ONNX导出脚本 在导出ONNX模型时，需确保使用正确的脚本和参数。以下是一个示例Python脚本，用于导出ONNX格式： ```python from ultralytics import YOLO # 加载YOLOv8模型 model = YOLO("yolov8s.pt") # 导出为ONNX格式 model.export(format="onnx") ``` 执行后将生成`yolov8s.onnx`文件，可用于后续转换为NCNN格式。 ### 4. 检查NCNN转换工具版本 使用`onnx2ncnn`工具时，需确保其版本与当前ONNX模型兼容。如果转换失败，可以尝试更新NCNN工具链，或使用官方提供的预编译版本。转换命令如下： ```bash onnx2ncnn yolov8s.onnx yolov8s.param yolov8s.bin ``` 如果转换过程中提示“Unsupported ONNX operator”，说明模型中存在NCNN不支持的算子，此时需要修改模型结构或使用自定义算子支持。 ### 5. 修改YOLOv8源码以适配NCNN 部分YOLOv8版本在导出NCNN模型时需要修改源码，以确保模型结构与NCNN兼容。例如，在`export.py`中添加对NCNN的支持，或在`models/yolo.py`中调整输出层结构。具体修改方式需参考YOLOv8的官方文档或社区提供的适配方案[^2]。 ### 6. 处理量化和优化问题 如果使用了量化（如INT8）或优化（如`ncnn-optimize`），需确保输入数据范围与训练时一致。例如，INT8量化需要校准数据集，并使用正确的校准参数。以下是一个INT8量化示例： ```bash ncnn-optimize yolov8s.param yolov8s.bin yolov8s_opt.param yolov8s_opt.bin --quantize_with_calib ``` ### 7. 检查依赖库和环境配置 确保所有依赖库（如PyTorch、ONNX、NCNN）已正确安装且版本兼容。例如，PyTorch版本应与YOLOv8兼容，ONNX版本应支持模型导出，NCNN应包含完整的转换工具链。可以通过以下命令检查安装状态： ```bash pip show torch onnx ncnn ``` ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值