转换为onnx模型错误汇总

原创 已于 2022-03-28 19:26:19 修改 · 5.8k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #pytorch

于 2022-03-28 17:28:49 首次发布
本文汇总了在将PyTorch模型转换为ONNX格式时遇到的常见错误及其解决方案，包括DataParallel包裹问题、稀疏矩阵运算不支持、非tensor数据类型、Gather操作非静态和 Upsample 操作对齐方式不兼容等。通过针对性地调整代码，可以成功导出ONNX模型。

1、ValueError: torch.nn.DataParallel is not supported by ONNX exporter, please use 'attribute' module to unwrap model from torch.nn.DataParallel. Try torch.onnx.export(model.module, ...)

多GPU环境下训练的模型在导出onnx文件时，可能会报以上错误。

是因为加载模型前加了此句，model = nn.DataParallel(model)

如果不加，依然报错，如图看到参数字典多了一个module.

了解本专栏 订阅专栏 解锁全文 超级会员免费看
转onnx模型学习汇总及TensorRT部署
qq_35435798的博客
08-06 1293
转onnx模型和TensorRT部署。涉及自动驾驶相关开源算法（bevdepth、MatrixVT、BEVDet poolv2）。有需要可深入交流
pytorch 50 大模型导出的onnx模型优化尝试
a486259的博客
03-09 486
本博文基于Native-LLM-for-Android项目代码实现，具体做了以下操作：1、尝试并实现将模型结构与权重零散的onnx模型进行合并，通过该操作实现了模型加载速度提升，大约提升了3倍2、突破了onnxconverter_common 无法将llm模型导出为fp16的操作，基于该操作后将10g的权重降低到5.6g，但推理速度反而下降了3、实现了fp32格式的onnx模型转换为int8模型，该操作后模型权重只占3g，但推理结果完全不准。
Pytorch DataParallel多卡训练模型导出onnx模型
洪流之源
03-29 2360
Pytorch模型转换到onnx模型代码如下： import torch import torch.nn as nn import torch.onnx import onnx import os from QualityNet import QualityNet if __name__ == '__main__': os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" os.environ["CUDA_VISIBLE_DEVICES"] =
onnx优化推理过程
小姑仔的博客
08-08 2028
首先表明onnx是优化的推理过程，而不是训练过程，也就是使用cpu计算的过程 1.将对应的模型结构导出保存 model = torch.load(model_path).to(torch.device("cuda")) model.eval() if length == 32: data = [[[2, 16, 2874, 20, 3, 16, 36, 130, 5605, 458, 20, 3, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
torchtune模型转换问题排查：ONNX导出常见错误解决
最新发布
gitblog_00578的博客
11-10 400
你是否在将PyTorch模型导出为ONNX格式时遇到过各种令人头疼的错误？本文将带你深入了解torchtune框架下ONNX导出的常见问题及解决方案，帮助你顺利完成模型转换。读完本文，你将能够：识别ONNX导出过程中的典型错误、理解错误产生的原因、掌握相应的解决方法。 ## 多头部注意力（MHA）模块不兼容问题 在ONNX导出过程中，多头部注意力模块常常会出现不兼容的情况。这是因为标准的PyT
tensorflow2.4导出模型转化为onnx模型后，通过tensorrt转化engine模型报错处理
yyc1820252161的博客
04-26 1738
从.pb模型转onnx模型，再到engine模型转化，debug处理
torch to onnx加速，复杂网络pytorch转onnx报错记录及解决
unique_zhao的博客
12-18 5509
torch转onnx中问题的解决思路，设计interpolate算子，instance norm， grid sampler
onnx模型转TensorRT模型时出错
weixin_48192326的博客
06-08 1683
【代码】把onnx模型转TensorRT模型出错。
模型转换：pth转onnx
热门推荐
qq_48176859的博客
08-26 1万+
文章目录前言一、pth转onnx模型二、使用步骤1.引入库2.读入数据总结 前言   休闲大半个月，终于又要开始认真工作了，果然游戏害人（淦），废话不多说，现在开始工作，我在转模型的时候遇到总总问题，先是转化不成功（前面有文章说过这个问题），后面转成功了但是我前几天想用那个模型的时候发现，转化的模型有大问题，首先是数值上和pth文件不一致，其次甚至没有BatchNormalization模块，具体看下图（netron查看onnx模型）   我思索了良久，下面给出转模型的全过程以及解决上述问题的方法。 一
pytorch模型转onnx,报错kind_.is_prim() INTERNAL ASSERT FAILED at /pytorch/torch/csrc/jit/ir.cpp:922
lhyyhlfornew的博客
10-27 2247
在将pytorch模型转为onnx模型时遇到一个报错如下： debug之后发现错误原因是在转换onnx模型时不能使用torch.Tensor()接口新建tensor，而应该使用torch.tensor()来创建新的tensor.
onnx转模型时遇到错误onnx.onnx_cpp2py_export.checker.ValidationError的解决思路
滑了丝的螺丝钉
07-24 1978
onnx.onnx_cpp2py_export.checker.ValidationError: 图中的节点必须按拓扑排序，但是节点的输入“905”：名称：Conv_272 OpType：Conv 不是任何先前节点的输出。错误的原因是在模型检查时发现有些节点的输入在前，输出在后，比如在节点的output ‘905’ 之前就出现了input ‘905’，这肯定是不符合onnx模型格式的；将打印结果保存下来分析后发现input “905”出现的确实比output “905”要早，问题就出现在这；
模型转onnx遇到问题，报错 1. _thnn_fused_lstm_cell ， 2._thnn_fused_gru_cell， 3. Exporting the operator numpy_...
无左无右的博客
09-22 581
目录GRULSTMExporting the operator numpy_T to ONNX opset version 11 is not supported RuntimeError: Exporting the operator _thnn_fused_lstm_cell to ONNX opset version 11 is not supported. Please open a b...
自定义调用onnx模型结果不理想的原因
tiaoteek的博客
05-22 747
分类的onnx在官方的代码中效果很好，但换成自己的代码中结果就不同，检测结果不准。分析了官方源码，图像加载中存在部分差异。也就是说分类的图像需要经过标准化处理。检测的onnx效果就很好。
模型量化 pytorch2onnx
wholetus的博客
08-31 1614
pytorch转onnx
RuntimeError: kind_.is_prim() INTERNAL ASSERT FAILED
aa4s5d6z7x8c9tw的博客
04-15 817
RuntimeError: kind_.is_prim() INTERNAL ASSERT FAILED tensorboardX’s problem How to solve: step1. install tensorboard step2. change from tensorboardX import SummaryWriter to from torch.utils.tensorboa...
onnx在华为昇腾AI模型转换过程中的报错The Add_718 op dtype is not same, type1:DT_INT64, type2:DT_INT32
wentinghappyday的博客
10-08 2313
onnx模型在华为昇腾硬件平台转换om中遇到的问题以及解决
pytorch导出onnx时遇到不支持的算子怎么解决
zhaoyqcsdn的博客
01-10 3541
然后再自己实现custom_domain::customOp2这个算子，如果用TensorRT，就需要自己实现一个插件。
一文彻底搞懂如何从Torch模型转到ONNX
CV_Autobot的博客
10-07 2355
作者|EasonBob 编辑| 自动驾驶Daily点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群本文只做学术分享，如有侵权，联系删文最近很多小伙伴再问如何从torch模型转onnx中间格式，说实话，这个操作也难也不难。为了让大家少踩点坑，今天给大家从代码级的角度上展开介绍下，内容有点多，请仔细阅读哦~~~笔者的一点建议一切开始...
pytorch导出onnx不成功的时候如何解决？ - 学习记录
点云算法工程师
10-28 1710
可以看到，其实已经支持了，但还是导不出。所以这里要先注册一下这个算子。python1导不出onnx，可以去。• 使用onnx-surgeon。• 一般是用在加速某些算子上使用。查看一下，是否支持了这个算子。主要是这个函数，用来注册算子。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

HySmiley

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值