pytorch模型转ONNX模型(支持批处理)

墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 200+累计阅读 233平均单平台已同步平台优快云微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网我也要 → 码龄11年

关注

转载最新推荐文章于 2026-05-24 11:52:58 发布 233 阅读 AI 写同款· GEO 优化 ›

pytorch模型转caffe模型（pytorch-＞onnx-＞caffe）笔记目录前言一.pytorch转onnx1.修改yolov5/models/export.py2.在yolov5的目录下运行3.简化onnx模型二.onnx转caffe1.yolov5网络层优化2.ubuntu服务器环境搭建①安装库②安装caffe的源码③修改caffe/Makefile.config这个文件④修改caffe/Makefile文件⑤添加Upsample层和permute层⑥编译caffe源码⑦pycaffe安装⑧caffe环境测试⑨onnx转caffe学习时间前言这里主要用ubuntu 阅读详情

https://blog.youkuaiyun.com/zxgmlcj/article/details/103279846?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.compare&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.compare

收录于

人工智能

当前文章被收录于：

人工智能

71 篇文章 4 人学习

订阅专栏查看详情

当前文章被以下社区和专栏收录：

原文链接：https://blog.youkuaiyun.com/zxgmlcj/article/details/103279846?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.compare&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.compare>

Pytorch模型(.pth)转onnx模型(.onnx) 简介 Open Neural Network Exchange（ONNX，开放神经网络交换）格式，是一个用于表示深度学习模型的标准，可使模型在不同框架之间进行转移。 ONNX是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch, MXNet）可以采用相同格式存储模型数据并交互。 ONNX的规范及代码主要由微软，亚马逊，Facebook 和 IBM等公司共同开发，以开放源代码的方式托管在Github上。目前官方支持加载ONNX模型并进行推理的深度学习阅读详情

相关推荐

82、yolov11检测模型迁移瑞芯微rk3588和使用昇腾设备300i DUO卡推理 batch=1/3，支持昇腾NMS迁移npu推理

本文介绍了使用昇腾设备进行分割推理的测试流程，包括两种测试方式（cann+onnx和om）。首先验证300iDUO卡的可用性，随后创建Docker镜像和容器以搭建独立环境。通过从指定仓库拉取Ubuntu 20.04镜像，创建容器并映射目录。进入容器后安装必要组件（Python3、GCC等）和系统工具（pciutils、net-tools等），为后续模型转换和迁移做准备。整个流程旨在构建可交付给第三方的标准化测试环境。

sxj731533730 1198

Pytorch与Onnx模型的保存、转换与操作

Pytorch与Onnx模型的转换与操作

ZhengrongYue的博客 4776

Yet-Another-EfficientDet-Pytorch-Convert-ONNX-TVM

更新（20200429）此存储库基于库。将这个高效的付款网络转换为ONNX的需求很多，因此我们进行此回购以帮助人们将模型转换为ONNX或TVM。请注意，此存储库仅提供如何将模型转换为ONNX或TVM的功能，而不关注模型训练或其他事项。如果您想训练或测试这种有效模型，最好的方法是参考原始的回购。我们已根据此更改了一些代码，以帮助成功进行转换。转换onnx 如果要转换为ONNX，只需运行 python3 convert/convert_onnx.py 转换电视我们已经在提交** f08d5d78ee000b2c113ac451f8d73817960eafd5 **的tvm版本上进行了测试，其他版本未经测试，因此无法确保也能正常工作。首先，您需要安装tvm，请参阅其。我们称您的tvm安装源目录为tvm_home 。然后，在tvm_home/python/tvm/rela

YOLOV5环境搭建以及.pt转onnx

张小丫的程序员的修行之路 278

第18届全国大学生智能汽车竞赛四轮车开源讲解【2.5】-- 图像处理实战：从二值化到边缘检测的工程优化

本文深入讲解了第18届全国大学生智能汽车竞赛四轮车开源项目中图像处理的核心实战技术。文章聚焦于二值化与边缘检测两大关键环节，详细对比了大津法与索贝尔算子的工程应用与优化策略，并分享了遮光、偏振片等物理抗干扰技巧，旨在帮助参赛者构建稳定高效的图像预处理流水线，为赛道识别奠定坚实基础。

weixin_29279047的博客 100

onnxruntime和tensorrt多batch推理

【代码】onnxruntime和tensorrt多batch推理。

taifyang的博客 3709

TSP、MTSP问题遗传算法详细解读及python实现

写在前面遗传算法是一种求解NPC问题的启发式算法，属于仿生进化算法族的一员。仿生进化算法是受生物行为启发而发明的智能优化算法，往往是人们发现某种生物的个体虽然行为较为简单，但生物集群通过某种原理却能表现出智能行为。于是不同的人研究不同的生物行为原理，受到启发而发明出新的仿生进化算法。比如免疫优化算法，蚁群算法，模拟退火算法等，这些算法以后也会简单介绍。本文的主题是遗传算法，该算法也是受到生物行为启发。物竞天择，适者生存，优胜劣汰，是该优化算法的核心思想。笔者在业务中需要用到遗传算法求解TSP问题，但是网

weixin_47675950的博客 9305

Pytorch 转ONNX详解

模型部署面临两大问题，如何让开发者不受开发框架的限制和如何提升模型的运算效率。经过工业界和学术界数年的探索，一般流行的模型部署流水线是：首先开发者们在任意一种深度学习框架下定义网络结构，训练得到网络参数；然后，将模型的结构和参数转换成一种只描述网络结构的中间表示。针对网络结构的优化会在这步进行。ONNX就是一种模型中间表示。最后，用面向硬件的高性能编程框架(如 CUDA，OpenCL）编写能高效执行深度学习网络中算子的推理引擎，推理引擎将中间表示转换成特定的文件格式。

陶将的博客 8102

【Autosar】学习总结-MCAL

一、简介 MCAL：微控制器抽象层；位于BSW层中的最下层； MCAL细分，可将驱动分为：微控制器驱动、存储器驱动、通信驱动、IO驱动：二、MCAL的配置（EB-Tresos） 1.PORT 我理解的PORT：MCAL层中的IO驱动组中的pin脚总体配置： Port就是芯片上的每个pin脚，可以配置成DIO ADC PWM ICU等单引脚的功能，也能配置成CAN的TX或者RX、SPI的MOSI等等其他功能的单个pin脚功能；总之，PORT就是芯片上的具体的某个引脚。配置

zDavid_2018的博客 3万+

DeepSeek 赋能太空探索：从轨道优化到星际开拓的 AI 革命

随着人工智能技术蓬勃发展，DeepSeek 在太空探索领域展现出巨大应用潜力。本文深入剖析 DeepSeek 技术核心，包括低功耗运算、开源生态等优势，阐述其与传统航天技术的差异。从航天器自主控制、深空探测、载人航天等关键环节，结合实时轨道调整、故障诊断修复等实例，揭示 DeepSeek 对航天任务效率与安全性的提升作用。同时探讨其应用面临的太空环境适应、伦理安全等挑战，展望技术演进方向及与前沿技术融合前景，展现 DeepSeek 为人类太空探索带来的变革与深远意义。

邓邓子的博客 2256

TenserRT（三）PYTORCH 转 ONNX 详解

跟踪法和脚本化在导出待控制语句的计算图时有什么区别。torch.onnx.export()中如何设置input_names, output_names, dynamic_axes。使用torch.onnx.is_in_onnx_export()来使得模型在转换到ONNX时有不同的行为。查询ONNX 算子文档。查询ONNX算子对PyTorch算子支持情况。查询ONNX算子对PyTorch算子使用方式。

fanre的专栏 2923

duilib入门基础一容器之 BOX、VBOX、HBOX布局及其子控件align排列方式

序容器 duilib有以下主要布局容器 Box（自由布局容器） VBox（垂直布局容器） HBox（水平布局容器） TabBox（多标签布局容器） TileBox（格子布局容器） ChildBox（子布局容器） ScrollableBox（可滚动容器）一、Box容器布局 Box容器及其扩展VBox HBox是其中最常用的容器。相对Box来说，HBox, VBox更好理解些 1.1 VBox HBox VBox下的各个控件垂...

目前打算换一个工作，有招聘windows c++方向的也欢迎联系，北京、济南最好 3080

pytorch转onnx模型（支持batch输入）

python转化代码： import torch import torchvision # use Trace to export onnx model dummy_input = torch.randn(10, 3, 224, 224, device='cuda') # 定义模型的输入shape model = torchvision.models.alexnet(pretrained=True).cuda() # if delete cuda(), will generate onnx mo.

一千零一夜的博客 1349

SoulX-FlashHead 加速实践，提升3倍。

jacke121的专栏 220

医疗数据采集：Python爬虫爬取医学文献与药品信息（2026合规与伦理版）

医疗数据采集不同于爬取新闻或房价，它直接关系到人的生命健康和法律底线。技术层面：优先使用官方 API (PubMed E-utilities, BioThings)，避免解析复杂HTML。法律层面：严守“不碰隐私、不破付费、不传谣言”三条红线。伦理层面：保持对生命的敬畏，确保数据的准确性和用途的正当性。在2026年，一个优秀的医疗数据工程师，不是那个能爬取最多数据的人，而是那个能在合规框架下，利用公开数据解决真实医疗问题的人。请务必珍视您的职业生涯和法律责任，切勿以身试法。

专注于Python爬虫开发，分享爬虫技巧、项目实战与反爬经验，使用Scrapy、BeautifulSoup等工具，解决数据抓取难题。 284

PyTorch转ONNX时，多输出模型动态尺寸配置避坑指南（以RetinaFace为例）

本文详细解析了PyTorch转ONNX时多输出模型动态尺寸配置的关键技巧，以RetinaFace人脸检测模型为例，深入探讨了动态轴配置的黄金法则和实战步骤。文章提供了完整的代码示例和常见问题排查表，帮助开发者避免形状不匹配等常见错误，优化模型部署性能。

weixin_30859423的博客 618

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

关于多batch推理的一点思考

然后支持多batch的onnx模型转trt模型不要指定shape，指定optshape。然后推理trt模型，指定shape，这里指定shape不知道有没有效果，感觉没用，因为改变数字推理时间不会变长，应该是固定的用之前转trt的optshape在跑。最近要用nv卡跟其他卡对比多batch推理性能，调研后理了一下逻辑，记录一下，相关命令见我上一篇博文。最后看结果Throughtput为吞吐量，End-to-End的时间为跑完测试数据的平均时间，如果要算FPS，这里要Xbatchsize。

Thomas_Cai的记忆殿堂 1018

C# WinForm 基于DirectShow.dll编写的程序，可边预览边保存视频，音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择（默认选中第一个）2.可录制wmv和avi两种格式的视频并且都带有音频，avi可以录制的分辨率和帧数进行选择，wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照，也可边录制视频边拍照4.添加了视频和音频的压缩功能（酌情使用）这次二次开发发现C#对DirectShow的相关信息太少，这次做完也不敢藏私共享出来，还望大家指正

android 蓝牙通讯demo

android 下蓝牙通讯demo，实现了发现蓝牙，使能蓝牙，通过蓝牙发送消息。

Qwen3-TTS-12Hz-1.7B-Base开源大模型教程：ONNX Runtime推理加速部署

本文介绍了如何在星图GPU平台上自动化部署【声音克隆】Qwen3-TTS-12Hz-1.7B-Base镜像，实现高性能的AI语音合成。通过该平台，用户可以快速搭建环境，利用该模型的声音克隆能力，高效生成用于有声读物、智能客服等场景的个性化语音内容。

weixin_42602368的博客 366

DamoFD轻量人脸检测方案：0.5G模型+ONNX Runtime加速部署实践

本文介绍了如何在星图GPU平台上自动化部署DamoFD人脸检测关键点模型-0.5G镜像，实现轻量高效的人脸检测与五点关键点定位。该方案支持ONNX Runtime加速，在边缘设备或中端GPU上流畅运行，典型应用于视频监控人脸抓取、在线会议实时美颜及图像内容分析等场景。

weixin_36012152的博客 302

YOLO X Layout高算力适配方案：ONNX Runtime GPU加速部署与显存优化技巧

本文介绍了如何在星图GPU平台上自动化部署yolo_x_layout文档理解模型镜像，实现高效文档版面结构解析。该模型可精准识别标题、表格、图片等元素，广泛应用于扫描PDF解析、医疗报告结构化及历史档案数字化等场景，显著提升OCR前处理精度与AI文档处理流水线效率。

weixin_42418754的博客 389

pytorch模型转onnx模型

学习目标 1.掌握pytorch模型转换到onnx模型 2.顺利运行onnx模型 3.比对onnx模型和pytorch模型的输出结果学习大纲 pytorch模型转换onnx模型运行onnx模型 onnx模型输出与pytorch模型比对学习内容前提条件：需要安装onnx 和 onnxruntime，可以通过 pip install onnx 和 pip install onnxruntime 进行安装 1 . pytorch 转 onnx pytorch 转 onnx 只需要一个函数 torc

weixin_38989668的博客 1万+

模型部署入门教程（三）：PyTorch 转 ONNX 详解

OpenMMLab：模型部署系列教程（一）：模型部署简介 OpenMMLab：模型部署系列教程（二）：解决模型部署中的难题知道你们在催更，这不，模型部署入门系列教程来啦~ 在前二期的教程中，我们带领大家成功部署了第一个模型，解决了一些在模型部署中可能会碰到的困难。今天开始，我们将由浅入深地介绍 ONNX 相关的知识。ONNX 是目前模型部署中最重要的中间表示之一。学懂了 ONNX 的技术细节，就能规避大量的模型部署问题。在把 PyTorch 模型转换成 ONNX 模型时，我们往往只需要轻松地调用一

qq_39967751的博客 1万+

pytorch模型存储—转化为ONNX

本文我们将主要介绍PyTorch中自带的torch.onnx模块。该模块包含将模型导出到ONNX IR格式的函数。这些模型可以被ONNX库加载，然后将它们转换成可在其他深度学习框架上运行的模型。 torch.onnx.export(model, args, f, export_params=True, verbose=False, training=False, input_names=None, output_names=None) 参数： model(torch.nn.Module)-要被导出