pytorch模型转ONNX模型(支持批处理)

最新推荐文章于 2025-05-06 21:58:27 发布
最新推荐文章于 2025-05-06 21:58:27 发布
阅读量2.4w 收藏 96
点赞数 11
CC 4.0 BY-SA版权
分类专栏： 人工智能#深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/zxgmlcj/article/details/103279846
本文详细介绍了如何使用PyTorch保存和加载模型，包括保存整个模型和仅保存权重的方法。此外，还深入讲解了如何将PyTorch模型转换为ONNX格式，以便在各种平台上部署和优化。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本篇幅介绍pytorch模型转ONNX模型

一、pytorch模型保存/加载

有两种方式可用于保存/加载pytorch模型 1）文件中保存模型结构和权重参数 2）文件只保留模型权重.

1、文件中保存模型结构和权重参数

1）pytorch模型保存

import torch
torch.save(selfmodel,"save.pt")

2）pytorch模型加载

import torch
torch.load("save.pt")

2、文件只保留模型权重

1）pytorch模型保存

import torch
torch.save(selfmodel.state_dict(),"save.pt")

2）pytorch模型加载

selfmodel.load_state_dict(torch.load("save.pt"))

二、pytorch模型转ONNX模型

1、文件中保存模型结构和权重参数


                

                
                
        

    

  


        

            

                      
                        最低0.47元/天 解锁文章
                          
                      
            

        


    



                



	

		

			

				
					
python使用onnx模型进行推理

				
			

			

				

					null
				

				

					03-14
					
					4397
					
				

			

		

		

			
				
【代码】python使用onnx模型进行推理。

			
		

	



                

            
              



	

		

			

				
					
onnx推理

				
			

			

				

					wangzsh187的博客
				

				

					06-02
					
					1171
					
				

			

		

		

			
				
onnxruntime推理

			
		

	



              


  
              

                


	

		

			

				
					
Pytorch模型转ONNX进行推理（一）

					
最新发布

				
			

			

				

					weixin_47006778的博客
				

				

					05-06
					
					463
					
				

			

		

		

			
				
【代码】Pytorch模型转ONNX进行推理（一）

			
		

	





	

		

			

				
					
ONNX模型推理

				
			

			

				

					weixin_43999691的博客
				

				

					03-23
					
					1245
					
				

			

		

		

			
				
ONNX模型截断和推理

			
		

	



		

			
		



	

		

			

				
					
【模型推理】使用onnx进行推理

				
			

			

				

					qq_44992785的博客
				

				

					02-23
					
					2884
					
				

			

		

		

			
				
加载onnx进行模型推理

			
		

	





	

		

			

				
					
YoloV8目标检测与实例分割——目标检测onnx模型推理

				
			

			

				

					知来者逆的博客
				

				

					11-05
					
					1万+
					
				

			

		

		

			
				
yolov8目标检测onnx模型推理，不安装过多依赖，更好的部署到生产环境

			
		

	





	

		

			

				
					
使用ONNX Runtime对模型进行推理

				
			

			

				

					主要分享神经形态计算相关内容
				

				

					10-29
					
					5035
					
				

			

		

		

			
				
是一个开放的深度学习模型文件格式，旨在促进不同深度学习框架之间的互操作性。它提供了一种标准的方式来表示机器学习模型，使得模型可以在多个框架之间进行共享和迁移。跨平台兼容性： ONNX 支持多种深度学习框架，如 PyTorch、TensorFlow、Keras 等，开发者可以在训练模型后将其导出为 ONNX 格式，从而在其他框架中进行推理或部署。标准化： ONNX 提供了一个统一的模型描述，定义了模型的结构、参数和输入输出等信息，使得不同工具和框架能够理解模型。优化支持。

			
		

	





	

		

			

				
					
nnunet PyTorch模型转ONNX详细步骤

				
			

			

				

					
				

			

		

		

			
				
- 输入的`dummy_input`应精确匹配模型期望的输入形状，否则转换过程可能会失败或生成的ONNX模型在运行时可能会抛出错误。  转换完成后，你可以使用ONNX提供的验证工具检查模型是否正确导出，然后进一步使用TensorRT...

			
		

	





	

		

			

				
					
pytorch 分类模型转onnx并推理

				
			

			

				

					m0_71816999的博客
				

				

					08-08
					
					367
					
				

			

		

		

			
				
1. 先安装包： pip install onnx   onnxruntime  netron  onnxruntime-gpu  -i https://pypi.tuna.tsinghua.edu.cn/simple。

			
		

	





	

		

			

				
					
pytorch 的pth格式模型转onnx格式模型 - python 实现

				
			

			

				

					DATABALL 的博客
				

				

					11-25
					
					570
					
				

			

		

		

			
				
pytorch 的pth格式模型转onnx格式模型 - python 实现

			
		

	





	

		

			

				
					
pytorch yolov8的检测pt模型转onnx

				
			

			

				

					09-26
				

			

		

		

			
				
PyTorch 提供了实现这些模型的灵活性，而 ONNX 则可以将训练好的模型导出，使其能够在其他支持 ONNX 的框架（如 Caffe2、TensorFlow、MXNet 等）中运行。  首先，我们需要确保安装了必要的库，包括 PyTorch、...

			
		

	





	

		

			

				
					
onnx-ml-demo:使用ONNX进行模型推理的演示

				
			

			

				

					03-22
				

			

		

		

			
				
ONNX-ML演示
火车
使用综合数据训练模型：
 python3 train/train.py
模型文件将在models目录中生成。
推理
这将从models目录中加载模型，并对综合数据进行推断：
 python3 train/infer.py
使用ONNXRuntime转换模型并运行推理
scikit学习模型
转换模型
python3 converter/convert_basic.py models/scaler.pkl models/scaler.onnx
python3 converter/convert_basic.py models/clf.pkl models/clf.onnx
在没有ZipMap运算符的情况下转换RandomForestClassifier模型
python3 converter/convert_basic.py models/clf.pkl models

			
		

	





	

		

			

				
					
torch.onnx.export():将pytorch模型转换为.onnx模型

					
热门推荐

				
			

			

				

					QFJIZHI的博客
				

				

					04-01
					
					4万+
					
				

			

		

		

			
				
torch.onnx.export(model, args, f, export_params=True, verbose=False, training=False, input_names=None, output_names=None, aten=False, export_raw_ir=False, operator_export_type=None, opset_version=Non...

			
		

	





	

		

			

				
					
onnx检测推理

				
			

			

				

					qq_33596242的博客
				

				

					12-06
					
					723
					
				

			

		

		

			
				
在导出onnx的时候可以把后处理的那部分注释掉，下图是我的处理方式，只在导出onnx时，myexport=1.。导出完毕后，onnx的结构如图。这样在后续转模型的时候就不会出现do not support dimension size > 4 了。得到onnx后，手写后处理，附赠onnx推理代码：import cv2import os# 指定 ONNX 模型文件路径idx += 3# 创建 ONNX 运行时的 Session# 构造输入数据# 进行推理。

			
		

	





	

		

			

				
					
YOLOv8目标检测：使用ONNX模型进行推理

				
			

			

				

					深度学习领域
				

				

					02-22
					
					1万+
					
				

			

		

		

			
				
通过以上步骤，我们展示了如何使用YOLOv8进行目标检测的完整流程，从环境配置到代码实现和结果展示。此过程适用于YOLOv8目标检测任意模型进行检测任务。希望这篇博客能够帮助您理解和实现基于YOLOv8的目标检测项目。如果有任何问题或需要进一步的帮助，请随时留言讨论。

			
		

	





	

		

			

				
					
使用ONNX模型进行推理的详细介绍

				
			

			

				

					笔者从事电信媒体开发多年，愿意将多年的开发经验分享给同行
				

				

					10-29
					
					1053
					
				

			

		

		

			
				
ONNX定义了一种中间表示（IR），用于表示深度学习模型的结构和参数。这种中间表示使得模型可以在不同的深度学习框架之间无缝转换，而无需重新训练。通过使用ONNX，研究人员和开发者可以更方便地共享模型，并跨平台地进行模型推理。ONNX提供了一种标准化的方式来表示深度学习模型，使得模型可以在不同的框架之间轻松转换和推理。通过使用ONNX Runtime，我们可以高效地进行模型推理，并充分利用硬件的性能。上述代码示例展示了如何使用ONNX模型进行图像分类的推理过程，希望对您有所帮助。

			
		

	





	

		

			

				
					
【推理引擎】ONNX 模型解析

				
			

			

				

					虚幻私塾
				

				

					03-27
					
					5355
					
				

			

		

		

			
				
Python微信订餐小程序课程视频
https://edu.youkuaiyun.com/course/detail/36074
Python实战量化交易理财系统
https://edu.youkuaiyun.com/course/detail/35475
定义模型结构
首先使用 PyTorch 定义一个简单的网络模型：
class ConvBnReluBlock(nn.Module):
    def \_\_init\_\_(self) -> None:
        super().__init__()

     

			
		

	





	

		

			

				
					
torch转onnx

				
			

			

				

					cjk_cynosure的博客
				

				

					11-10
					
					271
					
				

			

		

		

			
				
torch转onnx。

			
		

	





	

		

			

				
					
YOLOV8-ONNX 模型推理

				
			

			

				

					A12444w的博客
				

				

					05-05
					
					2537
					
				

			

		

		

			
				
YOLOv8的ONNX模型推理是指使用ONNX（Open Neural Network Exchange）格式的YOLOv8模型来进行对象检测的推断过程。ONNX是一种跨平台的深度学习模型格式，支持多种框架之间的模型转换和运行，使得模型能够在不同的硬件和软件平台上高效执行。使用Ultralytics的YOLO库来加载一个YOLOv8的PyTorch模型 导出为ONNX格式。准备coco128.yaml文件来存放类别。

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		
评论 10

	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值