pytorch模型转ONNX模型(支持批处理)

最新推荐文章于 2024-11-25 18:27:52 发布
原创 最新推荐文章于 2024-11-25 18:27:52 发布 · 2.5w 阅读 · 96 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文详细介绍了如何使用PyTorch保存和加载模型，包括保存整个模型和仅保存权重的方法。此外，还深入讲解了如何将PyTorch模型转换为ONNX格式，以便在各种平台上部署和优化。

本篇幅介绍pytorch模型转ONNX模型

一、pytorch模型保存/加载

有两种方式可用于保存/加载pytorch模型 1）文件中保存模型结构和权重参数 2）文件只保留模型权重.

1、文件中保存模型结构和权重参数

1）pytorch模型保存

import torch
torch.save(selfmodel,"save.pt")

2）pytorch模型加载

import torch
torch.load("save.pt")

2、文件只保留模型权重

1）pytorch模型保存

import torch
torch.save(selfmodel.state_dict(),"save.pt")

2）pytorch模型加载

selfmodel.load_state_dict(torch.load("save.pt"))

二、pytorch模型转ONNX模型

1、文件中保存模型结构和权重参数


                

                
                
        

    


  


        

            

                      
                        最低0.47元/天 解锁文章
                          
                      
            

        


    



                



	

		

			

				
					
pytorch训练图像分类模型pth转ONNX并测试

				
			

			

				

					10-29
				

			

		

		

			
				
1. 搭建自己的简单二分类网络，使用pytorch训练和测试；          
2. 将pytorch训练的pth模型转换成ONNX，并编码测试；          
3. 含训练和测试数据，含训练ok的pth模型和ONNX模型，含完整python和C++实现；          
4. 使用方法：首先运行“TrainTestConvertOnnx.py”执行“训练数据读入、模型训练、模型测试、导出onnx”，再运行“TestOnnx.cpp”测试onnx（需要配置OpenCV）；

			
		

	



                

            
              



	

		

			

				
					
【深度学习】Pytorch模型转成Onnx

				
			

			

				

					Dong_ZH的博客
				

				

					05-14
					
					1342
					
				

			

		

		

			
				
工作时需要将模型转成onnx使用triton加载，记录将pytorch模型转成onnx的过程。

			
		

	



              


  
  
              

                


	

		

			

				
					
torch.onnx.export():将pytorch模型转换为.onnx模型

					
热门推荐

				
			

			

				

					QFJIZHI的博客
				

				

					04-01
					
					4万+
					
				

			

		

		

			
				
torch.onnx.export(model, args, f, export_params=True, verbose=False, training=False, input_names=None, output_names=None, aten=False, export_raw_ir=False, operator_export_type=None, opset_version=Non...

			
		

	





	

		

			

				
					
模型部署——Pytorch模型转ONNX模型及测试转后ONNX模型（附代码）

				
			

			

				

					qq_40280673的博客
				

				

					03-31
					
					4179
					
				

			

		

		

			
				
Pytorch模型转ONNX模型及测试转后ONNX模型

			
		

	



		

			
		



	

		

			

				
					
pytoch模型转成onnx模型

				
			

			

				

					qq_42178122的博客
				

				

					12-08
					
					3500
					
				

			

		

		

			
				
什么是ONNX
onnx定义了一种可扩展的计算图模型\一系列内置的运算(op)和标准数据类型.每一个计算流图都定义为由节点组成的列表,并构建有向无环图.其中,每一个节点都有一个或者多个输入与输出,每一个节点都称为一个一个OP.这相当于一种通用的计算图,不同深度学习框架构建的计算图都能转换成它.
Caffe2, PyTorch, Microsoft Cognitive Toolkit, Apache MXNet 和其他工具都在对ONNX进行支持。在不同的框架之间实现互操作性，并简化从研究到产品化的过程，将提高

			
		

	





	

		

			

				
					
pytorch模型转onnx的动态batch转换说明

				
			

			

				

					Thomas_Cai的记忆殿堂
				

				

					11-08
					
					1256
					
				

			

		

		

			
				
将PyTorch模型（.pth）转换为ONNX格式时，通常需要指定一个batch size。这是因为ONNX模型需要一个固定的输入形状，而批处理大小是输入形状的一部分。

			
		

	





	

		

			

				
					
Pytorch模型转ONNX模型并使用ONNXRuntime运行

				
			

			

				

					南城以北的博客
				

				

					08-24
					
					932
					
				

			

		

		

			
				
【代码】Pytorch模型转ONNX模型并使用ONNXRuntime运行。

			
		

	





	

		

			

				
					
pytorch 的pth格式模型转onnx格式模型 - python 实现

					
最新发布

				
			

			

				

					DATABALL 的博客
				

				

					11-25
					
					671
					
				

			

		

		

			
				
pytorch 的pth格式模型转onnx格式模型 - python 实现

			
		

	





	

		

			

				
					
pytorch 分类模型转onnx并推理

				
			

			

				

					m0_71816999的博客
				

				

					08-08
					
					465
					
				

			

		

		

			
				
1. 先安装包： pip install onnx   onnxruntime  netron  onnxruntime-gpu  -i https://pypi.tuna.tsinghua.edu.cn/simple。

			
		

	





	

		

			

				
					
Pytorch模型转ONNX模型

				
			

			

				

					qq_34184505的博客
				

				

					08-22
					
					1054
					
				

			

		

		

			
				
将PyTorch转为ONNX模型很简单，使用torch.onnx.export()函数即可。将.pth模型转为onnx文件导出。

			
		

	





	

		

			

				
					
Pytorch模型转onnx模型实例

				
			

			

				

					09-18
				

			

		

		

			
				
今天小编就为大家分享一篇Pytorch模型转onnx模型实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

			
		

	





	

		

			

				
					
模型部署入门教程（三）：PyTorch 转 ONNX 详解

				
			

			

				

					qq_39967751的博客
				

				

					05-23
					
					1万+
					
				

			

		

		

			
				
OpenMMLab：模型部署系列教程（一）：模型部署简介

OpenMMLab：模型部署系列教程（二）：解决模型部署中的难题

知道你们在催更，这不，模型部署入门系列教程来啦~

在前二期的教程中，我们带领大家成功部署了第一个模型，解决了一些在模型部署中可能会碰到的困难。今天开始，我们将由浅入深地介绍 ONNX 相关的知识。ONNX 是目前模型部署中最重要的中间表示之一。学懂了 ONNX 的技术细节，就能规避大量的模型部署问题。
在把 PyTorch 模型转换成 ONNX 模型时，我们往往只需要轻松地调用一

			
		

	





	

		

			

				
					
Pytorch模型转onnx模型

				
			

			

				

					joey.lei的博客
				

				

					12-26
					
					1万+
					
				

			

		

		

			
				
Pytorch模型转onnx模型
import io
import torch
import torch.onnx
from models.C3AEModel import PlainC3AENetCBAM

device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")

def test():
    model ...

			
		

	





	

		

			

				
					
torch转onnx

				
			

			

				

					cjk_cynosure的博客
				

				

					11-10
					
					300
					
				

			

		

		

			
				
torch转onnx。

			
		

	





	

		

			

				
					
PyTorch模型转ONNX的3种方法

				
			

			

				

					新缸中之脑
				

				

					08-13
					
					1933
					
				

			

		

		

			
				
ONNX（开放神经网络交换）是一种用于表示机器学习模型的开放标准和格式。ONNX 定义了一组通用运算符和一种通用文件格式，用于表示各种框架中的深度学习模型，包括 PyTorch 和 TensorFlow。当将模型导出为 ONNX 格式时，这些运算符用于构建计算图（通常称为中间表示），该图表示数据通过神经网络的流动。重要提示： ONNX 不是运行时 ONNX 只是可以与 ONNX Runtime 等运行时一起使用的表示。你可以在此处找到受支持的加速器列表。

			
		

	





	

		

			

				
					
ONNX模型推理

				
			

			

				

					weixin_43999691的博客
				

				

					03-23
					
					1379
					
				

			

		

		

			
				
ONNX模型截断和推理

			
		

	





	

		

			

				
					
Pytorch模型转ONNX格式详解

				
			

			

				

					crasher123的博客
				

				

					06-08
					
					5044
					
				

			

		

		

			
				
ONNX（Open Neural Network Exchange）则是一种开源的跨平台深度学习框架。将PyTorch模型转为ONNX格式可以使得该模型可以在其他的深度学习框架中使用，如TensorFlow，Caffe等。下面介绍一下PyTorch转ONNX的原理和方法。

			
		

	





	

		

			

				
					
onnx推理

				
			

			

				

					wangzsh187的博客
				

				

					06-02
					
					1224
					
				

			

		

		

			
				
onnxruntime推理

			
		

	





	

		

			

				
					

				
			

			

				

					
				

			

		

		

			
				

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		
评论 10

	

  

	
    

      

      

      

        
        

          
          

            

              成就一亿技术人!
            

            

              拼手气红包6.0元
            

          

        

        

          

            还能输入1000个字符
          

          

             
          

          

            

              红包
              添加红包
            

            

              表情包
              插入表情
              

                

              

            

            

              表情包
              代码片
              

                
              

            

            

              
              
              
              
              
              
              
            

          

        

      

    

		

			

			

			
			

					 条评论被折叠 查看
			

			

				
			

		

	

	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值