pytorch 17 onnx多输入多输出模型在python与C++下用OnnxRuntime部署

万里鹏程转瞬至

已于 2022-06-02 10:42:11 修改

阅读量4.1k

点赞数 3

分类专栏： pytorch工程实践文章标签： pytorch 深度学习 python

于 2022-01-13 15:09:56 首次发布

本文链接：https://blog.youkuaiyun.com/a486259/article/details/122473889

版权

pytorch工程实践专栏收录该内容

50 篇文章 ¥59.90 ¥99.00

订阅专栏

本文介绍了如何将PyTorch的多输入多输出模型转换为ONNX格式，并在Python和C++环境下使用OnnxRuntime进行测试和部署。详细步骤包括构建模型、导出模型、Python下模型测试以及C++下的模型加载和测试。通过示例代码展示了整个过程，验证了ONNX模型在不同环境下的准确性和一致性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Pytorch模型在转换成onnx模型后可以明显加速，此外模型在进行openvino部署时也需要将pytorch模型转换为onnx格式。为此，以多输入多输出模型为例，记录一下模型转换及python下onnxruntime调用过程。并实现C++下多输入多输出模型的Onnxruntime的调用。

一、python下模型转onnx与测试

1.1、构建pytorch多输入多输出模型

import torch
import torch.nn as nn
import torch.nn.functional as F
class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        self.conv1 = nn.Conv2d(6, 16, kernel_size=1, stride=1, padding=0)
        self.relu = nn.ReLU()
        self.conv2 = nn.Conv2d(16, 16, kernel_size=1, stride=1, padding=0)
        self.conv31 = nn.Conv2d(16, 3, kernel_size=1, stride=1, padding=0)
        self.conv32 = nn.Conv2d(16, 3, kernel_size&

了解本专栏