如何在c++中使用pytorch模型

最新推荐文章于 2025-07-01 10:34:16 发布

西伯利亚的蓝眼睛

最新推荐文章于 2025-07-01 10:34:16 发布

阅读量1.6k

点赞数

CC 4.0 BY-SA版权

分类专栏：深度学习 c-c++ pytorch 文章标签： pytorch c++

本文链接：https://blog.youkuaiyun.com/qq_14975217/article/details/90475779

本文详细介绍了如何将PyTorch模型转换为Torch Script，并在C++环境中加载与执行。首先通过torch.jit.trace或annotation方法将PyTorch模型转为Torch Script，解决控制流和动态结构问题。然后在C++中加载.pt文件，实现模型的执行。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

同步知乎页：https://zhuanlan.zhihu.com/p/66707105

该过程有两步：

第一：在python中导出pytorch模型

第二：在c++中加载并执行

第一步：convert Pytorch func/model to Torch Script

有2中方法可以完成该任务。

一、 torch.jit.trace

function

def foo(x):
    return torch.sigmoid(x)
# trace func
tmp_in = torch.rand(5)
script_func = torch.jit.trace(foo, tmp_in)

# use traced func
x = torch.rand(3)
out = script_func(x)

net module

class Mymodel(torch.nn.Module):
    def __init__(self):
        super(Mymodel, self).__init__()
        self.conv=torch.nn.Conv2d(3,2,2)
    
    def forward(self, x):
        out = self.conv(x)
        retu