Windows使用C++调用Pytorch1.0模型

最新推荐文章于 2025-04-22 11:42:21 发布
最新推荐文章于 2025-04-22 11:42:21 发布
阅读量5.2k 收藏 31
点赞数
分类专栏： DeepLearning 文章标签： Pytorch1.0
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_41576121/article/details/85110423
版权
本文介绍了在Windows10上使用C++调用Pytorch1.0模型的方法，包括准备工作、生成Torch Script、C++调用Torch Script模型文件的步骤，以及解决调试过程中遇到的错误。通过将Pytorch模型转换为Torch Script并在C++中编译运行，实现了在Windows客户端调用深度学习模型。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

最近因为项目需求，而且面对的是一些用户级的，也就是windows客户端，所以就在思考在windows下如何调用深度学习模型，做了以下尝试：

  • 使用Caffe框架，虽然也可以，但我的大部分项目都使用的Pytorch，真的不想去碰Caffe，而且修改不能按照自己的思想，pass!

  • 使用ONNX，当时由于Pytorch1.0并没有发布windows版，我们想着把Pytorch模型转换为ONNX，然后使用Caffe2的相关库去调用，但发现其使用了docker，实际还是在linux下操作的。

  • 终于等到了Pytorch1.0的windows版的libtorch，开心，但是官方教程不是太详细，就自己摸索，看看论坛什么的，最终成功了！

准备工作

VS2017（官方说VS2015也支持，没有测试）
Windows10
Cmake3.0以上（我的是3.13.2）

生成Torch Script

由于C++和Python读取的文件方式不同，所以在使用C++调用之间先把训练生成的模型文件转换成Torch Script，这样子就可以使用C++进行调用了！话不多说，我们开始吧！
以ResNet18为例，官方给了两种生成Torch Script的方式。
方法一：（本篇使用）

最低0.47元/天 解锁文章
c++调用pytorch libtorch(基础篇)
驽马十驾，功在不舍；锲而不舍，金石可镂。
06-21 4075
c++调用pytorch libtorch1.将pytorch模型转换成Torch Script参考文献 以GitHub [见参考文献1]为例，学习了c++调用pytorch API libtorch的实现过程。 1.将pytorch模型转换成Torch Script 官方tutorial https://pytorch.org/tutorials/advanced/cpp_export.html中给出了当前将pytorch模型转成Torch Script的两种方式（官方源码如下）： 1.Converti
面向Windows在C++中调用Pytorch模型（MNIST手写体数字识别）
11-01
使用pytorch从模型训练到模型调用，再通过libtorch转成C++调用，全流程实现MNIST手写体数字识别
Pytorch的C++端(libtorch)在Windows中的使用
老潘的博客
01-23 1万+
关于本文章的最新更新请查看:oldpan博客 前言 填一个之前的坑啊，本篇的姊妹篇——利用Pytorch的C++前端(libtorch)读取预训练权重并进行预测 这篇文章中已经说明了如何在Ubuntu系统中使用libtorch做预测，当初也有朋友问我如何在Windows之下尝试使用libtorch，当时因为时间关系没有去看，后来就给忘了…现在有时间了当然要尝试一下~ 当然先说结论哈，其实在Wind...
获取ONNX模型的输入/输出信息
最新发布
YoungHong1992
04-22 236
在使用 ONNX（Open Neural Network Exchange）模型时，可以通过。或直接解析 ONNX 模型来获取输入和输出的信息（如名称、形状、数据类型等），并以。
libtorch在windows使用（c++项目中部署.pt）
Already8888的博客
01-10 1791
PyTorch 提供TorchScript，加载保存的策略，除了 PyTorch 之外不需要其他依赖项。这在将训练的模型部署到生产环境时特别有用。 TorchScript模型可以加载在c++中，嵌入系统项目使用。
Libtorch-Windows 配置使用
桃子好好吃的博客
10-24 797
使用c++调用pytorch模型时，如果使用Libtorch会更加简洁（不需要额外的python文件辅助）。此博客记载Libtorch的配置过程。使用系统及工具（Windows10 & VS 2019）. 下载与当前安装的pytorch版本相同的libtorch，比如，我的电脑安装的pytorch是v1.6，libtorch也应该下载v1.6。 解压下载好的压缩包，保存在自己的目录下 VS 2019 配置 ...
Windows 下通过Libtorch_CPU部署 yolo v5-6.0
qq_44699829的博客
07-22 1252
基于libtorch cpu版本的yolov5部署
利用C++调用PyTorch的模型
热门推荐
MLer
01-19 1万+
背景 PyTorch的主要接口是Python语言。虽然Python是许多需要动态和易于迭代的场景的首选语言，但同样有很多情况下，Python的这些属性恰好是不利的。在生产环境中，需要保证低延迟和其它严格的要求，而对于生产场景，C ++通常是首选语言，通常C++会被绑定到Java或Go当中； 第一种方法是在PyTorch中直接使用C++编写PyTorch的前端，而不是通常情况下使用Python来编...
如何使用C++调用Pytorch模型进行推理测试：使用libtorch库
weixin_42364196的博客
07-05 2314
介绍如何通过libtorch库，使用C++调用Pytorch模型进行推理测试
使用C++编写接口调用PyTorch模型，并生成DLL供.NET使用
LiRongLu_的博客
09-02 1340
介绍了如何将PyTorch模型保存为TorchScript格式，并创建基于CUDA加速的C++接口。首先，使用Python脚本将PyTorch模型导出为TorchScript格式，详细说明了如何加载模型、配置参数并保存为.pt文件。接着，使用C++编写接口，展示如何通过ONNX Runtime和CUDA执行推理操作。该部分提供了从项目创建到DLL生成的完整步骤，涵盖了配置Visual Studio项目、链接库文件、实现推理逻辑等内容。最后，还介绍了如何在其他环境中调用生成的DLL文件，实现模型的跨平台推理。
Windows下安装libtorch与Clion配置
weixin_42216799的博客
12-16 1680
windows下为Clion配置libtorch和使用
libtorch_vs2017_v141_win_shared_with_deps_1.5.0.zip
05-09
libtorch的vs2017 64位 release 的C++开发包,平台集v141。include配置【libtorch\include ；libtorch\include\torch\csrc\api\include】；lib配置【libtorch\lib ； caffe2_detectron_ops.lib、caffe2_module_test_dynamic.lib、torch.lib、torch_cpu.lib、c10.lib、fbgemm.lib、cpuinfo.lib、clog.lib、libprotoc.lib、libprotobuf.lib、mkldnn.lib、libprotobuf-lite.lib、asmjit.lib】；属性->C/C++ ->常规->SDL检查->否；属性->C/C++ ->语言->符号(合)模式->否； 测试例程： #include #include struct Net : torch::nn::Module { Net(int64_t N, int64_t M) { W = register_parameter("W", torch::randn({ N, M })); b = register_parameter("b", torch::randn(M)); } torch::Tensor forward(torch::Tensor input) { return torch::addmm(b, input, W); } torch::Tensor W, b; }; int main() { std::cout << "Hello World!\n"; torch::Tensor tensor = torch::eye(3);// torch::eye(3); std::cout << tensor << std::endl; Net net(4, 5); for (const auto& p : net.parameters()) { std::cout << p << std::endl; } system("PAUSE"); }
libtorch在windows上的使用及采坑
whunamikey的专栏
09-07 1106
libtorch在windows下的使用
libtorch+torchvision windows编译
qq_18236971的博客
07-03 884
libtorch建议直接采用官方的预编译版本，对应好torchvision版本做编译。
win10上libtorch c++部署
alex1801
10-28 2354
开发环境： VS2017（VS2015亲测也能通过） win10 cmake>=3.0 libtorch1.6-release pytorch中libtorch加入了对C++的支持，以方便集成。但不同系统、开发环境下遇到的问题不同，这里进行整理。此方案为win10+vs下集成代码验证。 1、准备工作 1.1、cmake下载 用vs编译也是可以的，本文选用vs编译。确定有>=3.0版本的cmake和比较高的vs版本。cmake下载。 https://cmake.org/files/
windows10下c++加载libtorch
weixin_42425256的博客
07-25 1002
windows10下c++加载libtorch
C++下的libtorch部署——（三）window10下的Visual Studio配置libtorch
qq_43199575的博客
08-24 6569
libtorch可以理解为C++版的pytorch，语法和pytorch基本相似。安装libtorch之前，要先安装好cuda以及对应的pytorch。
LibTorch中Windows系统环境配置及CUDA不可用问题解决
weixin_42112050的博客
03-24 2906
在 Python 深度学习圈，PyTorch 具有举足轻重的地位。同样的，C++ 平台上的 LibTorch 作为 PyTorch 的纯 C++ 接口，它遵循 PyTorch 的设计和架构，旨在支持高性能、低延迟的 C++ 深度学习应用研究。本文基于 Windows 环境与 Visual Studio 2022 开发工具，将从零开始搭建一个完整的深度学习LibTorch开发环境。
Windows下 CLion中，配置 OpenCV、LibTorch
～勿据散客～的博客
06-04 1127
首先按照步骤配置。
如何在c语言调用pytorch中训练好的resnet50模型
04-05
好的，用户现在想知道如何在C语言中调用PyTorch训练好的ResNet50模型。之前他们问过如何在VS中安装Debug版的LibTorch，现在的问题应该是进阶应用了。首先，我需要回顾一下之前的回答，确保这次的内容能衔接上，同时...
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值