pytorch c++ API + VS2017

最新推荐文章于 2024-12-03 15:33:49 发布

原创

最新推荐文章于 2024-12-03 15:33:49 发布 · 493 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#pytorch #机器学习

本文介绍了如何在VS2017中使用PyTorch C++ API调用预先训练的模型，强调了版本匹配、库配置和性能比较。调试版本较慢，Release版本性能与Python相当。建议Python用于训练和测试，C++适用于部署。

C++ 的程序如何调用Pytorch训练完的模型，最简单和有效的方法就是直接使用Pytorch c++ API. 网上这方面的资料并不多，遇过很多坑，想留下一点记录。

1. 版本

首先要确认python中的pytorch的版本，在对应下载c++ API. 如果没有对应，后续就会遇到模型导入问题。因为Pytorch的模型是需要序列化以后才可以给C++使用，版本不匹配会导致导入后使用问题。

2. VS2017 配置

下载完官网提供的LIB,需要设置include和library。我自己下载是libtorch-win-shared-with-deps-1.8.1+cpu 和libtorch-win-shared-with-deps-debug-1.8.1+cpu。因为测试需要，我还配置了opencv.

配置include:

opencv\build\include libtorch-win-shared-with-deps-debug-1.8.1+cpu\libtorch\include libtorch-win-shared-with-deps-debug-1.8.1+cpu\libtorch\include\torch\csrc\api\include

配置Lib

把libtorch/lib里面所有的lib都要写进去，不然编译不过

3. 使用调用

python: 序列化需要用 torchscript https://pytorch.org/docs/stable/jit.html

traced = torch.jit.trace(model, (torch.rand(batch_size,channel, input_h,input_w)))
traced

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

馒头苦雪的包子

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

C++ LibTorch (PyTorch C++ API)：深度学习模型推理与训练

weixin_41455464的博客

07-07

772

比如，你需要在嵌入式设备上跑模型，或者对延迟有极致要求，又或者你想把深度学习集成到一个大型的C++项目中。LibTorch是一个强大的工具，可以让你在C++环境中进行深度学习模型的推理和训练。虽然学习曲线比Python陡峭一些，但掌握之后，你会发现它的性能和灵活性是Python无法比拟的。今天咱们不讲虚的，直接上干货，用C++ LibTorch来玩转深度学习，让你的代码像开了挂一样，嗖嗖的！虽然用C++训练模型不如Python方便，但有些场景下，你可能需要在C++中进行模型的微调或者迁移学习。

PyTorch C++ API 是 PyTorch 的一个接口，它允许开发者使用 C++ 语言进行深度学习开发

博客域名：borter.blog.youkuaiyun.com

02-22

1068

5. **深度学习算法库**：PyTorch C++ API 集成了许多深度学习算法库，如 torchvision 和 torchtext，这使得你可以方便地使用这些库来进行图像和文本处理。1. **自定义设备支持**：PyTorch C++ API 支持在各种设备（如 CPU、GPU）上进行计算，而且你可以轻松地自定义设备来执行计算，这大大提高了计算效率和灵活性。3. **自定义数据加载**：PyTorch C++ API 提供了灵活的数据加载接口，你可以自定义数据加载器以满足你的特定需求。

参与评论您还未登录，请先登录后发表或查看评论

PyTorch C++ API笔记

阿丹的彩蛋

08-06

2407

学习PyTorch C++ API的笔记

Pytorch的C++接口实践

最新发布

m980828的博客

12-03

1689

PyBind11 是一个高级库，用来将 C++ 函数绑定到 Python，这样 Python 层的操作就可以直接调用预编译的 C++ 扩展。，该函数可以判断当前使用的是 CPU 还是 GPU，并进一步调用特定设备的实现（如 CPU 实现或 GPU 上的 cuDNN 实现）。这种架构设计使得 PyTorch 既能够提供友好的 Python API，又能够利用高效的 C++ 实现来执行底层计算。在 Python 中的实现，实际上是一个被 PyBind11 绑定的 C++ 函数。具体来说，它的工作流程是通过。

精选资源

cppdocs：PyTorch C ++ API文档

02-17

该存储库是自动生成的，其中包含的PyTorch C ++ API文档的网站源。请不要针对此存储库发送拉取请求以编辑教程或文档源，因为它是自动生成的。相反，请在编辑源代码以更改教程和说明，或在PyTorch文档中的源代码...

精选资源

陷阱：为Pytorch C ++ API（libtorch）进行绑定

02-05

Gotch为Pytorch C ++ API（Libtorch）创建了一个薄包装器，以利用其已优化的C ++张量API（约1400多种）和带有CUDA支持的动态图计算，并提供惯用的Go API以在Go中开发和实现深度学习。一些功能是全面的Pytorch...

精选资源

pytorch-cpp-rl：PyTorch C ++强化学习

01-28

API和基础算法几乎是相同的（向C ++迁移时需要进行必要的更改）。它还包含一个简单的OpenAI Gym服务器的实现，该服务器通过进行通信以在Gym环境中测试该框架。 CppRl旨在成为一个可扩展的，合理优化的，可立即...

基于PyTorch的C++API运行模型进行图像分类

05-10

442

TorchScript简介 TorchScript是PyTorch模型的一种中间形式，可以在高性能环境（例如C ++）中运行。一个简单示例如下： import torch #import torchvision class MyCell(torch.nn.Module): def __init__(self): super(MyCell, self).__init__() def forward(self, x, h.

使用C++调用pytorch模型(Linux)

weixin_39450742的博客

04-25

2812

模型转换思路通常为: Pytorch -> ONNX -> TensorRT Pytorch -> ONNX -> TVM Pytorch ->转换工具-> caffe Pytorch -> torchscript(C++版本Torch) 我的模型是使用Pytorch1.0训练的,第三种方法应该是还不支持,没有对应层名字, 放弃. (以下是用方法3生成的网络结构图, 其中部分层名字和工具对应不上). 因此本文使用第4中方法,详细步骤分两步, 具体如..

在 C++ 中使用 PyTorch

程序猿视角

05-22

3001

PyTorch 提供了 C++ 前端 API 接口，可以直接在 C++ 中使用 PyTorch 的相关功能。您可以使用 C++ API 在 C++ 代码中构建、训练和部署深度学习模型。6.使用 C++ API 加载和运行 Torch Script 模型或使用 ONNX Runtime 加载和运行 ONNX 模型。上述代码实现了一个使用 C++ API 训练 MNIST 数字识别模型并在每 100 批次后输出损失值的示例。4.在训练周期中使用 C++ API 优化模型。

PyTorch C++ API libtorch 简介

weixin_44966641的博客

12-21

2181

PyTorch C++ 简介翻译自 PyTorch 官方文档：https://pytorch.org/cppdocs/index.html#acknowledgements 整体划分根据 PyTorch 官方文档的介绍，PyTorch的C++ API可以粗略分为以下五个部分： ATen：基础的张量和数学计算库，其他的部分都以此为基础。 Autograd：多 ATen 的扩展，包含自动微分功能。 C++ Frontend：用于训练和验证机器学习模型的高层架构。 TorchScript：TorchSci

PyTorch 1.5上线：加入稳定C++前端，高级自动梯度API

程序员小乐

05-01

708

点击上方 "程序员小乐"关注,星标或置顶一起成长每天凌晨00点00分,第一时间与你相约每日英文Never expect. Never assume. And neve...

使用pytorch的C++API部署图像分类模型

qq_37546267的博客

06-15

1486

在部署pytorch模型时候，使用C++　API能有更高的效率，本文记录使用C++ API部署一个图像分类模型的过程。 1.模型转换首先需要将pytorch模型转化为Torch Script，Torch Script是PyTorch模型的一种表示，可以被Torch Script编译器理解，编译和序列化。用torch script把torch模型转成c++接口可读的模型有两种方式：Tracing && Annotation. tracing比Annotation简单，但只适合结构固定的网络模

在生产环境中基于PyTorch的C++API运行模型-以图像分类为例

ljp1919的专栏

10-12

2702

背景生产环境多数是使用java或者C++，本文将介绍在C++中加载PyTorch模型，执行生产环境下的推理。因此，本文的重点在于C++中如何加载模型，并进行推理预测操作，而不是模型的设计和训练。可以查看官方提供的说明 https://pytorch.org/tutorials/advanced/cpp_export.html# TorchScript简介 TorchScript是PyTorc...

pyTorch api

Claroja

12-31

791

pytorch api torch.nn.MSELoss

PyTorch C++ 前端是 PyTorch 机器学习框架的纯 C++ 接口

yanglamei1962的博客

06-24

2866

现在我们已经配置了基本环境，我们可以深入研究本教程中更有趣的部分。首先，我们将讨论如何在 C++ 前端中定义模块并与之交互。我们将从基本的小规模示例模块开始，然后使用 C++ 前端提供的广泛的内置模块库来实现全面的 GAN。N , M }));就像在 Python 中一样，我们定义了一个名为Net的类（为简单起见，这里是struct而不是class），然后从模块基类派生它。在构造器内部，我们使用创建张量，就像在 Python 中使用一样。一个有趣的区别是我们如何注册参数。