pytorch c++ API + VS2017

最新推荐文章于 2024-12-03 15:33:49 发布
原创 最新推荐文章于 2024-12-03 15:33:49 发布 · 493 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#pytorch #机器学习

本文介绍了如何在VS2017中使用PyTorch C++ API调用预先训练的模型，强调了版本匹配、库配置和性能比较。调试版本较慢，Release版本性能与Python相当。建议Python用于训练和测试，C++适用于部署。

C++ 的程序如何调用Pytorch训练完的模型，最简单和有效的方法就是直接使用Pytorch c++ API. 网上这方面的资料并不多，遇过很多坑，想留下一点记录。

1. 版本

首先要确认python中的pytorch的版本，在对应下载c++ API.  如果没有对应，后续就会遇到模型导入问题。 因为Pytorch的模型是需要序列化以后才可以给C++使用，版本不匹配会导致导入后使用问题。 

2. VS2017 配置

下载完官网提供的LIB,需要设置include和library。我自己下载是libtorch-win-shared-with-deps-1.8.1+cpu 和libtorch-win-shared-with-deps-debug-1.8.1+cpu。 因为测试需要，我还配置了opencv. 

配置include: 

opencv\build\include           libtorch-win-shared-with-deps-debug-1.8.1+cpu\libtorch\include      libtorch-win-shared-with-deps-debug-1.8.1+cpu\libtorch\include\torch\csrc\api\include

配置Lib

把libtorch/lib里面所有的lib都要写进去，不然编译不过

3. 使用调用

python: 序列化 需要用 torchscript https://pytorch.org/docs/stable/jit.html 

traced = torch.jit.trace(model, (torch.rand(batch_size,channel, input_h,input_w)))
traced
最低0.47元/天 解锁文章
C++ LibTorch (PyTorch C++ API)：深度学习模型推理与训练
weixin_41455464的博客
07-07 772
比如，你需要在嵌入式设备上跑模型，或者对延迟有极致要求，又或者你想把深度学习集成到一个大型的C++项目中。LibTorch是一个强大的工具，可以让你在C++环境中进行深度学习模型的推理和训练。虽然学习曲线比Python陡峭一些，但掌握之后，你会发现它的性能和灵活性是Python无法比拟的。今天咱们不讲虚的，直接上干货，用C++ LibTorch来玩转深度学习，让你的代码像开了挂一样，嗖嗖的！虽然用C++训练模型不如Python方便，但有些场景下，你可能需要在C++中进行模型的微调或者迁移学习。
PyTorch C++ API 是 PyTorch 的一个接口，它允许开发者使用 C++ 语言进行深度学习开发
博客域名：borter.blog.youkuaiyun.com
02-22 1068
5. **深度学习算法库**：PyTorch C++ API 集成了许多深度学习算法库，如 torchvision 和 torchtext，这使得你可以方便地使用这些库来进行图像和文本处理。1. **自定义设备支持**：PyTorch C++ API 支持在各种设备（如 CPU、GPU）上进行计算，而且你可以轻松地自定义设备来执行计算，这大大提高了计算效率和灵活性。3. **自定义数据加载**：PyTorch C++ API 提供了灵活的数据加载接口，你可以自定义数据加载器以满足你的特定需求。
PyTorch C++ API笔记
阿丹的彩蛋
08-06 2407
学习PyTorch C++ API的笔记
Pytorch的C++接口实践
热门推荐
生如蚁，美如神
08-06 3万+
Pytorch1.1版本已经提供了相对稳定的c++接口，网上也有了众多的资料供大家参考，进行c++的接口的初步尝试。 可以按照对应的选项下载，下面我们要说的是： 如何利用已经编译好的官方libtorch库和其他的opencv库等联合编写应用？ 其实很简单，大概的步骤有三步： 第一步：在python环境下将模型导出为jit的模型 第二步：编写对应的c++ inference 程序。 ...
PyTorch C++ API
wolaiyeptx的博客
12-01 3056
这些页面提供了 PyTorch C++ API 公共部分的文档。这个 API 大致可以分为五个部分： ATen: 构建所有其他内容的基础张量和数学运算库。 Autograd: 通过自动微分增强 ATen。 C++ Frontend: 用于训练和评估机器学习模型的高级构造。 TorchScript: TorchScript JIT 编译器和解释器的接口。 C++ Extensions: 一种使用自定义 C++ 和 CUDA 例程扩展 Python API 的方法。 结合起来，这些构建块形成了一个研究和生产
PyTorch 高层 API 到底层 C++ 实现的桥接机制解析
最新发布
m980828的博客
12-03 1689
PyBind11 是一个高级库，用来将 C++ 函数绑定到 Python，这样 Python 层的操作就可以直接调用预编译的 C++ 扩展。，该函数可以判断当前使用的是 CPU 还是 GPU，并进一步调用特定设备的实现（如 CPU 实现或 GPU 上的 cuDNN 实现）。这种架构设计使得 PyTorch 既能够提供友好的 Python API，又能够利用高效的 C++ 实现来执行底层计算。在 Python 中的实现，实际上是一个被 PyBind11 绑定的 C++ 函数。具体来说，它的工作流程是通过。
精选资源
cppdocs：PyTorch C ++ API文档
02-17
该存储库是自动生成的，其中包含的PyTorch C ++ API文档的网站源。 请不要针对此存储库发送拉取请求以编辑教程或文档源，因为它是自动生成的。 相反，请在编辑源代码以更改教程和说明，或在PyTorch文档中的源代码...
精选资源
陷阱：为Pytorch C ++ API（libtorch）进行绑定
02-05
Gotch为Pytorch C ++ API（Libtorch）创建了一个薄包装器，以利用其已优化的C ++张量API（约1400多种）和带有CUDA支持的动态图计算，并提供惯用的Go API以在Go中开发和实现深度学习。 一些功能是 全面的Pytorch...
精选资源
pytorch-cpp-rl：PyTorch C ++强化学习
01-28
API和基础算法几乎是相同的（向C ++迁移时需要进行必要的更改）。 它还包含一个简单的OpenAI Gym服务器的实现，该服务器通过进行通信以在Gym环境中测试该框架。 CppRl旨在成为一个可扩展的，合理优化的，可立即...
基于PyTorch的C++API运行模型进行图像分类
05-10 442
TorchScript简介 TorchScript是PyTorch模型的一种中间形式，可以在高性能环境（例如C ++）中运行。 一个简单示例如下： import torch #import torchvision class MyCell(torch.nn.Module): def __init__(self): super(MyCell, self).__init__() def forward(self, x, h.
使用C++调用pytorch模型(Linux)
weixin_39450742的博客
04-25 2812
模型转换思路通常为: Pytorch -> ONNX -> TensorRT Pytorch -> ONNX -> TVM Pytorch ->转换工具-> caffe Pytorch -> torchscript(C++版本Torch) 我的模型是使用Pytorch1.0训练的,第三种方法应该是还不支持,没有对应层名字, 放弃. (以下是用方法3生成的网络结构图, 其中部分层名字和工具对应不上). 因此本文使用第4中方法,详细步骤分两步, 具体如..
在 C++ 中使用 PyTorch
程序猿视角
05-22 3001
PyTorch 提供了 C++ 前端 API 接口，可以直接在 C++ 中使用 PyTorch 的相关功能。您可以使用 C++ API 在 C++ 代码中构建、训练和部署深度学习模型。6.使用 C++ API 加载和运行 Torch Script 模型或使用 ONNX Runtime 加载和运行 ONNX 模型。上述代码实现了一个使用 C++ API 训练 MNIST 数字识别模型并在每 100 批次后输出损失值的示例。4.在训练周期中使用 C++ API 优化模型。
PyTorch C++ API libtorch 简介
weixin_44966641的博客
12-21 2181
PyTorch C++ 简介 翻译自 PyTorch 官方文档：https://pytorch.org/cppdocs/index.html#acknowledgements 整体划分 根据 PyTorch 官方文档 的介绍，PyTorch的C++ API可以粗略分为以下五个部分： ATen：基础的张量和数学计算库，其他的部分都以此为基础。 Autograd：多 ATen 的扩展，包含自动微分功能。 C++ Frontend：用于训练和验证机器学习模型的高层架构。 TorchScript：TorchSci
PyTorch 1.5上线：加入稳定C++前端，高级自动梯度API
程序员小乐
05-01 708
点击上方 "程序员小乐"关注,星标或置顶一起成长每天凌晨00点00分,第一时间与你相约每日英文Never expect. Never assume. And neve...
使用pytorch的C++API部署图像分类模型
qq_37546267的博客
06-15 1486
在部署pytorch模型时候，使用C++　API能有更高的效率，本文记录使用C++ API部署一个图像分类模型的过程。 1.模型转换 首先需要将pytorch模型转化为Torch Script，Torch Script是PyTorch模型的一种表示，可以被Torch Script编译器理解，编译和序列化。用torch script把torch模型转成c++接口可读的模型有两种方式：Tracing && Annotation. tracing比Annotation简单，但只适合结构固定的网络模
在生产环境中基于PyTorch的C++API运行模型-以图像分类为例
ljp1919的专栏
10-12 2702
背景 生产环境多数是使用java或者C++，本文将介绍在C++中加载PyTorch模型，执行生产环境下的推理。因此，本文的重点在于C++中如何加载模型，并进行推理预测操作，而不是模型的设计和训练。 可以查看官方提供的说明 https://pytorch.org/tutorials/advanced/cpp_export.html# TorchScript简介 TorchScript是PyTorc...
pyTorch api
Claroja
12-31 791
pytorch api torch.nn.MSELoss
PyTorch C++ 前端是 PyTorch 机器学习框架的纯 C++ 接口
yanglamei1962的博客
06-24 2866
现在我们已经配置了基本环境，我们可以深入研究本教程中更有趣的部分。首先，我们将讨论如何在 C++ 前端中定义模块并与之交互。我们将从基本的小规模示例模块开始，然后使用 C++ 前端提供的广泛的内置模块库来实现全面的 GAN。N , M }));就像在 Python 中一样，我们定义了一个名为Net的类（为简单起见，这里是struct而不是class），然后从模块基类派生它。在构造器内部，我们使用创建张量，就像在 Python 中使用一样。一个有趣的区别是我们如何注册参数。
使用PyTorch C++ API在Web服务器上进行模型推理教程
1. **存储库内容：**描述中提到的存储库包含了多种使用PyTorch C ++ API进行推理的示例，这些示例可供开发者参考，用以实现他们自己的Web服务端推理系统。 2. **克隆存储库：**为了获取这个存储库，用户需要使用git...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值