pytorch模型从训练到LibTorch部署(标贝科技)

原创 已于 2022-04-13 11:37:05 修改 · 3.4k 阅读 · 14 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#pytorch #python #深度学习

于 2021-12-28 17:10:43 首次发布
本文介绍了如何从安装PyTorch和LibTorch开始，详细讲解PyTorch模型的训练，转化成Torch Script，以及在C++环境中加载和运行模型的过程。通过Tracing和Annotation两种方法将PyTorch模型转换为Torch Script，以便于C++部署。

标贝科技 https://ai.data-baker.com/#/?source=qwer12

填写邀请码fwwqgs，每日免费调用量还可以翻倍
在这里插入图片描述
在这里插入图片描述

1、pytorch和libtorch安装(标贝科技)

PyTorch 是Torch7 团队开发的，从它的名字就可以看出，其与Torch 的不同之处在于PyTorch 使用了Python 作为开发语言。所谓“Python first”，同样说明它是一个以Python 优先的深度学习框架，不仅能够实现强大的GPU 加速，同时还支持动态神经网络，这是现在很多主流框架比如Tensorflow 等都不支持的。
　　PyTorch 既可以看做加入了GPU 支持的numpy，同时也可以看成一个拥有自动求导功能的强大的深度神经网络，除了Facebook 之外，它还已经被Twitter、CMU 和Salesforce 等机构采用。
pytorch是一个强大的机器学习库，其中集成了很多方法，但从python本身角度讲，它的速度还不够快，虽然对于许多需要动态性和易迭代性的场景来说，Python是一种合适且首选的语言，但在同样的情况下，Python的这些特性恰恰是不利的。它常常应用于生产环境，这是一个低延迟和有严格部署要求的领域，一般选择C++。

1）安装pytorch

两种方式安装pytorch：根据实际cuda版本和需求安装对应版本pytorch，这里安装的是1.5.0版本。

最低0.47元/天 解锁文章
博客
《SPARK官方教程系列》（标贝科技）
04-18 2824
1-概述Apache Spark是一个用于大规模数据处理的统一分析引擎，它在Java、Scala、Python和R中的提供了高级api，以及一个支持通用执行图[general execution graphs]的优化引擎。它还支持一组丰富的高级工具，包括用于SQL和结构化数据处理的Spark SQL、用于机器学习的MLlib、用于图形处理的GraphX以及用于增量计算和流处理的结构化流。在Spark 2.0之前，Spark的主要编程接口是弹性分布式数据集(RDD)。在Spark 2.0之后，RDDs被D
博客
uni-app多平台融合【入门】（标贝科技）
04-12 2857
uni-app多平台融合【入门】一、uni-app介绍uni-app 是一个使用 Vue.js 开发所有前端应用的框架，开发者编写一套代码，可发布到iOS、Android、Web（响应式）、以及各种小程序（微信/支付宝/百度/头条/飞书/QQ/快手/钉钉/淘宝）、快应用等多个平台。二、功能框架从下面uni-app功能框架图可看出，uni-app在跨平台的过程中，不牺牲平台特色，可优雅的调用平台专有能力，真正做到海纳百川、各取所长。三、使用工具【推荐】HBuilderX 【官网下载地址：http
博客
Elasticsearch相似度算分TF-IDF BM25（标贝科技）
03-29 2689
控制相关度处理结构化数据（比如：时间、数字、字符串、枚举）的数据库，只需检查文档（或关系数据库里的行）是否与查询匹配。布尔的是/非匹配是全文搜索的基础，但不止如此，我们还要知道每个文档与查询的相关度，在全文搜索引擎中不仅需要找到匹配的文档，还需根据它们相关度的高低进行排序。全文相关的公式或 相似算法（similarity algorithms） 会将多个因素合并起来，为每个文档生成一个相关度评分 _score 。这里，我们会验证各种可变部分，然后讨论如何来控制它们。当然，相关度不只与全文查询有关，也
博客
PHP各版本技术特性（标贝科技）
03-21 874
文章目录PHP8JIT流程配置测试小结match表达式PHP7HugepageHugepage简介Hugepage配置Opcache file cacheOpcache file cache简介Opcache file cache配置PHP5Opcache简介安装配置注意事项yield关键字总结PHP8JITPHP8 的 JIT（ Just In Time ）无疑是新特性中一大亮点， JIT 是一种编译器策略，它将代码表述为一种中间状态，在运行时将其转换为依赖于体系结构的机器码，并即时执行。在 PH
博客
go-mysql-elasticsearch+mysql 同步 ElasticSearch（标贝科技）
03-14 4138
一、Elasticsearch：https://www.elastic.co/downloads/past-releases1、Elasticsearch无需安装，解压即用。2、进入elasticsearch/bin目录，执行./elasticsearh即可启动。3、es 绑定了两个端口:9300：Java程序访问的端口9200：浏览器、postman访问的端口4、浏览器中访问：http://ip:9200 即可二、ik(分词) ： https://github.com/medcl/el
博客
白话Android音频系统原理（上）（标贝科技）
03-07 456
白话Android音频系统原理（上）一、基本原理二、初始化准备工作三、播放流程四、录音流程一、基本原理谁来发起（录音和播放）？AudioRecorder，AudioTrack。谁来处理（录音和播放）？ AudioFlinger！怎么处理？AudioPolicyService ！什么是output？为了便于管理, 把一个设备上具有相同参数的一组播放device组织称为一个output。它描述一些实际支持的设备（有实际硬件）一个output对应一个处理线程thread。二、初始化准备工作从f
博客
mysql 锁（标贝科技）
03-03 2477
mysql 锁锁类型类型表级锁：开销小，加锁快；不会出现死锁；锁定粒度大，发生锁冲突的概率最高，并发度最低这些存储引擎通过总是一次性同时获取所有需要的锁以及总是按相同的顺序获取表锁来避免死锁。表级锁更适合于以查询为主，并发用户少，只有少量按索引条件更新数据的应用，如Web 应用行级锁：开销大，加锁慢；会出现死锁；锁定粒度最小，发生锁冲突的概率最低，并发度也最高最大程度的支持并发，同时也带来了最大的锁开销在 InnoDB 中，除单个 SQL 组成的事务外，锁是逐步获得的，
博客
Docker概述（二）（标贝科技）
02-28 827
Docker概述（二）文章目录Docker概述（二）前言一、镜像构建与运行二、docker常用命令总结前言本文将介绍Docker镜像的构建、运行以及介绍docker的常用命令一、镜像构建与运行Dockerfile创建Dockerfile常用命令介绍这里以tomcat9.0为例首先下载一个tomcat9.0docker pull tomcat:9.0通常我们启动一个Tomcat容器，官方镜像是简化版的，在webapps 目录下没有任何内容，所有我们启动之后访问主页也是没有任
博客
postman安装使用教程（标贝科技）
02-21 2万+
postman安装使用教程文章目录postman安装使用教程前言一、postman安装二、postman使用前言postman是Chrome浏览器的插件，是一款功能强大的网页调试工具（接口调试神器）一、postman安装1.下载： https://www.postman.com/downloads/2. 安装双击postman应用程序进入到postman主界面，如下证明安装成功3. 界面主要功能介绍二、postman使用1. 状态码解释各位小伙伴可以学习一下关于接口
博客
Mysql 事务（标贝科技）
02-15 1024
文章目录事务InnoDB对ACID的支持隔离级别不同隔离级别下读读取数据可能出现的情况不可重复读和幻读区别redo log （共享表空间）redo log block刷redo log策略：innodb存储引擎中checkpoint：触发逻辑解决问题Log sequence number日志序列号innodb从执行修改语句开始：undo log 日志（共享表空间）记录日志的方式事务InnoDB对ACID的支持特性说明InnoDB支持原子性一个事务（transaction）中的所
博客
srilm的安装与使用（标贝科技）
02-10 2197
一、简介简单且概括的来说，SRILM是一个构建和应用统计语言模型的开源工具包，主要用于语音识别，统计标注和切分，以及机器翻译，可运行在UNIX及Windows平台上。（具体概念都能搜索出来，不再赘述，主讲安装和简单使用。）SRILM的主要目标是支持语言模型的估计和评测。二、安装在此，为解决大家下载版本不一致，导致安装出错的问题，提供压缩包下载链接，如下所示：SRILM：链接：https://pan.baidu.com/s/18T474NLSqlBL_xhMKEivnA提取码：adslTCL：链
博客
GMM-HMM声学模型实例详解（标贝科技）
01-17 4510
GMM-HMM声学模型实例详解GMM-HMM为经典的声学模型，基于深度神经网络的语音识别技术，其实就是神经网络代替了GMM来对HMM的观察概率进行建模，建模解码等识别流程的格个模块仍然沿用经典的语音识别技术接下来我将从GMM、最大似然估计到EM算法实例，再到最后使用一段语音介绍GMM-HMM声学模型参数更新过程一、GMM (混合高斯分布)1、正态分布(高斯分布)如果你绘制出来的概率分布是一条钟型曲线，且平均值、众数和中位数都是相等的，那么随机变量X就服从正态分布，记为X~N(μ，σ2),正态分布概
博客
MySQL索引原理（标贝科技）
01-14 727
什么是索引？索引是帮助MySQL高效获取数据的数据结构。索引的本质就是数据结构。索引的目的在于提高查询效率，可以类比图书的目录，根据目录中的页码快速找到所需的内容。一般来说索引本身也很大，不可能全部存储在内存中，因此索引往往以索引文件的形式存储在磁盘上。索引的优点和缺点优点1）索引可以提高数据检索的效率，降低数据库的IO成本2）索引可以将随机IO变成顺序IO3）索引可以帮助服务器避免排序和创建临时表缺点1）虽然索引提高了查询的速度，同时也降低了更新表的速度，比如对表进行INSERT、UPD
博客
基于AudioQueue实现音频的录制和播放（标贝科技）
01-07 871
基于AudioQueue实现音频的录制和播放文章目录基于AudioQueue实现音频的录制和播放背景总览Audio Queue 架构AudioQueueBuffer数据结构创建`AudioQueueBuffer`释放 `AudioQueueBuffer`Buffer Queue 和EnqueuingAudio Queue Callback音频录制创建一个录音 AudioQueue 的示例音频播放播放流程说明通过AudioQueue来控制音频的播放Audio Queue 的控制和状态Audio Queue
博客
Docker概述（一）（标贝科技）
12-27 1629
docker系列文章（一）第一章docker概述与安装文章目录docker系列文章（一）前言一、docker概述二、使用步骤1.引入库2.读入数据总结前言此系列文章将详细介绍docker的原理及使用一、docker概述docker是什么？docker是目前使用最广泛的开源容器引擎，是一种操作系统级的虚拟化技术，一个简单的应用程序打包工具为什么要使用容器？上线流程繁琐 —> 资源利用率低 —> 程序扩容不及时 —> 服务器环境臃肿 —> 服务所需环境不
博客
Mysql整体介绍（适用于5.X版本）(下）（标贝科技）
12-20 1280
Mysql整体介绍（适用于5.X版本）(下）（标贝科技）二、InnoDB介绍[9-11]InnoDB是Mysql取得成功的最关键的引擎，其重要性不言而喻，下面将单独对该引擎的核心特性进行介绍，其他引擎如MyISAM、MEMORY、NDB等，本文不作说明。本文主要从宏观角度整体性地对InnoDB进行介绍，索引、事务、锁等具体的知识点在后续文章单独介绍。2.1 InnoDB体系架构和关键技术在MySQL 5.1中，可以支持两个版本的InnoDB，一个是静态编译的InnoDB版本，可将其视为老版本的In
博客
免费公测 标贝声音理解，检测声音性别和年龄
12-17 995
古有听声辨位，今有听声“识”人。说到声音，其本质是不同频率声音的集合，以波的形式振动（震动）传播。由于每个人的发声器官（口腔、鼻腔、声带）各不相同，因此每个人的声音也不一样。因而，你的声音代表了个人很多关键信息，例如，性别、年龄、音色等特征。前几年，韩国大热的刑侦剧《Voice》里，女主是一个报警中心电话接听员，天生听力过人，不仅能听到很多常人听不到的细小微弱的声音，还能分辨出人讲话的声音、物体碰撞的声音、环境背景音等，靠着这个听声辨物的“超能力”，女主通过现场声音，准确的分辨人、物、地点，帮助组员破获了
博客
Mysql整体介绍（适用于5.X版本）(上）（标贝科技）
12-15 1745
Mysql整体介绍（适用于5.X版本）Mysql 8.X版本和 5.X版本相比，有比较大的调整。目前工作中应用最广的是Mysql 5.6/5.7的版本，所以文章将聚焦于对Mysql 5.6/5.7版本进行介绍，8.X版本的相关改动，有机会再单独整理。一、Mysql体系结构Mysql是一个单进程多线程、基于C/S架构的关系型数据库管理系统，其体系结构如图1所示（图片参考Mysql官方手册，各个版本会进行少许调整，总体上仍是准确的，虚线标出的查询缓存和缓冲区部分在Mysql 8.X版本中已废弃，侧面反映了
博客
kaldi新手入门及语音识别的流程(标贝科技)
12-06 4099
kaldi新手入门及语音识别的流程(标贝科技)欢迎体验标贝语音开放平台地址：https://ai.data-baker.com/#/?source=qaz123（注：填写邀请码hi25d7，每日免费调用量还可以翻倍）​​​​​​一、kaldikaldi简介Kaldi是当前最流行的开源的语音识别工具包，旨在提供灵活且可扩展的组件，包括多种语音信号处理，语音识别，声纹识别和深度神经网络。Kaldi的代码主要用C++编写，在此之上使用bash 和python脚本做了一些工具。kaldi安
博客
教你windows下配置java环境变量&idea配置maven库（标贝科技）
11-22 653
安装java环境变量+idea配置maven库（标贝科技）提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加例如：第一章 Python 机器学习入门之pandas的使用提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录安装java环境变量+idea配置maven库（标贝科技）前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值