PyTorch 1.7发布,支持CUDA 11、Windows分布式训练

借助生成式 AI 加快创作速度,通过快速构建 Omniverse 扩展程序,您可以直接在 USD Composer 中连接首选的生成式 AI 智能体并与之交互。或者,您也可以使用由 LLM 提供支持的 通过快速构建 Omniverse 扩展程序,您可以直接在 USD Composer 中连接首选的生成式 AI 智能体并与之交互。或者,您也可以使用由 LLM 提供支持的 OpenUSD 开发方法,为您的工作流程提供强劲助力。 阅读详情

点击上方“编程派”,选择设为“设为星标”

优质文章,第一时间送达!

前段时间,PyTorch 团队发布 PyTorch 1.7 版本。该版本增添了很多新特性,如支持 CUDA 11、Windows 分布式训练、增加了支持快速傅里叶变换(FFT)的新型 API 等。

PyTorch 1.7 版本包含很多新的 API,如支持 NumPy 兼容的 FFT 操作、性能分析工具,以及对基于分布式数据并行(DDP)和基于远程过程调用(RPC)的分布式训练的重要更新。

此外,一些特性也更新为稳定版,包括自定义 C++ 类、内存分析器、通过自定义类张量对象进行扩展、RPC 中的用户异步函数,以及 torch.distributed 中的许多其他特性(如 Per-RPC 超时、DDP dynamic bucketing、RRef helper)。

本次更新的亮点包括:

  • CUDA 11 得到 PyTorch 官方支持;

  • 对 autograd 分析器,更新和添加了 RPC、TorchScript 和堆栈跟踪(Stack trace)的分析和性能;

  • (测试版)通过 torch.fft 支持 NumPy 兼容的 FFT 操作;

  • (原型版)支持英伟达 A100 GPU 和原生 TF32 格式;

  • (原型版)支持 Windows 系统上的分布式训练。

  • torchvision

  • (稳定版)transforms 支持张量输入、批处理计算、GPU 和 TorchScript

  • (稳定版)JPEG 和 PNG 格式的原生图像 I/O

  • (测试版)新型视频读取器 API

  • torchaudio

  • (稳定版)增加了对语音录制(wav2letter)、文本转语音(WaveRNN)和源分离(ConvTasNet)的支持

(注:从 PyTorch 1.6 版本开始,PyTorch 特性分为 Stable(稳定版)、Beta(测试版)和 Prototype(原型版)。

新特性

PyTorch 1.7 相比之前版本,增加了很多新特性,包括 Python API、C++ API、Autograd、CUDA、量化等多个方面。

例如 Python API 增添了多个新的 namespace、operator 以及 API 扩展,CUDA 增加了 TF32 支持等,量化方面增加了新的量化操作、支持 FP16量化等。

PyTorch 1.7 部分新特性,详情参见 https://github.com/pytorch/pytorch/releases/tag/v1.7.0。

开发者对 PyTorch 1.7 的态度

有开发者对 PyTorch 1.7「支持 Windows 上的分布式训练」这一新功能表示赞赏:

以及乐见于「PyTorch 对 CUDA 11 的支持」:

依然有人趁机表白 PyTorch,并列出偏好 PyTorch 的原因,如报错易读、代码直观、易于实验。

当然,版本更迭的路似乎永无止境。有开发者提出了自己的需求,例如 fp32 卷积、TensorFlow有而 PyTorch 没有的 Semantic Versioning:

此时距离 PyTorch 1.6 版本发布仅三个月,不知道 PyTorch 的下一个版本又将带给我们哪些惊喜。

参考链接:

https://pytorch.org/blog/pytorch-1.7-released/

https://github.com/pytorch/pytorch/releases/tag/v1.7.0

https://www.reddit.com/r/MachineLearning/comments/jj4sr7/d_pytorch_17_released_w_cuda_11_new_apis_for_ffts/

原文:https://www.jiqizhixin.com/articles/2020-10-29-7 utm_source=tuicool&utm_medium=referral

回复下方「关键词」,获取优质资源

回复关键词「 pybook03」,立即获取主页君与小伙伴一起翻译的《Think Python 2e》电子版
回复关键词「入门资料」,立即获取主页君整理的 10 本 Python 入门书的电子版
回复关键词「m」,立即获取Python精选优质文章合集
题图:pexels,CC0 授权。

AE-扭曲-变形-弧 一些AE效果的着色器实现记录 阅读详情

相关推荐

AI数字人:口播与唇形同步的福音,支持本地部署/批量生成/口齿清晰

你也可以直接输入语音,虚拟化身会根据语音的节奏和语调,同步做出相应的动作和表情,表现更加生动。不过这依然是个值得关注的工具。借助先进的 AI 算法,Heygem 高精度捕捉五官、轮廓等特征,构建逼真的虚拟模型。同时,它还能克隆语音,捕捉人声的细微特征,支持多种语音参数设置,打造高度相似的音色效果。打开设置,调整镜像存储位置,镜像文件比较大70~80G,选择合适的盘,设置完成后点击“Apply & Restart”。数字人视频画面与声音高度同步,口型匹配自然流畅,智能优化音视频效果,带来极佳的视听体验。

m0_72580657的博客 5862

pytorch环境配置2060 cuda11.7,cudnn8.7

我的显卡 GeForce RTX 2060。

qq_44016148的博客 4972

ANPC三电平拓扑:两种调制方式解析

ANPC结构是基于“I”型NPC结构(下面讲NPC如不特殊说明,均指的是“I”型结构NPC)发展出来的一种改进型。我们在讲NPC结构的时候会谈到他的一个缺点就是损耗分布不均匀,会导致温升不均衡,进而限制模块的功率输出能力。而ANPC结构由于多了两个开关管以及相应的两个中性点换流回路(如下图),可以更加灵活任意的配置开关管可以使损耗没有那么的不均衡,从而能一定程度上提高模块的输出功率。ANPC拓扑结构图以及增加的环流回路。

IOTBOT的博客 9484

【亲测免费】 ZLUDA:让AMD GPU也能运行CUDA应用程序

ZLUDA是一个开源项目,它允许用户在不修改原有CUDA应用程序的情况下,在AMD GPU上以近原生性能运行。这意味着原本只能在NVIDIA GPU上运行的CUDA应用,现在也能在AMD GPU上高效执行,极大地拓展了CUDA应用的适用范围和硬件选择。 ## 项目技术分析 ZLUDA的核心技术是利用ROCm和HIP runtime,将CUDA代码动态转换为可以在AMD GPU上运行的代码。它的...

gitblog_00381的博客 1990

SAP 关于WPS上传文件提示“文档中不包含数据“ 和“程序正在运行中“处理办法

最近这一周经常有用户反馈,使用WPS上传文件系统报错,一直提示“程序正在运行中”,另外在导入数据的时候提示"文档中不包含数据",跟进运维过程中遇到的这两种情况,分享一下处理的办法,如果各位更好的办法也可以给我留言分享。

我小时候很黑的博客 2854

HighTec安装(官网免费)编译 嘎嘎详细~

安装软件最好有自己的一套安装规则,工程软件除了安装主体外还会有很多其他的东西,比如license或者还会有一些驱动,如果所有都随意安装会导致你需要卸载,或者更新软件时,有的需要将原来软件卸载干净,如果没有清晰的安装路径那真是灾难啊~请确保此目录中只有个人许可证。这样基本的配置就ok了,下面打开hightec软件检验下license是否识别到了,会让你选个工作区,建议自己建一个,要不你以后就找不到了,,,如下图拉到下面,按照要求填写信息,随便写就行,注意主要的MAC地址要填本机的物理地址,然后点击2即可。

weixin_60793044的博客 1万+

深度学习之CUDA+CUDNN软件安装教程!

深度学习之CUDA+CUDNN软件安装教程!

weixin_74009895的博客 6617

S32DS新建工程、编译调试下载、导入工程详细介绍

新建了一个工程之后,下面简单介绍下基本的UI界面。其中最左下角那个是界面,这个界面很重要,是图形化配置界面,然后可以根据这些配置自动生成代码。其中,左边那些配置文件,都是系统帮我们创建好了的,我们其实可以直接用就行。有PE工具的调试,以及Jlink工具的调试。我目前使用到PE工具调试可以查看寄存器值,而Jlink调试查看不了寄存器值。连接了开发板之后,点击Debug就可以吧程序下载到芯片上了,而且可以进入到调试界面。

luobeihai的博客 2万+

AMD显卡运行AI程序 遇到RuntimeError: No CUDA GPUs are available,解决方法

根据网上的资料,PyTorch并不直接支持AMD显卡进行GPU加速。这是因为PyTorch的GPU加速依赖于CUDA,而CUDA是NVIDIA的专有技术,不支持AMD显卡。因此,如果你的电脑装有AMD显卡,你将无法使用PyTorch的GPU加速功能。简而言之,AMD显卡不能运用CUDA ,于是RuntimeError: No CUDA GPUs are available不过,这并不意味着AMD显卡的用户无法使用CUDA。你可以选择安装PyTorch的CPU版本。

fengtajiang的博客 3155

Arduino与Proteus仿真实例-LCD2004-I2C(PCF8574)驱动仿真

LCD2004-I2C(PCF8574)驱动仿真 PCF8574/74A 通过两线双向 I2C 总线(串行时钟 (SCL)、串行数据 (SDA))提供通用远程 I/O 扩展。 LCD2004,即2004字符型液晶显示器,是一种点阵模块,用于显示字母、数字、字符等。 它由 5x8 个点阵位置组成; 每个位置可以显示一个字符。 两个字符之间有一个点间距,行之间有一个空格,从而将字符和行分开。 模型 2004 表示它显示 4 行,每行 20 个字符。 在前面的实例中对PCF8574和LCD2004的已经做了详细介

视觉与物联智能 1165

深入详细分析Skyworks 78113 PAMiD射频方案图

是一种高集成度的射频前端模块,它结合了功率放大器(PA)、双工器(Duplexer)、滤波器和开关等多个组件,主要用于4G LTE移动通信系统中的射频前端链路。是一款典型的PAMiD模块,通过将多个频段的发射(TX)和接收(RX)路径集成在一个模块中,大大减少了传统射频设计中的分立器件,同时提高了信号链路的效率和可靠性。模块化设计的优势PCB空间优化:高集成度设计大幅减小了射频电路的尺寸,适用于紧凑型移动设备。减少设计复杂度:模块化设计减少了器件间的匹配与调试工作,加速产品开发周期。性能稳定性。

weixin_43199439的博客 1480

PyTorch 1.7发布:支持CUDA 11、Windows分布式训练

木易 发自 凹非寺量子位 报道 | 公众号 QbitAI自从7月份CUDA 11发布以来,就陆陆续续听到了网友类似的吐槽:这正说着,10月27日,PyTorch团队发布了PyTorch...

量子位 1338

c++ windows api文档_PyTorch 1.7发布,支持CUDA 11、Windows分布式训练

机器之心报道参与:魔王、小舟昨日,PyTorch 团队发布 PyTorch 1.7 版本。该版本增添了很多新特性,如支持 CUDA 11、Windows 分布式训练、增加了支持快速傅里叶变换(FFT)的新型 API 等。PyTorch 1.7 版本包含很多新的 API,如支持 NumPy 兼容的 FFT 操作、性能分析工具,以及对基于分布式数据并行(DDP)和基于远程过程调用(RPC)的分布式训练...

weixin_39681171的博客 171

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

pytorch显卡内存随训练过程而增加_PyTorch 1.7发布,支持CUDA 11、Windows分布式训练...

昨日,PyTorch 团队发布 PyTorch 1.7 版本。该版本增添了很多新特性,如支持 CUDA 11、Windows 分布式训练、增加了支持快速傅里叶变换(FFT)的新型 API 等。机器之心报道,参与:魔王、小舟。PyTorch 1.7 版本包含很多新的 API,如支持 NumPy 兼容的 FFT 操作、性能分析工具,以及对基于分布式数据并行(DDP)和基于远程过程调用(RPC)的分布式...

weixin_39524984的博客 120

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

fft函数图像横坐标是什么_PyTorch 1.7 发布! 支持CUDA 11,Windows 分布式训练,以及FFT新API...

作者:Team PyTorch编译:McGLPyTorch 1.7 released w/ CUDA 11, New APIs for FFTs, Windows support for Distributed training and morehttps://pytorch.org/blog/pytorch-1.7-released/今天,我们正式发布 PyTorch 1.7,以及升级的域库。P...

weixin_33554514的博客 305

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

pytorch指定用多张显卡训练_PyTorch 1.7发布,支持CUDA 11、Windows分布式训练

昨日,PyTorch 团队发布 PyTorch 1.7 版本。该版本增添了很多新特性,如支持 CUDA 11、Windows 分布式训练、增加了支持快速傅里叶变换(FFT)的新型 API 等。机器之心报道,参与:魔王、小舟。PyTorch 1.7 版本包含很多新的 API,如支持 NumPy 兼容的 FFT 操作、性能分析工具,以及对基于分布式数据并行(DDP)和基于远程过程调用(RPC)的分布式...

weixin_33037089的博客 307

PyTorch 1.7 发布:支持 CUDA 11、FFT 新 API、及 Windows 分布式训练

PyTorch 1.7现已发布,此版本增加了许多新的 API、包括对与 NumPy 兼容的 FFT 操作的支持、用于性能分析的工具、以及对基于分布式数据并行(Distributed Data Parallel,DDP)和基于远程过程调用(Remote Procedure Call, RPC)的分布式训练的重大更新。 此外,一些功能已经稳定下来,包括自定义 C++ 类、内存分析器、通过类似自定义张量对象的扩展、RPC 中的用户异步函数、以及 torch 中的许多其他功能,例如 Per-RPC timeou.

寒冰屋的专栏 360

PyTorch 1.7来了!支持Windows上的分布式训练,还有大波API袭来

据Facebook 官方博客公告,PyTorch1.7版本已经于前日正式发布,相比于以往的 PyTorch 版本,此次更新除了增加了更多的API,还能够支持 NumPy兼容下的傅里叶变换、性能分析工具,以及对基于分布式数据并行(DDP)和远程过程调用(RPC)的分布式训练。 此外,原有的一些功能也转移到了稳定版,包括自定义C++-> 类(Classes)、内存分析器、通过自定义张量类对象进行的扩展、RPC中的用户异步功能以及Torch.Distributed中的许多其他功能,如Per-RPC超.

m0_37909240的博客 1961

sntp 与 windows time 服务有区别_PyTorch 1.7发布:支持CUDA 11、Windows分布式训练

weixin_39635130的博客 87

windows process activation service 通信_PyTorch1.7发布:新增API包括FFT ,分布式训练开始支持Windows...

图灵TOPIA来源:pytorch blog编译:刘静图灵联邦编辑部PyTorch 1.7版本包括许多新的API,包括对与NumPy兼容的FFT操作的支持,性能分析工具以及对基于分布式数据并行(DDP)和基于远程过程调用(RPC)的分布式训练的重大更新。此外,一些功能已经稳定下来,包括自定义C ++类,内存分析器,自定义张量对象的创建,RPC中的用户异步功能以及torch中的许多其他功...

weixin_39982269的博客 220

python pytorch fft_PyTorch1.7发布:新增API包括FFT ,分布式训练开始支持Windows

PyTorch 1.7版本包括许多新的API,包括对与NumPy兼容的FFT操作的支持,性能分析工具以及对基于分布式数据并行(DDP)和基于远程过程调用(RPC)的分布式训练的重大更新。此外,一些功能已经稳定下来,包括自定义C ++类,内存分析器,自定义张量对象的创建,RPC中的用户异步功能以及torch中的许多其他功能。例如Per-RPC超时,DDP动态存储和RRef助手。亮点包括:CUDA 1...

weixin_39517202的博客 377

fft函数图像横坐标是什么_PyTorch1.7发布:新增API包括FFT ,分布式训练开始支持Windows...

PyTorch 1.7版本包括许多新的API,包括对与NumPy兼容的FFT操作的支持,性能分析工具以及对基于分布式数据并行(DDP)和基于远程过程调用(RPC)的分布式训练的重大更新。此外,一些功能已经稳定下来,包括自定义C ++类,内存分析器,自定义张量对象的创建,RPC中的用户异步功能以及torch中的许多其他功能。例如Per-RPC超时,DDP动态存储和RRef助手。亮点包括:CUDA 1...

weixin_35427369的博客 125

DeepSpeed在Windows平台的完整解决方案:告别安装难题,开启高效AI训练之旅

你是否曾因Windows系统无法顺畅运行DeepSpeed而困扰?作为最受欢迎的深度学习优化库之一,DeepSpeed以其强大的分布式训练和推理功能(如ZeRO、3D并行、MoE等)被广泛用于训练Phi-3、Megatron-Turing-530B等先进模型。长期以来,Windows用户一直无法原生体验这些创新功能。今天,我们将详细解析如何在Windows系统下安装、编译并解决常见问题,让你轻松开

gitblog_00967的博客 952
上一篇: 用 Python 绘制一套“会跳舞”的动态图形
下一篇: Python批量图片识别并翻译——我用python给女朋友翻译化妆品标签
codingpy
博客等级 码龄11年 1870粉丝 104原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值