PyTorch开始使用的一些问题

原创 已于 2022-03-29 23:14:56 修改 · 2.9k 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#cuda #pytorch

于 2022-03-29 23:11:37 首次发布
本文介绍了PyTorch在安装GPU支持、处理导入错误、运行分布式训练时遇到的问题及其解决方案，包括修改PIL版本、调整启动参数和解决NCCL支持问题。

一、GPU支持：

    首先访问PyTorch的主页点“install"，跳转到Start Locally | PyTorch 根据自己的需要点相应的内容得到命令。

如上图所示，可以直接运行其中的

pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113

命令就可以安装好PyTorch对GPU的支持。当然还要安装相应的CUDA驱动。

可以参考我的另外一个对TensorFlow的内容conda 安装CUDA 和cudnn_bjay的博客-优快云博客_conda安装cuda 

  二、对于“ImportError: cannot import name 'PILLOW_VERSION' from 'PIL' (D:\program\Anaconda3\lib\site-packages\PIL\__init__.py)”错误：

在运行例如：python main.py -a resnet50 &nb

最低0.47元/天 解锁文章
pytorch No rendezvous handler for env://
jacke121的专栏
05-09 4076
目录 参考文章： 1、尝试将 backend=‘nccl’ 修改为 backend=‘gloo’，原因是win10暂时不支持nccl模式。 结果：未解决。 2、尝试更新pytorch至1.8。（为了提高 NCCL 稳定性，PyTorch 1.8 将支持稳定的异步错误/超时处理；支持 RPC 分析。此外，还增加了对管道并行的支持，并可以通过 DDP 中的通讯钩子进行梯度压缩。） 参考文章： 参考1： RunTimeError：No rendezvous handler for env:/
Distributed package doesn‘t have NCCL built in
jacke121的专栏
05-08 1万+
Distributed package doesn't have NCCL built in 问题描述： python在windows环境下dist.init_process_group(backend, rank, world_size)处报错‘RuntimeError: Distributed package doesn’t have NCCL built in’，具体信息如下： File "D:\Software\Anaconda\Anaconda3\envs\segmenter\lib\.
pytorchlighting报错：raise RuntimeError(“Distributed package doesn‘t have NCCL “RuntimeError: Distribu
Frank-Li的博客
06-16 6205
1、该问题的主要原因是windows环境不支持NCCL，所以最好不要使用ddp ##源代码： trainer = Trainer(gpus=[0],distributed_backend="ddp") ##修改后的代码： trainer = Trainer(gpus=[0]) anz
YOLOv5遇到问题
qq_45789150的博客
06-23 1636
学习yolov5遇见问题
PyTorch深度学习实战（3）——使用PyTorch构建神经网络
热门推荐
盼小辉丶的博客
06-13 8万+
PyTorch 是一个用于构建深度神经网络的库，具有灵活性和可扩展性，可以轻松自定义模型。在本节中，我们将使用 PyTorch 库构建神经网络，利用张量对象操作和梯度值计算更新网络权重，并利用 Sequential 类简化网络构建过程，最后还介绍了如何使用 save、load 方法保存和加载模型，以节省模型训练时间。
精选资源
pytorch-quantization-demo:从头开始使用pytorch的简单网络量化演示
05-15
pytorch-quantization-demo A simple network quantization demo using pytorch from scratch. This is the code for my about network quantization written in Chinese. 感兴趣的读者欢迎关注我的知乎专栏： 以及...
精选资源
PyTorch入门指南：从零开始掌握深度学习框架.pdf
最新发布
03-11
使用场景及目标：该文档有助于建立使用者对于深度学习及其具体实践有更加直观的理解，在完成本教程之后，读者应当能够在个人设备上正确部署Python环境，并依据指示独立创建自己的简易深度学习项目。 其他说明：文中...
精选资源
Bert-Chinese-Text-Classification-Pytorch:使用Bert，ERNIE，进行中文文本分类
04-24
通过使用Pytorch的模型加载和初始化功能，能够将预训练模型导入到工程中。 数据预处理：在使用Bert和ERNIE进行中文文本分类之前，需要进行数据预处理。主要包括分词、标记化、词向量映射等步骤。你可以选择使用...
RuntimeError: Distributed package doesn‘t have NCCL built in
weixin_43940981的博客
10-20 1万+
Improved Diffusion 复现之 NCCL报错
【报错解决】RuntimeError: Distributed package doesn‘t have NCCL built in
风巽·剑染春水的博客
04-15 2863
windows系统不支持nccl，采用gloo；
pytorch中dataloader的num_workers参数
qq_40990057的博客
07-09 1万+
结论速递 在Windows系统中，num_workers参数建议设为0，在Linux系统则不需担心。 1 问题描述 在之前的任务超大图上的节点表征学习中，使用PyG库用于数据加载的DataLoader，ClusterLoader等类时，会涉及到参数num_workers。在不同系统环境试验该参数的设定值时，会出现不同的结果 colab（Linux），设为12 有warning message，提示num_workers参数设置不合理，不影响继续运行 /usr/local/lib/python3.7/di
Kaggle运行报错排查
horsetaill的博客
05-11 2021
Kaggle报错，没有勾选Internet选项
【解决】RuntimeError: Distributed package doesn‘t have NCCL built in
Paul_Huang的专栏
11-17 9906
RuntimeError: Distributed package doesn't have NCCL built in
raise RuntimeError(“Distributed package doesn‘t have NCCL “ “built in“) RuntimeError: Distributed pa
weixin_50563385的博客
05-06 237
【代码】raise RuntimeError(“Distributed package doesn‘t have NCCL “ “built in“) RuntimeError: Distributed pa。
解决问题：AssertionError: Torch not compiled with CUDA enabled
llvtingting的博客
07-11 3234
今天在运行程序的时候突然遇到这个问题，就查资料解决了一下。 原因： 要在没有GPU的电脑上使用GPU使用.cuda()语句 解决办法： 第一步：在代码开始的地方加上一行代码 device = torch.device("cuda" if torch.cuda.is_available() else "cpu") #注意符号要是英文的 第二步：将所有的cuda()换成to(device),可以使用替换方式进行（按CTRL+R就可以替换） #model.cuda() 原来 model.to(device)
NCCL报错 raise RuntimeError(“Distributed package doesn‘t have NCCL “ “built in“)RuntimeError: Distribu
m0_67547784的博客
10-18 1335
windows用户可能必须使用“gloo”而不是“nccl”作为后端。windows系统不支持nccl，采用gloo；#nccl：NVIDIA集体通信库。
已解决RuntimeError: Distributed package doesn‘t have NCCL built in
qq_52381360的博客
03-17 3642
已解决RuntimeError: Distributed package doesn‘t have NCCL built in
如何安装并开始使用PyTorch？
09-30
安装和开始使用PyTorch通常需要几个步骤： 1. **Python环境**：首先，确保你的系统已经安装了Python。你可以访问https://www.python.org/downloads/ 下载最新版本。 2. **包管理器**：推荐使用pip来安装PyTorch。打开命令行终端（Windows用户可以使用cmd或PowerShell），输入以下命令来安装： ``` pip install torch torchvision ``` 如果你需要GPU支持，记得添加`cuda`和对应的版本，例如 `torch==1.9.0+cu111`，请根据你的CUDA版本选择。 3. **验证安装**：安装完成后，你可以运行下面的代码来检查安装是否成功，并加载张量库： ```python import torch print(torch.__version__) device = torch.device("cuda" if torch.cuda.is_available() else "cpu") print(device) ``` 4. **开始学习**：现在你可以开始编写基于PyTorch的代码了，比如创建神经网络、加载数据、训练模型等。有很多教程和资源可以帮助你入门，如官方文档https://pytorch.org/docs/stable/index.html 和在线课程。
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值