【全网最简单】5分钟 Win10安装部署pytorch GPU加速(附gpu测试代码）--------- 不需要安装CUDA，CUDNN ！！！

欣华数码

已于 2024-06-10 16:19:13 修改

阅读量2.4k

点赞数 40

分类专栏：大模型深度计算文章标签： pytorch 人工智能 python gpu算力深度学习

于 2024-06-09 17:03:35 首次发布

本文链接：https://blog.youkuaiyun.com/otbc1/article/details/139560620

版权

大模型深度计算专栏收录该内容

4 篇文章

订阅专栏

--------- 第一点，不需要安装CUDA，CUDNN ！！！安装官方显卡驱动就行----------

1.安装 Anaconda ，国内镜像地址：Index of /anaconda/archive/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror

2.安装显卡驱动（NVIDIA），能玩3D游戏证明已经安装好驱动，可跳过。

官方下载地址：官方驱动 | NVIDIA

注意：不需要单独安装CUDA，CUDNN！因为现在的pytorch运行库中已集成。

CUDA全称：CUDA Toolkit（CUDA工具包），是Nvidia为开发者提供了一套基于C/C++的开发工具包，用于开发，调试CUDA应用程序。

CUDNN全称：CUDA Deep Neural Network library是由NVIDIA开发的一个深度学习GPU加速库。

3.查看CUDA驱动版本

在win10命令行输入：nvidia-smi

可以看到CUDA Version：11.7 ，这一行就是CUDN驱动的版本，pytorch需要与此版本对应，因为pytorch的运行库需要调用CUDA驱动进行gpu加速计算。

4.下载 Pytorch 离线安装包

在线安装pytorch的速度实在感人，一般都是等待一晚上，最终以失败告终，因此国内镜像离线安装是必须的。

pytorch国内镜像下载地址：

https://download.pytorch.org/whl/torch_stable.html

注意，以cpu/开头的是cpu版本，我们要找的是gpu版本，以cuXXX/开头

下面是GPU版本的pytorch，找到匹配的对应版本下载即可：

其中cu117,意思是CUDA版本是11.7，touch-1.13.0意思是pytorch的版本是1.13.0 ，cp310意思是对应python的版本是3.10 ，linux_x86_64意思是对应操作系统是64位的x86下的linux，我们在win10下安装则需要找win_amd64，意思是64位的windows系统。

我们的环境：CUDA：11.7 ，python：3.10 ，操作系统是64位的win10，x86架构，因此下载

torch-1.13.0+cu117-cp310-cp310-win_amd64.whl，满足要求，同时需要下载：

torchaudio-0.13.0+cu117-cp310-cp310-win_amd64.whl

torchvision-0.14.0+cu117-cp310-cp310-win_amd64.whl

到此pytorch的gpu离线安装包就准备好了。

5.pytorch离线安装

a 使用“conda activate xxxxx（环境名字）”激活到当前环境

b 再使用cd进入到下载torch的目录中

c 然后依次运行：

pip install torch-1.13.0+cu117-cp310-cp310-win_amd64.whl

pip install torchvision-0.14.0+cu117-cp310-cp310-win_amd64.whl

pip install torchaudio-0.13.0+cu117-cp310-cp310-win_amd64.whl

注意：离线安装之前需要加入国内conda源，否则速度感人。。。

conda config --------生成配置文件

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/

------------------加入清华源

conda config --set show_channel_urls yes ------------------------显示通道地址

加入新的源之后，可是使用以下命令显示所有源：

conda config --show channels

还需要加入pip国内源：

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple ----------pip换清华源

pip config list -----------------------pip显示所有源

6.pytorch gpu测试

A 首先查看pytorch是否安装成功

输入python进入解释器，

输入import torch ，如果没有报错即安装成功。

B 下面进行pytorch gpu的测试

import torch
flag = torch.cuda.is_available()
print(flag)

ngpu= 1
# Decide which device we want to run on
device = torch.device("cuda:0" if (torch.cuda.is_available() and ngpu > 0) else "cpu")
print(device)
print(torch.cuda.get_device_name(0))
print(torch.rand(3,3).cuda())

输出True，表明可以使用gpu进行加速运算，后面打出的是gpu的类型。

C 感受一下GPU的速度：

import time
import torch

# 测试gpu计算耗时
A = torch.ones(5000, 5000).to('cuda')
B = torch.ones(5000, 5000).to('cuda')
startTime2 = time.time()
for i in range(1000):
    C = torch.matmul(A, B)
endTime2 = time.time()
print('gpu每次计算时长:', round((endTime2 - startTime2)*1000 , 2), 'us')

# 测试cpu计算耗时
A = torch.ones(5000, 5000)
B = torch.ones(5000, 5000)
startTime1 = time.time()
for i in range(100):
    C = torch.matmul(A, B)
endTime1 = time.time()
print('cpu每次计算时长:', round((endTime1 - startTime1) * 10000, 2), 'us')