AI大预言模型深度学习框架环境搭建（个人简化版）_搭建ai大预言模型的工作站发方案-优快云博客

浪费了我两个晚上搭建的成果，我得要存一下记录。简化记录，不适合所有人

1.cuda

必须是N卡

右下方显卡控制面板或者使用cmd命令行：nVidia-smi，找到自己显卡对应得版本Cuda版本

到英伟达官网下载，找比自己cuda低一版本的安装包下载安装。

安装时只安装cuda即可，vs的选项取消

2.cudnn加强深度学习的安装包，下载对应版本的（例如我是12.x以上）window安装包

解压的东西覆盖到：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6

之后检查环境变量：红色为必须，其他是我自己加的

3.安装Anaconda，跳过注册下载

安装时，选择为所有安装，无脑下一步

4.下载PyTorch

版本选择小于自己cuda的版本，我自己的cuda是12.6，我这里选择12.4的版本，一定要选好版本，不然跑某些大模型会提醒你pytorch和cuda版本冲突报错的

这里官方说2.5.1的版本必须要python3.9以上的版本，意思是用Anaconda Prompt，构建PyTorch环境时，要大于3.9，我这里选择3.10是因为网上很多的项目都要求 Python 3.10 以上版本。

conda create -n pytorch python=3.10

创建好虚拟环境后（在“Anaconda Prompt”中输入例如：conda create -n pytorch python=3.10），进入所建立的虚拟环境中，输入conda activate pytorch

conda remove -n xxxxx(名字) --all #如果装错版本了，可以直接用这条命令删掉你创建的虚拟环境

#查看你创建的所有的虚拟环境

conda env list
conda info --envs

#查看虚拟环境的库
pip list

之后运行官网的代码下方的：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

下载失败，就挂梯子下。

界面出现提示按Y继续就行。

最后验证PyTorch是否安装成功
● 初步验证
激活你安装的虚拟环境，例如conda activate pytorch

输入conda list，看有没有pytorch或者torch，有就表示安装成功。

● 如不放心，可进一步验证

输入python
输入import torch
输入torch.cuda.is_available()
如果显示True，则表示安装成功了！

————————————————

PyTorch是支持 CUDA 的深度学习框架，验证时用系统的cmd可能无法验证，可以通过如下方式切换到虚拟环境检验

import torch
print(torch.cuda.is_available())  # 输出 True 表示 CUDA 可用


# 退出虚拟环境
deactivate

附上其他安装教程：

不用梯子换源安装，可能出错：

其他教程

其他软件的下载