AI大预言模型深度学习框架环境搭建(个人简化版)

浪费了我两个晚上搭建的成果,我得要存一下记录。简化记录,不适合所有人

1.cuda

必须是N卡

右下方显卡控制面板或者使用cmd命令行:nVidia-smi,找到自己显卡对应得版本Cuda版本

到英伟达官网下载,找比自己cuda低一版本的安装包下载安装。

CUDA Toolkit Archive | NVIDIA Developer

安装时只安装cuda即可,vs的选项取消

2.cudnn加强深度学习的安装包,下载对应版本的(例如我是12.x以上)window安装包

cuDNN 档案 |NVIDIA 开发人员

解压的东西覆盖到:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6

之后检查环境变量:红色为必须,其他是我自己加的

3.安装Anaconda,跳过注册下载

Download Now | Anaconda

安装时,选择为所有安装,无脑下一步

4.下载PyTorch

版本选择小于自己cuda的版本,我自己的cuda是12.6,我这里选择12.4的版本,一定要选好版本,不然跑某些大模型会提醒你pytorch和cuda版本冲突报错的

这里官方说2.5.1的版本必须要python3.9以上的版本,意思是用Anaconda Prompt,构建PyTorch环境时,要大于3.9,我这里选择3.10是因为网上很多的项目 都要求 Python 3.10 以上版本。

conda create -n pytorch python=3.10

创建好虚拟环境后(在“Anaconda Prompt”中输入例如:conda create -n pytorch python=3.10),进入所建立的虚拟环境中,输入conda activate pytorch

conda remove -n xxxxx(名字) --all #如果装错版本了,可以直接用这条命令删掉你创建的虚拟环境
#查看你创建的所有的虚拟环境

conda env list
conda info --envs

#查看虚拟环境的库
pip list

之后运行官网的代码下方的:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

下载失败,就挂梯子下。

界面出现提示按Y继续就行。

PyTorchhttps://pytorch.org/

最后验证PyTorch是否安装成功
● 初步验证
激活你安装的虚拟环境,例如conda activate pytorch

输入conda list,看有没有pytorch或者torch,有就表示安装成功。

● 如不放心,可进一步验证

输入python
输入import torch
输入torch.cuda.is_available()
如果显示True,则表示安装成功了!

————————————————

PyTorch是支持 CUDA 的深度学习框架,验证时用系统的cmd可能无法验证,可以通过如下方式切换到虚拟环境检验

import torch
print(torch.cuda.is_available())  # 输出 True 表示 CUDA 可用


# 退出虚拟环境
deactivate

附上其他安装教程:

不用梯子换源安装,可能出错:

2024最新超详细无痛安装PyTorch,包括下载地址、环境配置与各种避坑指南_pytorch下载教程-优快云博客

换源报错的清除方式:pytorch(仅供自己参考勿看)_pytorch怎么下载-优快云博客

其他教程

手把手教你使用anaconda安装pytorch环境(适合新手)-优快云博客

一招轻松卸载:彻底删除Docker中的镜像文件,告别空间浪费! - 云原生实践

一文理顺:pytorch、cuda版本,从此不再为兼容问题头疼!_哔哩哔哩_bilibili

其他软件的下载

LM Studio——探索、下载和运行本地LLM - LM Studio 应用程序

Download Visual Studio Code - Mac, Linux, Windows

使用3090单显卡部署deepseek-r1 32B - 知乎

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值