windows下安装CUDA-本地微调大模型

原创 已于 2025-02-24 00:24:15 修改 · 526 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #人工智能

于 2025-02-23 21:12:13 首次发布
部署运行你感兴趣的模型镜像

1、查看NVIDIA的控制面板的版本号

2 下载CUDA Toolkit

https://developer.nvidia.com/cuda-toolkit-archive

这里要下载和自己电脑NVIDIA适配CUDA的大版本要保持一致

选择对应的版本进行下载

文件比较大，直接右键复制链接，放到迅雷中两分钟就下好了

3 安装

安装比较简单，无脑下一步就可以了

安装时长还蛮久的，要多等一会

安装完成之后会提示重启，重启完毕之后，命令验证一下

这样就安装完毕了

您可能感兴趣的与本文相关的镜像

PyTorch 2.7

PyTorch 2.7

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

RoronoaV587
关注
Windows 11下RTX 4090深度学习及大模型微调环境安装指南
wangjye99的博客
08-07 2637
在安装深度学习及大模型微调环境时，经历了多次反复操作（如CUDA、cuDNN、PyTorch的安装与卸载）。为了避免走弯路，因此进行了安装后的总结，供大家参考。
【系统设置】安装CUDA Toolkit，提升本地大模型运行效率
正经教主是个热衷于正经学习分享的教主。
03-16 1514
安装CUDA Toolkit，提升本地大模型运行效率。
手把手教你本地部署大模型：CUDA与cuDNN环境配置全攻略
最新发布
瓦罗兰特顶级C位的博客
10-29 1025
本文从零开始，带你避坑踩雷，5分钟搞定高性能环境，让大模型在你的电脑上“飞”起来！
手把手教你配置CUDA, cuDNN-十分钟配置本地CUDA, cuDNN
c_h_q_的博客
03-11 1万+
手把手教你配置CUDA, cuDNN-十分钟配置本地CUDA, cuDNN
CUDA下载安装教程，新手详细
changyana的博客
01-27 6万+
新手入门，详细安装教程
windows电脑上安装llama-factory实现大模型微调
qq_37587269的博客
03-02 5408
这是官方给的llama-factory安装教程，，上面介绍了linux系统上以及windows系统上如何正确安装。大家依照安装步骤基本能够完成安装，但是可能由于缺少经验或者相关的知识导致启动webUi界面运行相应内容时会报各种错误。特别需要注意的是：一定要有英伟达的显卡。如果没有显卡的GPU加速，模型的训练时间是非常长的。
Windows下LLaMA-Factory大模型微调安装指南
在Windows系统上安装并配置LLaMA-Factory用于大模型微调是一项涉及多个技术层面的复杂任务，涵盖操作系统适配、深度学习环境搭建、GPU驱动支持、Python虚拟环境管理、CUDA与PyTorch版本兼容性处理等多个关键环节。...
LLaMA-Factory微调大模型
YXWik的博客
03-20 1895
中断之后继续训练，可以使用下面命令，训练步数也会从保存的checkpoint处开始，比如checkpoint保。如果可以通过添加命令，从检查点开始继续训练，但训练集会从头开始训练，适合用新数据集继续训练。当然使用命令训练，没有用webui看loss那么直观，需要加一个命令。对话模版 选择 qwen 是我这里的模型选择的qwen系列的。存点是400步，但是在450步中断，会从400步开始继续。我们用longgeai的甄嬛数据集进行测试。点击预览数据集可以查看数据集的格式。文件，这个文件需要放到。
低成本单机多卡微调方案实战指南：Windows系统+双4070显卡+LLaMA-Factory微调7B大模型
与群狼共舞
05-02 1651
【真实项目复盘】从显卡困局到双4070显卡极限突围【显卡党必看】双4070显卡血泪教程：从炸显存到跑通7B模型的生死线Windows 11双显卡部署LLaMA-Factory：4070显卡显存溢出终极解决方案WSL2下微调避坑指南：双4070显卡跑通Qwen2.5-7B-Instruct的4bit量化实录LLaMA-Factory实战：12G显存显卡用量化压缩玩转3B/7B大模型。
Qwen大模型Lora微调-Windows
帅东's Blog
11-23 1603
Qwen大模型微调
Windows本地部署DeepSeek-R1大模型实战：基于Ollama的极简指南
TKang8912的博客
02-03 6226
准备训练数据（JSONL格式）{"text": "<用户指令>优化客服话术</指令><响应>..."}# 启动微调部署效果评估响应速度：CPU模式约15 tokens/s，RTX4090可达85 tokens/s内存占用：7B量化版约5.8GB，完整版需18GB知识截止：2023年10月（可通过微调更新）最佳实践建议日常使用选择4-bit量化版本复杂任务启用GPU加速长期运行建议配置为Windows服务敏感业务数据启用TLS加密传输。
一看就懂的 CUDA安装教程及Pytorch GPU版本安装教程
热门推荐
Evan_qin_yi_quan的博客
03-10 7万+
一看就懂的 CUDA安装教程
Windows版 CUDA安装
.NET 人工智能实践
03-26 2379
Windows版 CUDA安装
cuda 下载 wget链接
weixin_42214266的博客
08-06 692
【代码】cuda 下载 wget链接。
利用GPU（CUDA）跑YOLO V5（Windows环境）（二）
HoshinoYuuichi的博客
01-14 3203
小白在学习中制作，不足之处敬请谅解
【全过程】windows GPU训练大模型的前期准备教程
2202_75832991的博客
07-29 2620
进入之后点画圈的地方，然后打开下载的文件，会帮你自动下载和安装适配你显卡的驱动程序（这里不是特别重要，就简单带过）点击桌面左下角小箭头，出现花圈的标志，也就是英伟达的logo，说明驱动安装成功。
提示词工程：从入门到精通的完整指南（三）—— 结构化输出与预填充，提示工程入门到精通，收藏这篇就足够了！
Y525698136的博客
09-13 507
提示词工程：从入门到精通的完整指南（三）—— 结构化输出与预填充，提示工程入门到精通，收藏这篇就足够了！
本地部署环境依赖全解析：GPU/CPU配置 × CUDA/torch兼容 × transformers安装指南
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
03-29 1484
场景推荐模型推荐显卡 / 资源推荐依赖组合本地轻量学习GPU部署原型多模态实验A100 / ≥16GB 显存私有知识库系统3090 / A10 × API封装正式部署。
Windows11安装CUDA、cuDNN、pytorch（GPU）详细教程（包含CUDA安装异常处理）
m0_68220374的博客
12-30 8777
本文仅介绍Windows11系统下安装CUDA、cuDNN、pytorch（GPU）的详细教程，使用的是Anaconda+Pycharm的配置。关于这两个软件的下载安装，本文不做赘述，如有疑问，请大家自行搜索。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值