大模型
关注
分享
扫一扫
文章平均质量分 84
klzsr
近10年多的java经验，励志做一个专业的编码人员。
展开
-
torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 214.00 MiB. GPU 0 has a total capacity
如何利用本地两张GPU，NVIDIA GeForce RTX 4080 和 NVIDIA GeForce RTX 4080 SUPER原创 2024-11-16 10:14:02 · 1328 阅读 · 0 评论 -
大模型多显卡识别问题
3. **检查 NVIDIA 驱动程序版本**： ```bash nvidia-smi ``` 确认驱动程序版本是否与 CUDA 版本兼容。检查 `CUDA_VISIBLE_DEVICES` 环境变量**： ```bash echo $CUDA_VISIBLE_DEVICES ``` 如果输出为空或不包含所有 GPU，可以设置该环境变量以包含所有 GPU： ```bash export CUDA_VISIBLE_DEVICES=0,1,2,3。### 分析与修复建议 ##### 根据实际情况修改 ```原创 2024-11-16 00:42:55 · 495 阅读 · 0 评论