Nvida cudatoolkit，nvcc，cudnn，GPU，显卡，显卡驱动，conda，python，pytorch之间的基本问题

原创 已于 2023-02-23 09:49:08 修改 · 1.4k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#python #pytorch #深度学习

于 2022-02-18 10:56:36 首次发布
本文介绍了NVIDIA作为专业GPU制造商的角色，强调其产品N卡在深度学习中的优势。CUDA是NVIDIA提供的并行计算平台，提升计算性能。CUDAToolkit提供开发环境，但Anaconda的cudatoolkit仅包含部分库文件。对于深度学习工作，推荐使用Linux环境。

（1）概念

  • Nvidia是一家人工智能计算公司，专长是做GPU，做出来的显卡叫做N卡，做深度学习尽量使用N卡
  • GPU指图形处理器（英语：graphics processing unit，缩写：GPU），是显卡上的芯片，相较于CPU它内核数量多，核内缓存小，计算单元多，可以大量进行并行计算，专长是处理图像相关的计算。
  • 显卡驱动：很明显就是字面意思，通常指NVIDIA Driver，其实它就是一个驱动软件，而前面的显卡就是硬件，实现硬件和软件之间的通信
  • CUDA是 NVIDIA 发明的一种并行计算平台和编程模型（Compute Unified Device Architecture）。它通过利用图形处理器 (GPU) 的处理能力，可大幅提升计算性能。
  • cudatoolkit不等于显卡驱动，它为开发高性能GPU加速应用提供了开发环境，该工具包包括GPU加速库、调试和优化工具、一个C/C++编译器和一个运行库，用于在x86、Arm和POWER等主要体系结构上构建和部署应用程序：
    在这里插入图片描述
  • nvcc：nvcc其实就是CUDA的编译器,可以从CUDA Toolkit的/bin目录中获取,类似于gcc就是c语言的编译器。
  • conda cudatoolkit和nvidia cudatoolkit：anaconda 的 cudatoolkit 不包含完整安装cuda的全部文件，只是包含了用于 tensorflow，pytorch，xgboost 和 Cupy 等所需要的共享库文件。
  • 做深度学习的工作就用Linux，别整wsl、双系统一些幺蛾子

(2) 环境配置

  • nvidia的cudatoolkit
编译pytorch——cuda-toolkit-nvcc
shuia64649495的博客
01-15 649
nvcc（NVIDIA CUDA Compiler Driver）是NVIDIA提供的CUDA编译器驱动程序，用于编译和链接CUDA代码。CUDA（Compute Unified Device Architecture）是NVIDIA推出的一种并行计算平台和编程模型，允许开发者使用NVIDIA GPU（图形处理单元）进行通用计算任务。CUDA通过提供一系列的API和工具，使得开发者能够编写在GPU上高效运行的程序，从而显著提高计算密集型任务的性能。-dc：仅编译CUDA源文件，生成中间文件（.o）。
了解NVIDAI显卡驱动（包括：CUDA、CUDA Driver、CUDA Toolkit、CUDNN、NCVV），以及CUDA安装教程
xys430381_1的专栏
07-20 1625
Ubuntu环境下CUDA10.2的安装 基本按照该教程即可 注意点：使用deb安装包，自带cuda版本。（最好不要事先安装显卡驱动，以免和cuda自带的显卡驱动冲突）
CUDA杂记--nvcc使用介绍
Ray Home
08-03 2523
NVCC是NVIDIA CUDA的核心编译器，负责将混合主机和设备代码编译为CPU/GPU可执行文件。其核心功能包括代码分离处理、PTX中间代码生成和工具链协调。编译流程分为预处理、代码分离、主机/设备代码编译及链接四个阶段。基础用法支持单步编译或分步编译，关键选项包括架构指定（-arch/-code）、预处理控制（-D/-I）、优化选项（-O/-G）和链接设置（-L/-l）。进阶应用涵盖混合代码编译、动态库生成和交叉编译等场景，通过协调主机编译器实现复杂项目构建。
NVIDIA Container Toolkit的本质作用
最新发布
m0_49133355的博客
09-18 1005
极简的用户体验将原来极其复杂的GPU环境配置，简化为一条--gpus参数。完美的镜像可移植性构建的AI/ML镜像可以无缝地在任何安装了NVIDIA驱动和Container Toolkit的机器上运行，无论对方的驱动版本是什么（只要满足CUDA版本兼容性）。驱动与应用分离，维护更轻松管理员可以独立升级宿主机的NVIDIA驱动，而不需要重新构建任何一个Docker镜像。应用开发者可以专注于自己的代码和CUDA版本，而不用担心底层驱动的差异。生态系统标准。
Nvidia Cudatoolkit 与 Conda Cudatoolkit
06-27 728
首先，Nvidia的CUDAToolkit是直接从NVIDIA官方网站提供的，而Anaconda的CUDAToolkit则是通过Anaconda官方仓库提供的。4. 使用Nvidia的CUDAToolkit和Anaconda的CUDAToolkit interchangeably. 在Python代码中，我们可以使用NVIDIA的CUDA API或者Anaconda提供的NumPy GPU加速库来使用GPU资源。如果系统没有安装CUDA或者版本不是推荐的7.0或8.0，那么就需要先安装CUDA。
NVIDIA驱动程序（NVIDIA Driver）和CUDA Toolkit安装
qq_45921549的博客
05-12 6920
这两者通常是配合使用的，因为CUDA程序需要NVIDIA GPU的支持，而NVIDIA驱动程序提供了GPU的基本功能，并且CUDA Toolkit提供了开发CUDA程序所需的工具和库。虽然NVIDIA驱动程序和CUDA Toolkit都涉及到NVIDIA GPU的使用，但它们的职责和功能不同。NVIDIA驱动程序是必需的，用于使计算机能够与NVIDIA GPU进行通信和操作，而CUDA Toolkit是可选的，用于开发和运行GPU加速的应用程序。显示的可能是与驱动程序捆绑的CUDA运行时库的版本。
别逼我学PYTHON Don‘t ask me to learn python:NVIDIA CUDA Toolkit
jasonhongcn的专栏
04-25 383
CUDA Toolkit是用于CUDA开发的软件包，主要包括CUDA编译器、运行时库、GPU驱动程序和开发工具等。它允许开发者使用通用编程语言（如C、C++）来利用NVIDIA GPU进行并行计算，为开发GPU加速应用程序提供了一整套工具和库，以及与NVIDIA硬件和驱动程序的兼容性。
Ubuntu下安装CUDA NVCC环境 nvidia-cuda-toolkit
canyingfeixue的专栏
10-23 372
【代码】Ubuntu下安装CUDA NVCC环境 nvidia-cuda-toolkit。
安装Nvidia驱动并使用Anaconda搭建GPU环境（安装CUDA）+ PyTorch + TensorFlow + PyTorch Lightning
随缘写东西，随缘分享
12-17 1万+
包括安装Nvidia英伟达驱动，完全使用anaconda环境安装CUDA、cudatoolkits、PyTorch、PyTorch-Lightning、TensorFlow。
【超详细】AnaConda+CUDA+CuDNN+Pytorch-gpu环境配置
m0_49579642的博客
04-10 3048
【超详细】AnaConda+CUDA+CuDNN+Pytorch-gpu环境配置
ubuntu22 & GTX1080Ti 最佳环境配置: ubuntu22下Nvidia Driver, CUDA, cuDNN, TensorRT, pytorch, ros版本最佳适配
老黄的AI知识图谱
09-16 1052
在 Ubuntu 22.04 环境下，Nvidia Driver、CUDA、cuDNN、TensorRT、PyTorch 和 ROS 的最佳适配版本组合需根据硬件架构、应用场景及性能需求综合选择。以下是具体推荐方案：nvidia-smi.debdpkg -icmakegccpkg-confignvcclibcuda.so。
Anaconda+cuda+cudnn+Pytorch全家桶安装
Caeaser的博客
10-04 647
Anaconda+cuda+cudnn+Pytorch全家桶 搭建环境：Windows 10 + Nvidia GTX1650显卡 花了整整两天时间，哥们终于把这仨玩意安装好了 anaconda Anaconda是一个集成了python许多包的一个库吧，安装了anaconda就能等于是安装了Python anaconda的安装并不复杂，在官网上找到下载安装即可 Python 要紧的是，anaconda可以创造多个环境，使不同的程序可以再不同的环境中运行 Base环境与Pytorch.
安装NIVIDIA CUDA toolkit
xiaokui50的博客
02-27 909
出现 此NIVIDIA驱动与Windows版本不兼容 的问题： 查阅资料显示，需要更新系统至最新版本。 我的方法：下载最新版本的toolkit，即toolkit10.1（目前的系统是win10），安装成功。 出现问题的原因：迷之相信网上的各种教程和攻略，害怕出现软件之间不兼容的现象，下载toolkit8.1，然后死脑筋的只更新系统。事实说明，反正时间都花这么多了，不妨胆儿大点犯个错试试。哼哼 ...
【CUDA】apt install nvidia-cuda-toolkit；Please ask your administrator.
零碎@流年絮语 的博客
01-25 9381
CUDA踩坑 查看CUDA版本 想查看CUDA的版本时，突然出现以下的情况： 这并不是因为系统没有安装CUDA，而是环境中没有罢了。 注意： 千万不要执行apt install nvidia-cuda-toolkit，否则就会重新安装一个版本。 解决方法 进入bin目录 首先找到cuda的bin目录，例如：/usr/local/cuda/bin 查看是否有nvcc 添加环境变量 $ export PATH=/usr/local/cuda/bin:$PATH $ export LD_LIBRARY_P
NVIDIA显卡驱动更新，NVIDIA Driver、CUDA Toolkit、cuDNN安装指南
热门推荐
矮矮的夏祭的专栏
08-09 1万+
深度学习中大多会用到NVIDIA的显卡，简单讲解驱动更新的方式。本文以NVIDIA-driver-515.105及cuda-11.7为例安装驱动和docker适配gpu
CUDA组件 -- nvidia driver驱动与toolkit
qq_42486753的博客
04-19 7293
CUDA组件 -- nvidia driver驱动与toolkit cuda组件 runtime api与driver api
CUDA Toolkit的安装
keyboard专栏
02-21 3024
输出来看，你的系统已经成功识别了NVIDIA显卡，并且显示了CUDA的版本为12.2，这意味着CUDA已经被安装在系统上了。nvidia-smi工具显示的CUDA版本是指与当前NVIDIA驱动兼容的CUDA版本。这个版本信息表示你的显卡驱动支持开发和运行针对CUDA 12.2版本编写的应用程序。然而，要开始开发基于CUDA的应用程序，除了驱动程序自带的CUDA支持外，你可能还需要安装CUDA Toolkit，它提供了编译和开发CUDA应用所需的编译器（nvcc）、库和头文件。
Conda里真正的Cudatoolkit!!! 来自正版Nvidia源的Cuda-toolkit
WongSingLam的博客
11-05 689
最近在看Gaussian-splatting的代码，本来想跑一下代码，结果出现报错，说找不到cuda。这里很多地方都介绍过了，需要物理机安装cudatoolkit或者cuda sdk。同时也有个问题，如果我们在每个虚拟环境需要不同的cuda，我们需要自己手动去切换物理机的cuda。这才是conda里面真正的cuda-toolkit！一直苦思了很久，寻找了很久，终于发现在nvidia源里面有完整的编译好的cuda能用conda安装！居然是完整的cuda，再也不需要在物理机上安装cuda了！
笔记--Ubuntu20.04安装Nvidia驱动、CUDA Toolkit和CUDA CuDNN
牵一只蜗牛去散步
12-10 5957
注：选择合适的版本进行安装，确保 CUDA Toolkit 的版本低于 Nvidia 驱动的版本！时，表明 pytorch 安装成功，pytorch 可以使用 Cuda 进行加速，Nvidia驱动、CUDA Toolkit 和 CUDA CuDNN 等均安装成功！末尾添加以下两条路径：（由于博主安装的是 Cuda11.3，所以路径为cuda-11.3，这里需根据实际的安装版本和路径进行设定）accept 之后，不要安装驱动，因为之前我们已经安装了Nvidia驱动！2-2--选择CUDA Toolkit。
ubuntu安装nvidia20.04显卡驱动 cuda cudnn
01-10
### 安装准备 为了确保顺利安装，在开始之前应确认系统的更新状态并移除旧版驱动程序。可以使用命令`sudo apt-get update && sudo apt-get upgrade`来完成系统软件包的更新[^1]。 ### 卸载现有NVIDIA软件 如果已经存在旧版本的NVIDIA驱动或其他CUDA相关组件，则应该先卸载它们以避免冲突。这可以通过运行如下命令实现： ```bash sudo apt-get purge nvidia* ``` ### 添加Graphics Drivers PPA 对于更稳定的驱动支持，建议添加graphics-drivers PPA到Ubuntu源列表中以便获取最新的稳定版驱动器。执行以下命令： ```bash sudo add-apt-repository ppa:graphics-drivers/ppa sudo apt-get update ``` ### 安装NVIDIA Driver 通过APT安装特定版本的NVIDA驱动是一个较为简便的方法。例如要安装470系列驱动，可输入下列指令： ```bash sudo ubuntu-drivers autoinstall # 或者指定版本号如： # sudo apt install nvidia-driver-470 ``` 验证安装成功与否可通过查看Xorg日志文件或利用命令`nvidia-smi`显示当前GPU的状态信息。 ### 安装CUDA Toolkit 前往[NVIDIA官方网站](https://developer.nvidia.com/cuda-downloads)，依据个人需求挑选适合的操作系统与版本组合下载对应的.run脚本或者.deb包形式的安装文件。这里推荐采用`.deb`方式简化依赖关系处理过程。按照网页提示操作直至完成整个流程即可[^3]。 #### 更新环境变量 为了让编译工具链能够识别新加入的路径，需编辑用户的shell配置文件（比如~/.bashrc），追加下面两行内容至文件末尾处： ```bash export PATH=/usr/local/cuda/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH ``` 使更改生效只需重新加载该配置文件: ```bash source ~/.bashrc ``` 最后再次调用`nvcc --version`测试是否能正常输出CUDA编译器的信息作为检验手段之一[^2]。 ### 安装cuDNN Library 访问[CUDA Deep Neural Network library (cuDNN)](https://developer.nvidia.com/rdp/cudnn-download)页面登录账号后找到匹配于已安装备份之CUDA版本号的目标压缩包进行下载解压动作；接着把其中几个目录下的.so动态链接库复制粘贴到相应位置(/usr/local/cuda/include & /usr/local/cuda/lib64/)覆盖默认同名项即告完工。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值