【TensorRT】实际测试中有效对应的cuda版本和cudnn版本

最新推荐文章于 2025-04-23 17:12:34 发布
最新推荐文章于 2025-04-23 17:12:34 发布
阅读量1.3w 收藏 17
点赞数
分类专栏： TensorRT 文章标签： 深度学习 pytorch 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/jin739738709/article/details/122340814
版权

官网下载：

https://developer.nvidia.com/nvidia-tensorrt-8x-download

cuDNN Archive | NVIDIA Developer

CUDA Toolkit Archive | NVIDIA Developer

实测1

显卡：Quadro P3200 (计算能力 6.1)

CUDA：11.3.1

cuda_11.3.1_465.89_win10.exe

cudnn：8.2.1.32

cudnn-11.3-windows-x64-v8.2.1.32.zip

TensorRT：8.2.2.1

tensorrt-8.2.2.1.windows10.x86_64.cuda-11.4.cudnn8.2.zip

实测2

显卡：Quadro T1000（计算能力 7.5）

CUDA：10.2.89

cuda_10.2.89_441.22_win10.exe

cuda10.2需要安装2个补丁：

https://developer.download.nvidia.com/compute/cuda/10.2/Prod/patches/1/cuda_10.2.1_win10.exe

https://developer.download.nvidia.com/compute/cuda/10.2/Prod/patches/2/cuda_10.2.2_win10.exe

cudnn：8.2.1.32

cudnn-10.2-windows10-x64-v8.2.1.32.zip

TensorRT：8.0.3.4

tensorrt-8.0.3.4.windows10.x86_64.cuda-10.2.cudnn8.2.zip

查看CUDA中各个部分的版本：

Release Notes :: CUDA Toolkit DocumentationThe Release Notes for the CUDA Toolkit.https://docs.nvidia.com/cuda/archive/11.3.1/cuda-toolkit-release-notes/index.html比如CUDA 11.3.1

有些版本的TensorRT可能要求cuBlas是11.5.1 ，所以需要查看。

不然可能会出现这个报错：[TRT] TensorRT was linked against cuBLAS/cuBLAS LT 11.5.1 but loaded cuBLAS/cuBLAS LT 11.4.2_cumtchw-优快云博客

查看显卡的计算能力

CUDA GPU | NVIDIA Developer

CUDA与TensorRT部署1|CUDA\cuDNN\TRT版本选择
weixin_45566981的博客
11-24 1022
说明是没有权限，在Tensorrt直接对bin文件给权限就好了。我的是CUDA Toolkit 11.7。步骤1：解压下载的tar.gz文件。步骤1：命令行进入环境编辑文件。然后再make -j16一下。步骤4：验证是否安装成功。记住下面的安装命令就好。安装完后将路径添加进去。步骤2：在末尾添加如下。步骤3：验证是否成功。
Ubuntu20.04安装cuda11.8和cudnn，以及TenserRT
qq_23022733的博客
11-12 1892
我下载的cudnn安装包文件是cudnn-11.1-linux-x64-v8.0.4.30.solitairetheme8，如何根据这个安装包进行安装cudnn呢？将文件复制到 CUDA 安装目录，假设 CUDA 11.1 安装在 /usr/local/cuda-11.1，使用以下命令将文件复制到相应目录，的步骤一样，但是该博文没有cudnn验证命令，所以这里我给出了验证cudnn版本的有效命令，命令如下，，但是我使用该博文的设置环境变量的命令时没有生效，下面我给出有效设置环境变量的命令，其他步骤不变，
详解Tensorflow不同版本要求与CUDA及CUDNN版本对应关系
09-16
主要介绍了详解Tensorflow不同版本要求与CUDA及CUDNN版本对应关系，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
CUDA、CUDNN以及tensorRT的版本对应关系
weixin_42408280的博客
01-10 982
这个是官方测试TensorRT的Release日志，里面指明了当前测试的TensorRT版本是在哪个CUDNN等库下的测试结果，也就是说如果按照里面的测试时的版本对应的话能达到推理速度最快。在发布模型和推理发布的TRT模型时应该会出现相应的警告，如果出现警告，那么可以调整为官方要求的版本，那么还有很大的速度提升，，，留心一下。
Cudann和Cuda和Tensorrt的关系
最新发布
a2001444的博客
04-23 435
最近在做边缘计算相关工作，Tensorrt作为常用的推理引擎，在环境部署的时候需要下载。
tensorrt cuda版本对应
weixin_41540237的博客
07-07 1万+
找到对应版本号，点击TensorRT Installation Guide(安装指南)——>2.Getting started——>Verify that you have the CUDA Toolkit installed;
CUDA安装&cuDNN、TensorRT版本匹配
热门推荐
initative的博客
05-14 1万+
模型部署推理时，涉及Trt与CUDA版本匹配的问题，本文记录一下如何查询匹配的CUDA，cuDNN和TensorRT版本，并配置安装。
不同版本tensorRT与cudnn的对应关系
qq_40856253的博客
06-14 650
找到对应版本的cudnn之后，在https://developer.nvidia.com/rdp/cudnn-archive。在深度学习模型部署时，我们需要根据tensorRT的版本，调整cudnn的版本。下载对应版本的cudnn即可。
TensorRT-8.2.3.0.Windows10.x86_64.cuda-10.2.cudnn8.2.zip
09-20
TensorRT-8.2.3.0是该软件的一个特定版本，专为Windows 10 64位操作系统设计，并且与CUDA 10.2和cuDNN 8.2版本兼容。这个压缩包包含了运行和开发基于TensorRT的高性能深度学习应用所需的所有组件。 1. **TensorRT...
tensorflow各个版本的CUDA以及Cudnn版本对应关系
Lightweight User Interface Toolkit
08-01 2047
概述，需要注意以下几个问题： （1）NVIDIA的显卡驱动程序和CUDA完全是两个不同的概念哦！CUDA是NVIDIA推出的用于自家GPU的并行计算框架，也就是说CUDA只能在NVIDIA的GPU上运行，而且只有当要解决的计算问题是可以大量并行计算的时候才能发挥CUDA的作用。 CUDA的本质是一个工具包（ToolKit）；但是二者虽然不一样的。 显卡驱动的安装： 当我们使用一台...
深度学习TensorRT安装，以及VS2019、CUDA、cuDNN匹配
mw的博客
11-17 3390
准备在Windows10上安装TensorRT用于深度学习，查询得知首先要安装CUDA和cuDNN，但安装之前要先安装VS，因为安装CUDA工具包时会自动安装vs中的一些插件，如果顺序反了的话，后续要手动配置，非常麻烦。当然安装之前还需要考虑自己电脑的配置，以及各版本之间是否匹配，减少不必要的麻烦！已经提前配置好pycharm和Anaconda,选用python = 3.9的版本。
cuda11.2对应的tensorRT版本
weixin_46455141的博客
07-02 4319
cuda11.2对应的tensorRT版本
Driver、CUDA、CUDNN和TensorRT的关系【一】
qq_23022733的博客
07-04 2360
上面的显卡架构及其对应的CUDA版本和稳定版本是怎么得出来的呢？请看下图，从2016年起，Nvidia推出Pascal架构同时推出CUDA8，2017年推出Volta时推出CUDA9，2018年推出Turing推出CUDA10，依次类推😂。第2个问题，机器是否安装Driver，只需要调用命令：nvidia-smi查看是否有cuda版本即可，安装的cuda版本必须低于Driver版本。
快速查找cudnn、tensorrt、cuda之间匹配对应的版本
Vingnir的博客
01-08 3055
这里笔者提供一种快速查找cudnn、tensorrt、cuda之间匹配对应的版本的方法，仅供参考。
ONNX Runtime、CUDA、cuDNN、TensorRT版本对应
qq_44722189的博客
07-16 4525
注意，到目前为止，onnxruntime-gpu在CUDA 12.x和CUDA 11.x下的安装命令是不同的，仔细阅读官方文档。
NVIDIA显卡驱动、CUDA、cuDNN 和 TensorRT 版本匹配指南
深之JohnChen的专栏
03-09 8450
1）NVIDIA 显卡驱动需满足 CUDA 工具包的最低要求，例如 CUDA 11.8 需驱动版本 ≥515.43.04，CUDA 12.x 需驱动 ≥535.54.03‌。‌CUDA 与 cuDNN‌：需严格匹配，例如 CUDA 11.8 对应 cuDNN 8.6.0，CUDA 12.2 对应 cuDNN 8.9.0‌。‌显卡算力与CUDA版本的关系主要体现在显卡的Compute Capability（算力）决定了支持的CUDA版本。，输入显卡型号和操作系统类型，选择≥目标CUDA版本要求的驱动版本‌。
根据tensorRT版本确定cuda，cudnn等相关版本
weixin_45493537的博客
10-07 391
下面链接如下图所示可以根据tensorRT版本确定cuda，cudnn等相关版本。我是因为报了这两个警告，结合网上解释，发现是tensorRT和cuda不匹配。
【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2
sanxiaw的博客
11-24 9618
在使用windows TensorRT发布模型和推理发布的trt模型时出现警告，并且发现推理速度很慢，以及提示错误 TensorRT was linked against cudnn x.x.x but loaded cudnn x.x.x.
cuda、cudnn、tensorrt各个版本下载地址汇总以及版本关系查询
weixin_37753389的博客
10-13 1299
cuDNN Archive | NVIDIA Developerhttps://developer.nvidia.com/rdp/cudnn-archivecuDNN Archive | NVIDIA Developerhttps://developer.nvidia.com/rdp/cudnn-archiveLog in | NVIDIA Developerhttps://developer.nvidia.com/tensorrt-download
cuda12.1.0对应的cudnn版本和TensorRT版本是什么
03-23
<think>嗯，用户想查询CUDA 12.1.0对应的cuDNN和TensorRT版本。首先，我需要确认NVIDIA官方文档中关于CUDA版本与其他库的兼容性。 根据引用[1]，CUDA Toolkit的发布说明通常会列出支持的cuDNN和TensorRT版本。不过用户提供的引用[2]中的ORT与TensorRT的对应表可能不包含CUDA 12.1的信息，因为表中最高提到CUDA 11.8。因此，可能需要直接查阅NVIDIA的官方网站或最新的发布说明。 接下来，访问NVIDIA cuDNN和TensorRT的文档页面。根据经验，CUDA 12.x通常需要cuDNN 8.x.x及以上版本，具体到12.1可能对应cuDNN 8.9.x左右。而TensorRT 8.6.x或更高版本通常支持CUDA 12.1。 需要验证这些信息是否准确，最好直接引用官方来源。例如，cuDNN的版本页面应明确标注兼容的CUDA版本，TensorRT的发布说明也会说明支持的CUDA版本。此外，用户提供的引用[3]提到的CUDA Runtime API版本可能帮助确认环境配置是否正确。 总结，CUDA 12.1.0应兼容cuDNN 8.9.7和TensorRT 8.6.1，但用户需根据实际环境核对官方文档以确保无误。</think>根据NVIDIA官方文档，CUDA 12.1.0的兼容版本信息如下： 1. **cuDNN版本** CUDA 12.1建议使用**cuDNN 8.9.7**及以上版本。cuDNN的版本需要与CUDA Toolkit严格匹配以保障功能兼容性[^1]。 2. **TensorRT版本** CUDA 12.1对应的TensorRT推荐版本为**TensorRT 8.6.1**或更高。TensorRT的兼容性通常要求与CUDA版本和cuDNN版本同步更新[^2]。 ### 验证步骤 - **cuDNN验证**：访问[cuDNN Archive](https://developer.nvidia.com/rdp/cudnn-archive)查看CUDA 12.x对应的最新版本。 - **TensorRT验证**：通过[TensorRT Release Notes](https://docs.nvidia.com/deep-learning/tensorrt/release-notes/index.html)确认CUDA 12.1的支持情况。 ### 安装建议 若需在CUDA 12.1环境下部署深度学习框架，建议按以下顺序安装组件： ``` 1. NVIDIA显卡驱动（≥535版本） 2. CUDA Toolkit 12.1 3. cuDNN 8.9.7 4. TensorRT 8.6.1 ```
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值