【YoloX部署——配置cuda10.2 cudnn8.1 tensorrt7.2.3-onnx转trt】

最新推荐文章于 2025-05-04 14:38:09 发布
最新推荐文章于 2025-05-04 14:38:09 发布
阅读量1.7k 收藏 24
点赞数 34
CC 4.0 BY-SA版权
分类专栏： 图像处理 文章标签： python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/MITA1/article/details/136098636
本文详细介绍了如何在Windows系统上使用CUDA 10.2、CUDNN 8.1.0和TensorRT 7.2.3部署YOLOX模型。内容包括CUDA的安装配置、CUDNN的下载与配置、TensorRT的安装与测试，以及从ONNX模型转换为TensorRT模型的步骤。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

概要

将训练好的YOLOX模型部署在windows系统下的GPU上。这里我选用的tensorrt版本为7.2.3、cuda版本为10.2。现在也有更好的cuda版本和tensorrt版本，后续若有时间再进行其他版本的尝试。

cuda10.2安装配置

1、下载cuda10.2
打开官网（https://developer.nvidia.com/cuda-toolkit-archive），选择10.2下载。
在这里插入图片描述
2、运行安装包，路径默认，选择精简安装模式，后面一路默认就OK，安装成功关闭。
3、配置环境变量。
安装结束后，右键 我的电脑–>属性–>高级系统设置–>环境变量，系统变量中已经加入了cuda的两个路径。再在系统变量path中加入下面的4个变量.
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

最低0.47元/天 解锁文章

200万优质内容无限畅学
计算机视觉模型优化技巧：如何提升推理速度3倍以上
AI天才研究院
05-13 908
移动端设备（手机/嵌入式芯片）算力有限，需在100ms内完成高清图像推理数据中心需支持万级并发，单模型推理延迟需控制在50ms以下无人机/机器人等实时系统要求亚毫秒级响应本文聚焦模型推理速度优化轻量级网络架构设计（如MobileNet/ShuffleNet）模型压缩技术（剪枝、量化、知识蒸馏）硬件加速与推理引擎优化（TensorRT/NCNN/MNN）计算图优化与内存管理策略章节核心内容2-3章解析推理速度关键影响因素，建立计算量/内存/并行化的数学模型4-5章。
探索Python领域TensorFlow的强化学习环境搭建
最新发布
Python编程之道的博客
05-27 989
强化学习是机器学习的一个重要分支，它通过智能体与环境进行交互，不断尝试不同的动作以最大化累积奖励。TensorFlow是一个强大的开源机器学习库，为强化学习的实现提供了丰富的工具和高效的计算能力。本文的目的是帮助读者掌握在Python环境下使用TensorFlow搭建强化学习环境的方法和技巧。范围涵盖了从环境搭建的基础知识到实际项目的应用，包括核心概念的解释、算法原理的讲解、代码实现和案例分析等。本文将按照以下结构进行组织：首先介绍相关背景知识和核心概念，包括TensorFlow的架构和强化学习的基本要素。
Windows下载安装CUDA 10.2
01-07
Windows安装CUDA 10.2 你要有一张NVIDIA显卡。 进入官网下载，选择自己对应的环境后，选择local版本，然后Download，大小有2.6GB。 下载完直接双击运行安装。如果电脑上没有下载Visual Studio，中间会有一个提示，点一下那个框框然后Next就行。然后需要等待一段时间~ 安装完后，在安装目录下找到nvcc.exe，这就是CUDA编译器。 接着在cmd（win+R）里输入nvcc -V会显示它的版本，如下图。这样就算是安装成功！ 如果运行结果是找不到nvcc，那就把nvcc所在的bin目录加入到系统Path里，方法： 右键我的电脑 ——> 属性 ——>
Linux安装cuda10.2
qq_36944952的博客
09-09 1万+
Linux安装cuda10.2 安装其他版本的cuda也可以参考以下步骤。 A. 进入NVIDIA官网下载安装文件 百度搜索cuda 10.2 点开第一个网页。 找到对应自己系统版本的安装文件命令。 在命令行中执行给出的代码，下载安装文件。 wget https://developer.download.nvidia.com/compute/cuda/10.2/Prod/local_installers/cuda_10.2.89_440.33.01_linux.run B. 安装 将命令行
CUDA 10.2 + cuDNN 10.2 资源下载
gitblog_06775的博客
05-04 712
CUDA 10.2 + cuDNN 10.2 资源下载 去发现同类优质开源项目:https://gitcode.com/ 此仓库提供了一个压缩文件，包含了 CUDA 10.2 版本及其对应的 cuDNN 10.2 版本。CUDA 是 NVIDIA 开发的一个并行计算平台和编程模型，cuDNN 是一个用于深度神经网络的库，两者结合可以为开发者提供高性能的 GPU 加速计算能力。 文件名：cuda10...
ubuntu22.04安装cuda10.2
qq_44972941的博客
05-26 1879
ubuntu22.04高系统安装低版本的cuda10.2
CUDA10.2显卡驱动安装
dally2的博客
05-12 4202
1 CUDA下载链接 CUDA10.2传送门 2 可直接命令行安装 wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600 wget https://developer.download.nvidia.com/comp
【CUDA】安装想要版本的CUDA（CUDA10.2）
qq_37314878的博客
05-11 9715
目录下载想要版本的CUDA 下载想要版本的CUDA CUDA官网链接https://developer.nvidia.com/cuda-downloads（直接搜大多是这个网页）。 但是有坑的一点是这个网页进去是最新版CUDA（2022年5月11日，CUDA11.6）. 笔者点进去没有注意，一通下载安装之后NVCC -V查看居然是11.6，直接重来💔 而我想要的是CUDA10.2，找遍了官网也找不到History Release，最终在别人的博客里面终于找到链接https://developer.nvid
CUDA 10.2安装pytorch
collect230的博客
03-25 2770
cpu开头的是cpu版本的，可以直接跳过，我们看 cu开头的，cu102表示cuda10.2，cp38对应python3.8，按照需求下载就可以了。同理下载torchvision 和torchaudio。根据自己python版本和系统选择。2.所有torch版本。
win10系统CUDA10.2安装教程 for colmap
qq_36048987的博客
04-26 547
参考网址https://blog.csdn.net/m0_37872216/article/details/103136477 cuda很不好下载 下载分享10.2 百度网盘链接：https://pan.baidu.com/s/1kqBZvBXE31Q0AqA8YKE2MQ 提取码：fymy
CUDA（10.2）＋PyTorch安装加配置 详细完整教程
热门推荐
Ang_go的博客
01-05 5万+
CUDA安装 PyTorch安装
tensorrt cuda版本对应
weixin_41540237的博客
07-07 1万+
找到对应版本号，点击TensorRT Installation Guide(安装指南)——>2.Getting started——>Verify that you have the CUDA Toolkit installed;
记录安装cuda10.2(1050ti)
weixin_43849406的博客
09-25 265
下载cuda 下载cudnn
win10及win11安装cuda10.2+cudnn+pytorch超详细过程
weixin_43557093的博客
10-10 1万+
win10（python3.9）安装cuda10.2+cudnn+pytorch超详细过程安装CUDA下载cudnn下载并安装pytorch思考 以下记录本人坎坷的安装过程，以及一些解决方法。希望大家都有美好心情呀！ 安装CUDA 检查自己电脑的NVIDIA ，桌面右键->NVIDIA控制面板->帮助->系统信息->组件 2.在官网（https://developer.nvidia.com/cuda-downloads）选择适合自己电脑的cuda版本，比自己的cuda驱动适配版
ubuntu18.04 安装cuda-10.2
luolinll1212的专栏
02-20 2036
ubuntu18.04 安装cuda
(ubuntu 18.04 cuda 10.2 pytorch onnx→tensorrt) 使用tensorrt加载并运行onnx模型
heiha1232的博客
04-15 1003
2021.4 ubuntu 18.04 cuda 10.2 pytorch onnx→tensorrt使用tensorrt加载并运行onnx模型0. TensorRT介绍1. 安装tensorrt、pycuda1.1 安装tensorrt1.2 安装pycuda2. 将pytorch模型转化为onnx模型3. tensorrt调用onnx模型进行预测4. 注意事项 0. TensorRT介绍 https://docs.nvidia.com/deeplearning/tensorrt/developer-gu
ubuntu安装cuda-10.2以及对应版本的cudnn
wxy2020915的博客
08-29 7524
ubuntu安装cuda-10.2以及对应版本的cudnn
centos7安装cuda10.2
小树苗
06-14 653
因为GPU服务器显卡驱动安装了10.2的版本，所以cuda驱动也要安装10.2。
（二）Cuda10.2与Cudnn7.6.5安装
weixin_53694631的博客
01-04 980
（二）Cuda10.2与Cudnn7.6.5安装
cudnn8.0.5 cuda11.1 tensorrt版本选什么
03-31
<think>好的，我现在需要帮用户解决关于CUDA 11.1、cuDNN 8.0.5和TensorRT版本选择的问题。首先，我得回忆一下这些库之间的版本兼容性关系。用户可能是在搭建深度学习环境时遇到了版本匹配的问题，比如在安装TensorFlow或PyTorch时需要这些依赖库的正确版本组合。 首先，用户提到的是CUDA 11.1。我知道CUDA的主版本号通常需要和cuDNN以及TensorRT的主版本号对应。但具体的次版本可能有不同的兼容性要求。接下来是cuDNN 8.0.5，这个版本应该对应CUDA 11.x系列。但需要确认cuDNN 8.0.5是否支持CUDA 11.1，或者是否需要更高版本的CUDA 11.x，比如11.0或11.2。 然后，TensorRT的版本选择是关键。TensorRT的版本必须与CUDA和cuDNN的版本兼容。我需要查阅NVIDIA的官方文档或者版本支持矩阵。通常，每个TensorRT版本都会明确支持的CUDA和cuDNN版本。例如，TensorRT 7.x对应CUDA 11.0，而TensorRT 8.x可能支持CUDA 11.1或更高。 可能存在的陷阱是，虽然CUDA 11.1是主版本，但cuDNN和TensorRT可能有不同的次版本要求。比如，cuDNN 8.0.5可能需要CUDA 11.1的特定补丁版本，或者可能与CUDA 11.0兼容。这时候需要确认cuDNN 8.0.5的发布说明，看它支持哪些CUDA版本。 另外，用户可能没有明确说明他们使用的深度学习框架（如TensorFlow、PyTorch），这些框架对CUDA、cuDNN和TensorRT的版本也有要求。但用户的问题中未提及，所以可能需要假设他们只需要这三者的兼容性。 接下来，我需要验证几个点： 1. cuDNN 8.0.5是否支持CUDA 11.1？查资料发现，cuDNN的版本通常对应多个CUDA版本。例如，cuDNN 8.0.5可能支持CUDA 11.0到11.2。需要确认这一点。 2. 确定支持CUDA 11.1和cuDNN 8.0.5的TensorRT版本。例如，TensorRT 7.2.3可能支持CUDA 11.1，而TensorRT 8.x可能需要更高版本的CUDA。 可能的解决步骤是： - 检查TensorRT的发布说明，寻找与CUDA 11.1和cuDNN 8.0.5兼容的版本。 - 根据NVIDIA官方文档，找到对应的组合。 假设查证后发现，TensorRT 7.2.3支持CUDA 11.1和cuDNN 8.0.5，而TensorRT 8.0.x可能要求更高版本的CUDA。但需要确认具体的小版本号。例如，TensorRT 8.0 GA可能支持CUDA 11.1，但需要查看具体文档。 另外，用户可能需要考虑是否必须使用CUDA 11.1，因为某些情况下，升级到更高版本的CUDA可能会获得更好的兼容性。但用户的问题明确要求基于现有的CUDA 11.1和cuDNN 8.0.5选择TensorRT版本。 总结可能的答案：建议使用TensorRT 7.x的最新版本，如7.2.3，或者TensorRT 8.0.x中的某个版本，具体需参考官方文档的兼容性表格。例如，TensorRT 8.0.1.6可能支持CUDA 11.1和cuDNN 8.0.5。需要提醒用户查阅官方文档确认，并提供相关链接或具体版本号。</think>针对 **CUDA 11.1 + cuDNN 8.0.5** 的环境，以下是 **TensorRT** 版本的推荐选择及详细分析： --- ### **1. 版本兼容性核心原则** - **CUDA、cuDNN、TensorRT 的版本需严格匹配**，否则可能导致编译/运行时错误。 - **TensorRT 对 CUDA 的依赖更强**，需优先根据 CUDA 版本选择 TensorRT。 --- ### **2. 官方推荐组合** 根据 NVIDIA 官方文档： - **CUDA 11.1** 对应的 **TensorRT 版本为 7.2.3**（长期支持版本）。 - **cuDNN 8.0.5** 兼容 CUDA 11.1，且与 TensorRT 7.2.3 完全适配。 | 组件 | 推荐版本 | 验证来源 | |-----------|----------------|---------------------------| | CUDA | 11.1 | NVIDIA 官方文档 | | cuDNN | 8.0.5 | cuDNN 8.0.5 发行说明 | | TensorRT | 7.2.3.4 | TensorRT 7.2.3 发行说明 | --- ### **3. 替代方案（非官方推荐）** 若需使用 **TensorRT 8.x**，需注意： - **CUDA 11.1 需升级至 11.3**（因 TensorRT 8.x 要求 CUDA ≥11.3）。 - **cuDNN 8.0.5 可保留**（需验证与 CUDA 11.3 的兼容性）。 --- ### **4. 操作步骤** 1. **安装 CUDA 11.1** 确保系统已正确安装驱动并配置环境变量： ```bash export PATH=/usr/local/cuda-11.1/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-11.1/lib64:$LD_LIBRARY_PATH ``` 2. **安装 cuDNN 8.0.5** 解压 cuDNN 包并复制文件至 CUDA 目录： ```bash tar -xzvf cudnn-11.1-linux-x64-v8.0.5.39.tgz sudo cp cuda/include/* /usr/local/cuda-11.1/include/ sudo cp cuda/lib64/* /usr/local/cuda-11.1/lib64/ ``` 3. **安装 TensorRT 7.2.3** 下载对应 DEB/TAR 包并按官方指南安装： ```bash sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda11.1-trt7.2.3.4-ga-20210226_1-1_amd64.deb sudo apt-key add /var/nv-tensorrt-repo-cuda11.1-trt7.2.3.4-ga-20210226/7fa2af80.pub sudo apt update sudo apt install tensorrt ``` --- ### **5. 验证安装** - **检查 TensorRT 版本**： ```bash dpkg -l | grep TensorRT ``` - **运行示例代码**： ```python import tensorrt as trt print(trt.__version__) # 应输出 7.2.3.4 ``` --- ### **6. 注意事项** - **深度学习框架适配**：若使用 PyTorch/TensorFlow，需同步确认其对 CUDA 11.1 的支持（例如 TensorFlow 2.4+ 支持 CUDA 11.0-11.2）。 - **容器化部署**：建议使用 NVIDIA NGC 提供的预构建镜像（如 `nvcr.io/nvidia/tensorrt:21.03-py3`），避免手动配置依赖。 --- ### **总结** - **最佳组合**：CUDA 11.1 + cuDNN 8.0.5 + **TensorRT 7.2.3.4**。 - 若需更高性能或新特性，可升级至 **CUDA 11.3 + TensorRT 8.x**，但需重新验证兼容性。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

wang151038606

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值