TensorRT之安装与测试（Windows和Linux环境下安装TensorRT）

最新推荐文章于 2025-06-07 22:11:40 发布
最新推荐文章于 2025-06-07 22:11:40 发布
阅读量789 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 机器视觉 文章标签： cudnn
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/luoganttcc/article/details/123533844
博客中给出了相关代码，涉及cudnn技术。cudnn在信息技术领域有重要应用，代码可能与该技术的具体实现或应用有关。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

安装tensorrt环境在linux上
分享知识
01-03 1997
nvidia-smi命令后有内容弹出而没有报错,表明系统中安装了NVIDIA显卡驱动，并且该命令成功地显示了有关NVIDIA GPU的信息。输入nvcc -V并且看到输出时,这表明您的系统中已经安装了NVIDIA的CUDA工具包，并且该命令成功地显示了CUDA编译器版本的信息。这里是租的ubuntu远程服务器gpu版本，所以nvidia的驱动和cuda都是安装上了。因为我们当前路径是在root下，所以解压的文件在root文件夹下。的前置工作就完成了，接下来我们进行。安装包拖过去后，输入命令完成解压。
【TensorRT】TensorRT环境安装
浩瀚之水的专栏
10-11 4739
本文操作均在Win10系统上完成，需要用到的软件与依赖包有：cuda 10.2 , cudnn 8.6.5 , VS2017 , OpenCV 4.0.0 , Anaconda3 , CMake 3.10.1 , TensorRT 8，pytorch通过英伟达官网来确认显卡驱动与CUDA版本对应关系，，基本上所有的版本cuda都能支持通过pytorch官网来确认也可以通过pytorch官网查询选择cudnn版本时要优先考虑tensorrt版本。
linux：安装tensorRT
yyyyyyyyyyy_9的博客
04-24 889
通过更新.bashrc文件中的路径并重新加载配置，你将成功将 TensorRT 8.6.1.6 的库和头文件路径添加到环境变量中。如果有任何问题或进一步的配置需求，随时告诉我！
【超详细】英伟达Jetson Orin NX-YOLOv8配置与TensorRT测试
weixin_45679938的博客
06-07 1760
官方链接测试记录快速入门指南：NVIDIA Jetson 与Ultralytics YOLO11测试次数：100次【热启动】效果最佳：MAX功率+CPU,GPU 内核都以最大频率运行。
TensorRT 安装与测试
BCblack的博客
04-06 3342
以 deb 和 tar 两种方式安装 tensorrt
TensorRT7.0版本在Linux环境安装，以及安装python API接口，测试TensorRT中的测试用例
2401_88244350的博客
11-03 1381
TensorRT是NVIDIA开发的高性能的深度学习推理SDK，它包括深度学习推理优化器和运行时的低延时和数据高吞吐量。TensorRT是有助于在NVIDIA图像处理单元（GPU）的高性能推理的C++库，旨在与等训练框架形成互补方式工作，从而使预训练的模型快速的在GPU上进行工作，生成结果。TensorRT是基于NVIDIA的并行编程模型CUDA构建的，TensorRT为深度学习推理的生产部署提供INT8和FP6优化，例如视频流、语音识别、推荐和自然语言处理等，通过降低精度可以减少程序的延迟，这位许多。
TensorRT安装与测试
luohuaqiuyu的博客
02-28 2018
TensorRT安装与测试
【TensorRT部署YOLO项目：实例分割+目标检测】+【C++和python两种方式】+【支持linux和windows】
02-08
【内容概要】 ：基于 TensorRT 和 YOLO 算法的工具，含完整项目文档，支持 C++ 和 Python 开发，实现目标检测与实例分割双重功能，以 .zip 格式提供资源，可在 Linux 和 Windows 上运行。 【适用人群】 ：开发者可...
TensorRT安装指南
Christo的博客
03-01 1万+
目录前言摘要1. 概述2. 入门3. 下载TensorRT4. 安装TensorRT4.1. Debian 安装4.1.1. 使用NVIDIA机器学习网络Repo安装Debian4.2. RPM 安装4.2.1 使用NVIDIA机器学习网络Repo进行RPM安装4.3. Tar File安装4.4. Zip File 安装4.5. 其他安装方法5. 升级TensorRT5.1 Ubuntu和Windows用户5.1.1. 从TensorRT 6.x.x升级到TensorRT 7.x.x5.2. RedHat
Tensorrt安装及使用（python版本）
热门推荐
stivory的博客
01-25 2万+
Window使用zip安装后使用 TensorrtRT-8.6.1.6/bin/trtexec.exe 文件生成 tensorrt 模型文件。首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。我这边的使用的流程是：pytorch -> onnx -> tensorrt。我使用的：cuda版本：11.7；我使用的：cuda版本：11.4；打印转换后的tensorrt的模型的信息。
win10安装wsl2(ubuntu20.04)并安装 TensorRT-8.6.1.6、cuda_11.6、cudnn
heshiyuan1406146854的博客
08-16 1278
Distribution 选择 ubuntu( 我看很多博客是选择的wsl ubuntu，但是我选择ubuntu后面经过测试也是没问题的 )、1. 找一个可以访问到 微软商店的电脑，下载 ubuntu20.04 的镜像，例如：ubuntu2004.zip，解压，双击里面的 ubuntu2004.exe 即打开 ubuntu20.04 的 terminal 控制台。4. 取消勾选 driver( 如果有的话 ) --》 点击 install // 执行是不显示进度，不要以为死机了。
TensorRT安装
12-21
TensorRT安装以及相关配置 看到很多tensorrt安装教程有一些问题,所以我安装完后写这篇记录并分享一下. 1.下载tar包 TensorRT官方API提供了四种安装方式，建议下载tar包进行安装。下载地址https://developer.nvidia.com/tensorrt 2. 安装TensorRT 2.1 解压 tar xzvf TensorRT-6.0.1.5..-gnu.cuda-10.1.cudnn7.x.tar.gz 2.2 添加环境变量 $ vim ~/.bashrc # 打开环境变量文件 # 将下面三个环境变量写入环境变量文件并保存 export LD_LIBR
【模型加速】TensorRT安装、测试及常见问题
Roaddd的博客
12-24 2340
■ 安装过程 一、安装依赖环境 ● Ubuntu 20.04 ● CUDA 11.1 ● cuDNN 8.0.4 ● python 3.8.5        以上是我的安装环境 二、下载安装包 1.下载链接：https://developer.nvidia.com/nvidia-tensorrt-download 2. 点击Download Now（需要登录英伟达账号，没有的注册一个） 3. 选择下载的版本 4. 完成问卷调查 5. 选择
Linux上TensorRT环境配置【以YOLOX为例】
Morejay的博客
06-06 2248
YOLOX仓库的环境配置 包括cmake、apex、TensorRT以及torch2trt安装遇到的问题及解决方案
Linux(ubuntu22.04)系统下安装TensorRT、cuda、cudnn环境配置，多个版本安装共存
m0_61133217的博客
12-22 6897
cuda环境搭建，记录安装指定版本的TensorRT、cuda、cudnn，并安装多个不同版本，记录每次不同设备环境搭建。安装配置CUDA-BEVFusion环境等。
模型部署 | Linux环境配置安装TensorRT保姆级教程
CV_Autobot的博客
02-13 1万+
TensorRT 是可以在 NVIDIA 各种 GPU 硬件平台下运行的一个模型推理框架，支持 C++ 和 Python 推理。利用 Pytorch、Tensorflow 或者其它框架训练好的模型，可以转化为 TensorRT 的格式，然后利用 TensorRT 推理引擎去运行该模型，从而提升这个模型在 NVIDIA-GPU 上运行的速度。
Linux安装cuda，cudnn，tensorRT完整流程
Jiangnan_Cai的博客
10-19 8960
cuda，cudnn，tensorRT安装，tensorrt和cuda的python API接口库安装
linux 源码编译安装TensorRT
zhaozebin666的博客
03-30 653
linux 压缩包安装TensorRT。
查看TensorRT是否安装好
最新发布
07-24
可以使用以下几种方法验证 TensorRT 是否已经正确安装： ### 1. 检查 TensorRT 版本 可以通过 Python 脚本导入 `tensorrt` 模块并打印其版本号来验证安装状态： ```python import tensorrt as trt print(trt.__version__) ``` 如果输出了 TensorRT 的版本号（例如 `8.4.1`），则说明 TensorRT 已正确安装并可以正常使用[^3]。 --- ### 2. 运行官方示例代码 进入 TensorRT 安装目录下的 `samples` 文件夹，并执行编译命令来构建官方示例程序： ```bash cd /usr/src/tensorrt/samples make -j8 ``` 如果编译过程没有报错，说明 TensorRT 的开发环境配置正确，并且可以运行官方提供的示例程序[^2]。 --- ### 3. 使用 `trtexec` 工具进行模型转换测试 `trtexec` 是 TensorRT 提供的一个命令行工具，可以用于快速测试模型转换和推理性能。例如，将 `.onnx` 模型转换为 `.engine` 文件： ```bash trtexec --onnx=model.onnx --saveEngine=model.engine ``` 如果该命令成功生成了 `.engine` 文件，并且没有报错，说明 TensorRT 安装成功且相关工具可用[^1]。 --- ### 4. 编写一个简单的推理测试脚本 除了验证安装和版本外，还可以编写一个简单的推理脚本测试 TensorRT 的基本功能，例如加载引擎并执行推理： ```python import tensorrt as trt import pycuda.driver as cuda import pycuda.autoinit # 初始化 Logger 和 Runtime TRT_LOGGER = trt.Logger(trt.Logger.WARNING) with trt.Runtime(TRT_LOGGER) as runtime: with open("model.engine", "rb") as f: engine_data = f.read() engine = runtime.deserialize_cuda_engine(engine_data) print("Engine loaded successfully.") ``` 如果脚本成功加载了 `.engine` 文件并输出提示信息，则说明 TensorRT 的推理功能正常工作[^1]。 --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值