本文详细介绍了在Windows 10系统中，使用NVIDIA GeForce RTX 3090显卡，CUDA 11.6和Python 3.9环境下，如何安装和配置TensorRT 8.5.1.7以及torch2trt。首先确保已安装CUDA和cuDNN，然后下载所需资源，通过pip安装ONNX和cython。接着，离线安装TensorRT及其依赖，并将库文件复制到CUDA安装目录。最后，通过离线安装方法设置torch2trt，并验证安装成功。遇到推理速度慢的问题时，检查CUDA和TensorRT版本的匹配性。
Win10 安装 Tensorrt和torch2trt教程
说明：实测有效。
1 电脑环境
系统：Win10
显卡：NVIDIA GeForce RTX 3090
cuda版本：CUDA 11.6.0 (后更新到CUDA 11.6.2)
python版本：3.9
TensorRT安装版本：8.5.1.7
(TensorRT与CUDA版本匹配，参见文献[4][5])
2 下载安装库
2.1 所需资源(假定已经安装cuda和cudnn)
1)TensorRT-8.5.1.7(下载资源包，下载链接：https://developer.nvidia.com/tensorrt
2) ONNX(pip 在线安装)
3) cython(pip 在线安装)
4) pycuda(pip 离线安装，下载链接：https
最低0.47元/天 解锁文章
扫一扫
4792
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
