[失败]：NVIDIA TensorRT 10 [Deb]安装教程

平台信息

• 操作系统：Ubuntu 24.04.1 LTS
• CPU架构：x86_64
• GPU：NVIDIA GeForce GTX 1080 Ti
• 驱动信息：
  • NVIDIA-SMI 535.183.01
  • Driver Version: 535.183.01
  • CUDA Version: 12.2

步骤

预备步骤

安装驱动和CUDA

假设已经成功安装好驱动，如果没有，请参考其他教程进行安装，可参考NVIDIA GPU驱动安装教程。
为了确保CUDA可用，参考NVIDIA GPU驱动安装教程，我们添加环境变量到.bashrc里

PATH=/usr/local/cuda-12.2/bin${PATH:+:${PATH}}
LD_LIBRARY_PATH=/usr/local/cuda-12.2/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

在编辑完.bashrc 后，执行

source .bashrc

确保环境变量生效，然后执行

nvcc -V

出现

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Thu_Jun__6_02:18:23_PDT_2024
Cuda compilation tools, release 12.5, V12.5.82
Build cuda_12.5.r12.5/compiler.34385749_0

说明CUDA 安装成功

下载 TensorRT 10

从NVIDIA TensorRT 10.x Download 选择适合自己机器的进行下载：

本文以最新版的10.9 GA为例，右键复制下载链接：

https://developer.nvidia.com/downloads/compute/machine-learning/tensorrt/10.9.0/local_repo/nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8_1.0-1_amd64.deb

在机器上执行wget 进行下载：

wget https://developer.nvidia.com/downloads/compute/machine-learning/tensorrt/10.9.0/local_repo/nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8_1.0-1_amd64.deb

安装

安装 TensorRT

以sudo 权限执行：

sudo dpkg -i nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8_1.0-1_amd64.deb

安装记录

正在选中未选择的软件包 nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8。
(正在读取数据库 ... 系统当前共安装有 360051 个文件和目录。)
准备解压 nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8_1.0-1_amd64.deb  ...
正在解压 nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8 (1.0-1) ...
正在设置 nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8 (1.0-1) ...

The public nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8 GPG key does not appear to be installed.
To install the key, run this command:
sudo cp /var/nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8/nv-tensorrt-local-53871640-keyring.gpg /usr/share/keyrings/

根据提示，继续执行：

sudo cp /var/nv-tensorrt-local-repo-ubuntu2404-10.9.0-cuda-12.8/nv-tensorrt-local-53871640-keyring.gpg /usr/share/keyrings/

然后执行：

sudo apt-get update

继续执行

sudo apt-get install tensorrt

出现报错

正在读取软件包列表... 完成
正在分析软件包的依赖关系树... 完成
正在读取状态信息... 完成                 
有一些软件包无法被安装。如果您用的是 unstable 发行版，这也许是
因为系统无法达到您要求的状态造成的。该版本中可能会有一些您需要的软件
包尚未被创建或是它们已被从新到(Incoming)目录移出。
下列信息可能会对解决问题有所帮助：

下列软件包有未满足的依赖关系：
 python3-libnvinfer : 依赖: python3 (< 3.11) 但是 3.12.3-0ubuntu2 正要被安装
 python3-libnvinfer-dispatch : 依赖: python3 (< 3.11) 但是 3.12.3-0ubuntu2 正要被安装
 python3-libnvinfer-lean : 依赖: python3 (< 3.11) 但是 3.12.3-0ubuntu2 正要被安装
E: 无法修正错误，因为您要求某些软件包保持现状，就是它们破坏了软件包间的依赖关系。

失败！

结论

通过 issue：

• https://github.com/NVIDIA/TensorRT/issues/1741
• https://github.com/NVIDIA/TensorRT/issues/3860

可知，目前debian 安装存在未修复的问题。

参考资料

• Installing TensorRT