tensorRT安装

tensorRT安装

1.官网下载合适版本的tar包

点击此处下载，此处下载为8.4版本，可选择其他版本进行下载以适配本机的cuda版本

• 

2.解压tar包

tar -zxvf TensorRT-8.4.1.5.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz

3.添加环境变量

解压的目录为"/data/TensorRT-8.4.1.5"

export LD_LIBRARY_PATH=/data/TensorRT-8.4.1.5/lib:$LD_LIBRARY_PATH

export PATH=/data/TensorRT-8.4.1.5/bin:$PATH

sudo ldconfig

4.拷贝路径

为了避免其它软件找不到 TensorRT 的库，建议把 TensorRT 的库和头文件添加到系统路径下

进入/data/TensorRT-8.4.1.5目录下，执行以下命令

sudo cp -r ./lib/* /usr/lib

sudo cp -r ./bin/* /usr/bin

sudo cp -r ./include/* /usr/include

5.安装包

安装对应的版本tensorrt，选择合适的python及系统版本

cd /data/TensorRT-8.4.1.5/python/

pip3 install tensorrt-8.4.1.5-cp36-none-linux_x86_64.whl

安装对应的版本onnx

cd /data01/TensorRT-8.4.1.5/onnx_graphsurgeon/

pip3 install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl

6.验证安装是否成功

import tensorrt

print(tensorrt.__version()__) # 8.4.1.5