一、配置TensorRT8.6.1
1.下载TensorRT8.6.1包
TensorRT完全依赖CUDA,因此下载其版本时一定要考虑CUDA的版本。
具体应该下载哪一版本的TensorRT呢,这里我问的秘塔AI,你们也可以问问它。
官网地址-tensorRT8.6.1安装包下载
2.解压安装包
这里要注意,如果你和我一样是给win下的但是要在Linux服务器上使用。千万不要在win的环境下进行安装包的解压操作,因为这样会丢失很多配置文件,后续会报错找不到libnvinfer.so.8等等。。。
这里直接使用rz指令将压缩包移动到Linux服务器中,在服务器上自行解压,可以使用如tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.1.tar.gz
的指令。
3.安装Python包
进入解压目录的python子目录,直接安装预编译的Wheel包:
cd TensorRT-8.6.1.6/python
pip install tensorrt-8.6.1-cp310-none-linux_x86_64.whl
</