总体步骤参考这篇文章
https://zhuanlan.zhihu.com/p/35468450
1.准备环境
TensorRT 依赖cuda和cudnn,且根据下载的TensorRT版本,需要严格保证cuda和cudnn的版本一致性,否则在运行的时候会出现各种链接库的错误。
我这里下载的是TensorRT 4.0.0.3 for Ubuntu 16.04 and CUDA 8.0 tar ,需要cuda 8.0和cudnn 7.0.5的支持。
准备工作中,需要保证cuda 8.0和cudnn 7.0.5都已经安装好,分别放在不同目录中。另外,需保证cuda 8.0的lib64文件夹中不包含其他版本的cudnn,不然在运行的时候会优先加载该版本的cudnn,从而出现编译和运行错误。
2.下载 TensorRT的tar 包,并解压进入
$ tar -xzf TensorRT-4.0.0.3.Ubuntu-16.04.4.x86_64-gnu.cuda-8.0.cudnn7.0.tar.gz
$ cd TensorRT-4.0.0.3
3.TensorRT没有源码,只提供编译好的库文件,放在TensorRT-4.0.0.3/lib目录下,所以需要添加该目录到环境变量LD_LIBRARY_PATH中。同时确保将cuda和cudnn的目录也分别加入环境变量CUDA_INSTALL_DIR和CUDNN_INSTALL_DIR,后面编译c++版本时需要,不然编译时会默认采用/usr/local/cuda目录。
e