TensorRT 环境搭建

一、下载TensorRT

这个比较简单，直接下载然后解压到一个目录。 

tensorRT的下载地址：https://developer.nvidia.com/nvidia-tensorrt-download

二、编译ONNX-TensorRT：

cmake 建议选择3.16，因为我用3.20去编译onnx-tensorRT始终有问题；

1.首先解压好onnx-tensorrt-relase-6.0

2.然后使用一下cmake命令去编译，指定protobuf源码和TensorRT的目录

cmake .. \
 -DProtobuf_INCLUDE_DIR=/workspace/envs/protobuf-3.16.0/src/ \
 -DTENSORRT_ROOT=/workspace/envs/TRT-6.0.1/ \
 -DCUDA_INCLUDE_DIRS=/usr/local/cuda-10.1/include

3.之后执行 make -j8 && make install

顺利的话就直接这样完成了。

三、问题及解决方案

看到这里就是不顺利的小伙伴了，有如下几个问题。：

1.如果出现cudnn.h相关错误，如下图：