TensorRT安装以及配置

本文详细介绍了TensorRT 6.0.1.5的安装步骤,包括下载tar包、环境变量配置、Python接口安装及测试、UFF和GraphSurgeon安装,以及为yolov3-tiny-onnx-TensorRT工程安装所需环境的过程。
部署运行你感兴趣的模型镜像

TensorRT安装以及相关配置
看到很多tensorrt安装教程有一些问题,所以我安装完后写这篇记录并分享一下.

1.下载tar包

TensorRT官方API提供了四种安装方式,建议下载tar包进行安装。下载地址https://developer.nvidia.com/tensorrt

我的

2. 安装TensorRT

2.1 解压

tar xzvf TensorRT-6.0.1.5.<os>.<arch>-gnu.cuda-10.1.cudnn7.x.tar.gz

2.2 添加环境变量

$ vim ~/.bashrc # 打开环境变量文件
# 将下面三个环境变量写入环境变量文件并保存
export LD_LIBRARY_PATH=TensorRT解压路径/lib:$LD_LIBRARY_PATH
export CUDA_INSTALL_DIR=/usr/local/cuda-10.1
export CUDNN_INSTALL_DIR=/usr/local/cuda-10.1
# 使刚刚修改的环境变量文件生效
$ source ~/.bashrc

2.3 安装TensorRT的python接口

$ cd TensorRT-6.0.1.5/python
#选择自己的python版本
$ sudo pip3 install tensorrt-6.0.1.5-cp35-none-linux_x86_64.whl

测试

>>> import tensorrt
>>> tensorrt.__version__

2.4 安装UFF

$ cd TensorRT-6.0.1.5/uff
$ sudo pip3 install uff-0.6.5-py2.py3-none-any.whl

2.5 安装graphsurgeon

$ cd TensorRT-6.0.1.5/graphsurgeon
$ sudo pip3 install graphsurgeon-0.4.1-py2.py3-none-any.whl

3. 安装yolov3-tiny-onnx-TensorRT工程所需要的环境

3.1 安装numpy

sudo pip3 install numpy

3.2 安装onnx
(版本匹配不好的话会失败)

sudo pip3 install onnx==1.4.1
#如果不行的话用豆瓣提供的源
pip install onnx==1.4.1 -i http://pypi.douban.com/simple --trusted-host pypi.douban.com

3.3 安装pycuda

pip install pycuda==2019.1.1 -i http://pypi.douban.com/simple --trusted-host pypi.douban.com

3.4 安装pillow

pip install Pillow==6.1.0 -i https://pypi.doubanio.com/simple/ --trusted-host pypi.doubanio.com

3.5 安装wget

pip install wget==3.2 -i https://pypi.doubanio.com/simple/ --trusted-host pypi.doubanio.com

参考:
https://blog.youkuaiyun.com/wgshun616/article/details/81019601

https://blog.youkuaiyun.com/zong596568821xp/article/details/86077553?depth_1-utm_source=distribute.pc_relevant.none-task&utm_source=distribute.pc_relevant.none-task

https://blog.youkuaiyun.com/zhouzi_heng/article/details/95255017

您可能感兴趣的与本文相关的镜像

TensorRT-v8.6

TensorRT-v8.6

TensorRT

TensorRT 是NVIDIA 推出的用于深度学习推理加速的高性能推理引擎。它可以将深度学习模型优化并部署到NVIDIA GPU 上,实现低延迟、高吞吐量的推理过程。

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值