1 安裝cuda-10.2
路径:CUDA Toolkit Archive | NVIDIA Developer
双击运行CUDA安装程序,一开始会选择一个临时文件解压目录,这个随意,只是临时存放安装程序的。解压完成后正式进入CUDA的安装,首先是同意协议,接下来选择安装模式,这里切换到自定义安装,取消勾选Visual Studio Integration(这里解释一下,这个模块是对VS编译的支持,没有安装VS无法征常工作,而需要VS辅助则是需要编译cuda程序,这种编译不建议在Windows下进行,一般Windows下能跑深度学习原生框架的代码就行)。
安装完成后,配置cuda的环境变量;
命令行中,测试是否安装成功;
步骤如下(部分过程图):
安装完成,先查看系统变量,然后添加cuda的系统变量:
测试:
nvcc -V
显示cuda版本号说明安装成功!
2 配置安裝cudnn--10.2-windows10-x64-v7.6.5.32
链接:cuDNN Archive | NVIDIA Developer
解压下载得到的CUDNN压缩包,会得到一个名为cuda的目录,将其中bin
,include
和lib
目录中的内容拷贝到CUDA的安装目录(默认维C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2
)下的对应目录中。
切换到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\extras\demo_suite
目录下,命令行执行bandwidthTest.exe,查看结果是否如下图,显示Pass则安装成功。
3 安裝paddlepaddle
python -m pip install paddlepaddle-gpu==2.3.2 -i https://mirror.baidu.com/pypi/simple
最后验证一下,安装是否成功。
import paddle.fluid
paddle.fluid.install_check.run_check()
4 安裝tensorrt-8.0.3.4
https://developer.nvidia.com/nvidia-tensorrt-8x-download
因为TensorRT向下兼容,所安装CUDA为10.2GPU版本,因此可以选择TensorRT 8.0 GA版本。
PS:EA 代表抢先体验。GA 表示稳定版,经过全面测试。
1.解压安装包并粘贴到CUDA内
2.复制移动文件
将include中头文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\include\
将lib中所有lib文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\lib\x64\
将lib中所有dll文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\bin\
3.安装whl文件
pip一共需安装4个whl文件,分别在graphsurgeon、onnx_graphsurgeon、python、uff文件夹内。
可直接复制(需要根据具体位置进行修改):
1. pip install C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\TensorRT-8.0.3.4\graphsurgeon\graphsurgeon-0.4.5-py2.py3-none-any.whl
2. pip install C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\TensorRT-8.0.3.4\onnx_graphsurgeon\onnx_graphsurgeon-0.3.10-py2.py3-none-any.whl
3. pip install C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\TensorRT-8.0.3.4\python\tensorrt-8.0.3.4-cp39-none-win_amd64.whl
4. pip install C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\TensorRT-8.0.3.4\uff\uff-0.6.9-py2.py3-none-any.whl
后续配置C++生成exe以及生成dll
1、下载git、cmake、opencv
Download opencv-3.4.6-vc14_vc15.exe (OpenCV)
安裝paddle inference
选择win10下的cuda10版本。
下载安装 Linux 推理库-PaddlePaddle深度学习平台