在Jetson TX2平台上的部署Paddle Inference（c++）

最新推荐文章于 2024-04-12 15:24:51 发布

YuAnn予安

最新推荐文章于 2024-04-12 15:24:51 发布

阅读量1.3k

点赞数

分类专栏： TX2 ubuntu 文章标签： linux 深度学习

本文链接：https://blog.youkuaiyun.com/weixin_48695448/article/details/115143440

版权

本文介绍了如何在Jetson TX2平台上部署Paddle Inference的C++版本。首先，需要下载预编译的预测库，并解压到指定目录。接着，配置编译样例，开启WITH_GPU和USE_TENSORRT标志，设置CUDA、CUDNN和TensorRT的路径。最后，运行样例，如果模型输出个数正常显示，即表示部署成功。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

环境信息

在这里插入图片描述

1. 下载编译好的预测库

nv_jetson_cuda10.2_cudnn8_trt7_tx2(jetpack4.4/4.5)
下载paddle_inference预测库并解压存储到Paddle-Inference-Demo/c++/lib目录，lib目录结构如下所示

Paddle-Inference-Demo/c++/lib/
├── CMakeLists.txt
└── paddle_inference
    ├── CMakeCache.txt
    ├── paddle
    │   ├── include                                    C++ 预测库头文件目录
    │   │   ├── crypto
    │   │   ├── internal
    │   │   ├── paddle_analysis_config.h
    │   │   ├── paddle_api.h
    │   │   ├── paddle_infer_declare.h
    │   │   ├