PaddleFluid编译Paddle-Lite子图

少安的砖厂

于 2020-03-05 17:33:27 发布

阅读量914

点赞数 1

分类专栏： PaddlePaddle开发

本文链接：https://blog.youkuaiyun.com/qq_28093585/article/details/104484656

版权

本文介绍了如何编译PaddlePaddle子图并使用Paddle-Lite进行预测。编译完成后，Paddle-Lite作为第三方库在PaddlePaddle中启用，模型和数据在Paddle预测库中处理后，由Paddle-Lite执行预测。子图是一种优化策略，将部分模型结构放入特定预测引擎如NPU或XPU，以提升运行速度。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

（1）编译PaddlePaddle子图

编译命令：

# 先git clone paddlepaddle工程
cd Paddle
mkdir build && cd build
cmake .. -DWITH_CONTRIB=OFF -DWITH_MKL=ON -DWITH_MKLDNN=ON -DWITH_AVX=ON  -DWITH_LITE=ON -DWITH_PYTHON=OFF -DON_INFER=ON -DWITH_GPU=OFF -DCUDNN_ROOT=/usr/local/cudnn/ -DCMAKE_CXX_FLAGS="-Wno-error -w" -DWITH_INFERENCE_API_TEST=ON -DWITH_TESTING=ON  -ON_INFER=ON 
make -j4

编译结果：

在`build_install_inference_lib`中。

（2）运行paddlepaddle子图

运行示例demo： C++预测库样例编译测试

Paddle-Lite作为第三方库被PaddlePaddle调用（打开enable_lite_engine开关），PaddlePaddle预测时会实际将模型的图结构和数据复制到Paddle-LIte中，Paddle-Lite实际执行预测。

调用顺序是：

模型与