在使用tensorrt server的ensemble models功能时,笔者把预处理打包成了一个.so文件,分类模型使用的是.pb文件,但是当使用nvidia-docker命令启动trt server镜像时,报了错误"libopencv_highgui.so.2.4 not found",笔者踩了一些坑,终于找到了问题的原因,这里记录下来,方便以后随时翻看。
预处理的.so调用了opencv库中的函数,当启动server服务时,会执行如下的命令,
nvidia-docker run --rm --shm-size=1g --ulimit memlock=-1 --ulimit stack=67108864 -p8000:8000 -p8001:8001 -p8002:8002 -v/path/to/model/repository:/models <tensorrtserver image name> trtserver --model-store=/models
命令运行后会需要加载.so和.pb模型,而.so必须依赖于opencv库中的函数才能执行,那么怎么让.so找到对应的libopencv_high.so呢?
一种直接的思路,在当前系统环境中的~/.bashrc中增加LD_LIBRARY_PATH路径,使指向libopencv_highgui.so所在的文件夹,然后source一下,但是这种方式只能被系统路径下的可执行文件访问到,而上面的命令是在当前系统中启动docker镜像,把当前系统中的model repository映射到docker镜像内,然后在do