libnvinfer.so, libnvinfer_plugin.so文件无法打开的解决方法

最新推荐文章于 2025-05-15 16:25:58 发布

MpkeShell

最新推荐文章于 2025-05-15 16:25:58 发布

阅读量773

点赞数 1

CC 4.0 BY-SA版权

文章标签：机器学习-深度学习

本文链接：https://blog.youkuaiyun.com/MpkeShell/article/details/133301646

机器学习-深度学习专栏收录该内容

27 篇文章 ¥59.90 ¥99.00

订阅专栏

libnvinfer.so, libnvinfer_plugin.so文件是与NVIDIA TensorRT深度学习推理引擎相关的共享库文件，用于加速深度学习模型的推理过程。在使用TensorRT时，可能会遇到无法打开这两个文件的错误。本文将介绍一些解决此问题的方法，并提供相应的源代码示例。

一、检查文件路径和权限
首先，我们需要确保libnvinfer.so和libnvinfer_plugin.so文件的路径设置正确，并且具有读取权限。可以通过以下代码来确认路径是否正确：

#include <iostream>
#include <fstream>

int main(

了解本专栏

订阅专栏解锁全文

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

MpkeShell

关注关注

1
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

订阅专栏

解决“libnvinfer.so, libnvinfer_plugin.so: cannot open shared object file“错误

HnrzLinux的博客

09-25

1485

当遇到"libnvinfer.so, libnvinfer_plugin.so: cannot open shared object file"错误时，通常是由于缺少NVIDIA TensorRT库文件或库文件路径未正确配置引起的。当遇到"libnvinfer.so, libnvinfer_plugin.so: cannot open shared object file"错误时，通常是由于缺少NVIDIA TensorRT库文件或库文件路径未正确配置引起的。如果问题仍然存在，请确保按照官方文。

libnvinfer.so, libnvinfer_plugin.so : cannot open shared object file 错误解决

白马负金羁

02-08

3788

在使用GPU加速你的深度学习程序时，你是否遇到过如下警告：Could not load dynamic library 'libnvinfer.so.7'; dlerror: libnvinfer.so.7: cannot open shared object file: No such file or directory; Could not load dynamic library 'libnvinfer_plugin.so.7'; dlerror: libnvinfer_plugin.so.7

参与评论您还未登录，请先登录后发表或查看评论

libnvinfer.so依赖包安装

Ppandaer的博客

07-23

700

安装时，TensorRT 的 Python 包通常会依赖于系统上已安装的 TensorRT C++ 库。安装 TensorRT 时，你实际上是在安装一个 Python 包，这个包包含了 Python 绑定和运行时需要的一些共享库。文件，你可以从 NVIDIA 的官方网站下载相应的 TensorRT 版本，然后手动安装或提取你需要的。是一个 C++ 层面的库，它是 TensorRT 的一部分，用于实现推理引擎的核心功能。这样的原生库文件，因此你可能需要额外的步骤来确保这些库文件在你的系统上可用。

Uncaught exception detected: Unable to open library: libnvinfer_plugin.so.10 due to libnvinfer_plugi

最新发布

qq_53951823的博客

05-15

187

解决，看了网上其它博主的做法，安装cudnn，但我去cuda下面看见了cudann的lib和inculdue都移植进去了。最后，一步步检查，发现是环境.bashrc问题。

LNK1104 无法打开文件“nvinfer.lib” TensorRtExtern

m0_73850407的博客

11-18

263

Failed to load plugin because libnvinfer.so.8: 无法打开共享目标文件: 没有那个文件或目录

Cai_zi_heng的博客

03-24

515

3. 接下来，终端运行如下代码，进行编辑。找到自己安装包的对应路径。

libnvinfer.so.7

03-22

deepstream-app: error while loading shared libraries: libnvinfer.so.7: cannot open shared object file: No such file or directory

error while loading shared libraries: libnvinfer.so.8 |【TensorRT 依赖解决】

专注于AI领域前沿技术学习与分享：目标检测、图像修复、超分重建、AI工程化

09-26

5479

文章目录./trtexec 遇到报错export LD_LIBRARY_PATH 解决该问题TensorRT 运行库依赖解决命令TensorRT-7 依赖库 export 命令TensorRT-8 依赖库 export 命令其它 TensorRT 相关博文推荐 ./trtexec 遇到报错 error while loading shared libraries: libnvinfer.so.8: cannot open shared object file: No such file or direc

libnvinfer_plugin.so.8: undefined reference to `cudnnCreate@libcudnn.so.8‘

风一样的少年

03-06

1013

首先，你用find命令找一下服务器上有没有这个文件，如果有的话要将这个文件(libcudnn.so.8是个链接文件)以及这个得实体文件拷贝到系统能加载到的地方，比如/usr/local/lib、/usr/lib、/usr/lib64。我们把目光集中在第一行这是关键。我们可以发现是找不到libcudnn.so.8引起的。然后再用上面的find和cp方法，就能让系统找到了。614809646 qq群->这个包需要去英伟达官网下载，和tts,运维、开发等等。# 有问题可以进群聊聊。

TensorRT报错： Uncaught exception detected: Unable to open library: nvinfer_plugin.dll

sadjhaksdas的博客

03-04

2525

使用trtexec.exe工具转onnx文件为trt引擎的时候，出现标题错误，是读取不到lib里面的dll。将lib里面所有的dll都复制到bin里面，暴力解决。

libnvinfer4.1.3+cuda9-arm64.zip

01-09

这个是我从TX2 jepack3.3下载下来的，nvinfer4.1.3安装包，当然这个安装包可以安装在任意jetson平台上，我博客中就举了个nano安装cuda9的例子，因为nano默认系统带的是cuda10.

libnvinfer-dev_4.1.3-1+cuda9.0_arm64.deb

04-29

libnvinfer-dev_4.1.3-1+cuda9.0_arm64.deb

libnvinfer-samples_4.1.3-1+cuda9.0_arm64.deb

04-29

libnvinfer-samples_4.1.3-1+cuda9.0_arm64.deb

libnvinfer4_4.1.3-1+cuda9.0_arm64.deb

04-29

libnvinfer4_4.1.3-1+cuda9.0_arm64.deb

tensorrt libnvinfer.so.5 libcublas.so.9.0

404 NOT FOUND

08-20

1242

安装tensorrt后，在import tensorrt时出现 libnvinfer.so.5: cannot open shared … libcublas.so.9.0: cannot open shared object file: No such file or directory 等错误把下面两行加入.bashrc export LD_LIBRARY_PATH="$LD_LIBRA...

ImportError: libnvinfer.so.7: cannot open shared object file: No such file or directory

ltochange的博客

11-16

4884

安装好tensorrt之后，import tensort报错，是因为没有配置好环境变量 export LD_LIBRARY_PATH=/models/TensorRT-7.2.3.4/lib:$LD_LIBRARY_PATH /models/TensorRT-7.2.3.4/ 替换为自己的tensorrt安装路径

【已解决】error while loading shared libraries: libnvinfer_plugin.so.8

码农努力学习

11-05

505

【代码】【已解决】error while loading shared libraries: libnvinfer_plugin.so.8。

/usr/bin/ld: error: ../../lib/libnvinfer.so: file too short

qq_35037684的博客

01-09

819

在编译TensorRT官方的C++库时，库里是提供了命令行工具bin文件夹下的可执行程序trtexec，可以直接进行onnx的fp16以及int8量化，但我模型的输入是5维，模型里面全都是3D卷积，所以要对底层头文件进行修改。/lib/路径下确实有libnvinfer.so这个文件，报错file too short其实就是你这个文件损坏了，我系统也有安装TensorRT，直接运行find命令找到libnvinfer.so，/lib/文件夹下，即编译成功。说我这个so文件太短。

import tensorrt as trt print(trt.__version__)测试报错

03-27

<think>好的，我现在需要帮助用户解决TensorRT导入和版本打印时的报错问题。首先，用户提到在导入TensorRT时出现错误，可能涉及版本不兼容或安装问题。我需要先梳理可能的原因和解决方法。首先，用户可能没有正确安装TensorRT。TensorRT的安装通常需要从NVIDIA官网下载对应版本的压缩包，解压后安装Python wheel文件，并设置环境变量。如果用户缺少某些依赖库，比如CUDA或cuDNN，也可能导致导入错误。因此，我应该建议用户检查CUDA、cuDNN和TensorRT的版本是否匹配。例如，TensorRT 8.x需要CUDA 11.x，而TensorRT 7.x可能需要CUDA 10.2。接下来，用户的环境变量可能没有正确配置。安装TensorRT后，需要将库路径添加到LD_LIBRARY_PATH中，否则Python在导入时找不到必要的共享库。例如，export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/TensorRT-8.4.1.5/lib。如果用户没有设置这个，就会导致ImportError。另外，用户可能安装了多个版本的TensorRT，导致冲突。需要检查是否存在多个版本的残留文件，或者是否在虚拟环境中正确安装了所需的版本。使用pip list或conda list查看已安装的包，确认TensorRT的版本是否符合预期。还有可能是Python环境的问题。用户是否在正确的Python环境中安装了TensorRT？比如，使用虚拟环境时，可能需要在激活环境后安装。或者，用户可能同时安装了PyTorch或其他框架的版本，与TensorRT产生冲突。这时候建议创建一个干净的虚拟环境重新安装。此外，用户提到的错误可能涉及具体的错误信息，比如“undefined symbol”或“libnvinfer.so.8: cannot open shared object file”。针对这些，需要具体分析。例如，缺少库文件可能是因为环境变量未设置，或者库文件未正确安装。我应该建议用户按照以下步骤排查： 1. 确认TensorRT正确安装，并验证安装步骤是否正确。 2. 检查CUDA和cuDNN版本是否与TensorRT兼容。 3. 配置环境变量，尤其是LD_LIBRARY_PATH。 4. 检查Python环境中是否成功安装了对应的TensorRT wheel包。 5. 尝试在虚拟环境中重新安装以避免冲突。 6. 查看具体的错误日志，根据提示解决问题，比如更新或降级相关库。最后，用户可能还需要检查他们的代码中导入TensorRT的方式是否正确，例如是否使用了正确的模块名称（如import tensorrt as trt）。另外，编译ONNX模型到TensorRT时，可能需要使用正确的转换工具，比如trtexec或ONNX-TensorRT解析器，并确保ONNX模型的版本兼容。总结下来，我需要分步骤指导用户检查安装、环境变量、版本兼容性，并提供具体的命令和验证方法。同时，提醒用户查阅官方文档和日志文件，以获取更详细的错误信息。如果问题仍然存在，建议用户提供具体的错误信息，以便进一步排查。</think>关于TensorRT导入和版本打印错误的解决方案，请按以下步骤排查： ### 一、验证基础安装 1. **检查TensorRT安装完整性** - 通过命令行验证基础库是否存在： ```bash ls /usr/local/TensorRT-{version}/lib | grep nvinfer ``` 如果缺少`libnvinfer.so.*`文件，需重新安装TensorRT[^2] 2. **确认Python包安装** ```bash pip list | grep tensorrt ``` 正常应显示类似`tensorrt-8.x.x.x`的条目。若缺失，需手动安装对应版本的wheel文件： ```bash pip install /path/to/tensorrt-{version}.whl ``` ### 二、解决环境配置问题 3. **设置必要环境变量** ```bash export LD_LIBRARY_PATH=/usr/local/TensorRT-{version}/lib:$LD_LIBRARY_PATH ``` 建议将配置写入`~/.bashrc`文件实现永久生效 4. **CUDA版本兼容性检查** 使用TensorRT 8.x需要： ```bash nvcc --version # 应显示CUDA 11.x cat /usr/local/cuda/version.txt ``` ### 三、验证功能完整性 5. **基础导入测试** ```python import tensorrt as trt print(trt.__version__) # 预期输出: 8.x.x.x ``` 6. **符号链接修复（针对undefined symbol错误）** ```bash sudo ldconfig /usr/local/TensorRT-{version}/lib ``` ### 四、进阶问题处理 7. **多版本冲突解决方案** 当系统中存在多个TensorRT版本时： ```bash sudo update-alternatives --config libnvinfer ``` 选择对应版本号 8. **Docker环境特殊配置** 在Dockerfile中添加： ```dockerfile ENV LD_LIBRARY_PATH /usr/local/TensorRT-{version}/lib:$LD_LIBRARY_PATH RUN ldconfig ``` ### 五、典型错误解决方案 **错误示例1**： ```text ImportError: libnvinfer.so.8: cannot open shared object file ``` **解决方案**： ```bash sudo apt-get install libnvinfer8={version} libnvinfer-plugin8={version} ``` **错误示例2**： ```text undefined symbol: _ZN8nvinfer118getPluginRegistryEv ``` **解决方案**： ```bash pip uninstall tensorrt pip install tensorrt==8.x.x.x --no-cache-dir ``` 建议结合NVIDIA官方文档验证环境配置：https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html[^4]