TensorRT Serialization assertion stdVersionRead == kSERIALIZATION_VERSION failed

已于 2024-10-21 15:06:00 修改
阅读量666 收藏
点赞数 2
分类专栏： 推理引擎 文章标签： 深度学习 人工智能
于 2024-10-18 12:56:18 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/u013701860/article/details/143050285
版权

使用tensorrt trtexec转模型然后使用python的tensorrt加载推理提升下面的错误：

[TRT] [E] IRuntime::deserializeCudaEngine: Error Code 1: Serialization (Serialization assertion stdVersionRead == kSERIALIZATION_VERSION failed.Version tag does not match. Note: Current Version: 237, Serialized Engine Version: 239

可能有多种原因

一个是trtexec和python的tensorrt版本不匹配，另一种是pip还安装了

tensorrt-cu12-bindings
tensorrt-cu12-libs

类似这样的安装包，tensorrt加载推理产生了影响，卸载这些安装包即可。

【TensorRT】 ICudaEngine 类深度解析
浩瀚之水的专栏
03-12 344
ICudaEngine 是 TensorRT 推理流程的核心载体，封装了优化后的计算图、内核函数及内存分配策略。
【ai】tx2 nx：ubuntu18.04 yolov4-triton-tensorrt 成功部署server 运行
突围
06-25 289
yolov4-triton-tensorrt
TensorRT8.2.4.2反序列化出错
ListenAlone的博客
05-28 7340
TensorRT8.2.4.2反序列化问题
序列化(Serialization)
sunday2018的博客
09-05 309
目录 序列化 将一个对象编码成字节流称作对象序列化(serializing) 相反的处理过程称为反序列化(deserializing) 一旦对象被序列化后,它的编码就可以从一台正在运行的虚拟机被传递到另一台虚拟机上,或被存储到磁盘上 1.谨慎实现Serializable接口 一个类的实例只要在声明中加入"implements Serializable", 即可被序列化. 实现Serializable接口的代价是,这个类一旦被发布就大大降低了改变这个类的实现的灵活性 2.考虑使用自定义的序列化形式 3.保护性
关于出现 Deserialize the cuda engine failed问题
aswghj的博客
02-12 1444
关于出现 Deserialize the cuda engine failed问题
序列化（Serialization）库教程
cay22的专栏
07-28 2154
http://dozb.bokee.com/1692310.html 序列化（Serialization）库教程 译者:dozb      英文版 1. 一个非常简单的情形 输出档案(archive)类似于输出数据流(stream)。数据能通过或 & 操作符存储到档案(archive)中: ar ar & data; 输入档案(archive)类似于输入数据流(
序列化（serialization）
清道夫的专栏（3D程序员，炼心，终生编程）
02-06 1926
序列化（serialization）          序列化指的是将对象的状态信息转换为可以存储或传输的形式的过程。与序列化相对的过程是反序列化，它是通过从存储区读取对象的状态信息，重新创建该对象的过程。          这两个过程的结合，可以实现数据的有效存储与传输。简言之，序列化就是一个保存对象的过程（将对象存储为二进制序列）。          序列化的目的          1
Serialization assertion safeVersionRead == safeSerializationVersion failed.
weixin_45866058的博客
10-11 3821
[TensorRT] ERROR: 1: [stdArchiveReader.cpp::StdArchiveReader::35] Error Code 1: Serialization (Serialization assertion safeVersionRead == safeSerializationVersion failed.Version tag does not match. Note: Current Version: 0, Serialized Engine Version: 89)
反序列化异常：SerializationFailedException
qq_35698970的博客
12-28 1653
记一次日常bug！ 在一个阳光不怎么明媚的下午，我睡醒午觉打开了idea并启动项目，打算继续debug jira上的bug。不料，duang的一下，本来睡觉前还好好的代码却报错了。 org.springframework.data.redis.serializer.SerializationException: Cannot deserialize; nested exception is org.springframework.core.serializer.support.Serialization
SerializationException报错的解决方案
2301_79779756的博客
05-29 743
SerializationException 是一个通常与对象序列化（serialization）和反序列化（deserialization）过程相关的异常。序列化是将对象的状态信息转换为可以存储或传输的形式的过程，而反序列化则是将已序列化的数据还原回原始对象状态的过程。这些过程在多种场景中都可能用到，比如网络通信、持久化存储（如保存到文件或数据库）以及对象间的通信等。
c++ 里面加载tensorrt模型时，反序列化出错，如何在c++里面查看当前tensorrt版本以便修复这个问题：Serialization (Serialization assertion magicTagRead == kMAGIC_TAG failed.Magic tag does not match)
06-07
std::cout << "TensorRT version: " << NV_TENSORRT_VERSION_MAJOR << NV_TENSORRT_VERSION_MINOR << "." << NV_TENSORRT_VERSION_PATCH ; ``` 这将输出当前TensorRT版本的主要版本号、次要版本号和修订版本号。...
tensorrt导出错误
最新发布
03-04
在利用 TensorRT 提供的 C++ 接口来读取预编译好的引擎文件（即 .engine）的过程中，有时会碰到序列化过程中的验证失败情形，比如 `Serialization assertion plan->header.magicTag == rt::kPLAN_MAGIC_TAG failed.`...
【ai】tx2 nx： jetson Triton Inference Server 运行YOLOv4
突围
06-24 164
【ai】tx2 nx： jetson Triton Inference Server 部署YOLOv4
gRPC快速入门（三）——Protobuf应用示例
weixin_33989058的博客
12-18 2373
gRPC快速入门（三）——Protobuf应用示例 一、Protobuf使用流程 在工程开发中使用Protobuf流程如下：（1）定义proto描述文件，以proto作为后缀名。（2）使用Protobuf编译器protoc来生成编程语言代码文件，对消息格式以特定的语言方式描述。（3）使用Protobuf库提供的API来编写应用程序。 二、Protobuf C++示例 1、环境变量设置 expor...
win10 tensorrt安装 踩坑记录
jacke121的专栏
12-10 9526
win10 tensorrt安装 下载地址： https://developer.nvidia.com/nvidia-tensorrt-7x-download 需要注册，登录。 选择跟cuda对应的版本： 1. 添加环境变量，比如： PATH：D:\it\TensorRT-7.1.3.4\lib 2. 安装uff和graphsurgeon，下载demo 需要的data cd D:\Software\TensorRT-7.1.3.4\graphsurgeon pip inst...
TensorRT-插件初始化
qq_42178122的博客
11-26 5915
遇到一个问题，就是在使用自定义插件的时候，先通过onnx生成trt模型；然后，加载trt模型，能正常使用。注释：如果先通过onnx生成trt模型，这一步已经做了插件注册。因此，在后面的加载模型，就能正常使用。因为在插件注册表中找不到相应的IPluginCreator，所以需要在加载模型的时候，进行插件注册。1） 添加#include "NvInferPlugin.h"的头文件。2）在加载模型的代码处，进行插件注册。
TensorRT Triton Inference Server: 版本 error魔术标记不匹配 ， NGC使用
ResumeProject的博客
06-09 4622
转换和推理使用的镜像的标签是相同的，但是转换的镜像中pip list得到trt版本为8.6.0，但是推理环境中 root@f2c810ba3976:/# /usr/src/tensorrt/bin/trtexec ， 得到trtexec版本为8.5.3。可在官方文档中寻找正确版本的镜像地址https://catalog.ngc.nvidia.com/orgs/nvidia/containers/tritonserver/tags。解决： rebuild。
运行调用TensorRT程序报错 Version tag does not match. Internal Error (Engine deserialization failed.) 参考解决方法
qq_39779233的博客
07-10 1727
运行调用TensorRT程序报错 Version tag does not match. Internal Error (Engine deserialization failed.) 参考解决方法
tensorrt：YOLOV8 用 C++实现分割任务的engine导出说明
轩辕霸天L
06-22 679
其中，python的tensorrt版本与C++的tensorrt版本一致。导出的engine，使用C++部署无类似报错。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Luchang-Li

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值