IHostMemory 是 TensorRT 中用于管理主机(CPU)内存数据的核心类,主要用于序列化模型引擎及传递配置信息。以下从功能到实践全面解析其关键点:
一、核心职责
功能 | 说明 |
---|---|
序列化引擎数据 | 存储优化后的引擎二进制数据(.engine 文件内容) |
配置信息传递 | 保存构建配置(如时序缓存、校准表等) |
跨API数据交换 | 作为接口参数传递二进制数据(如插件配置、性能数据) |
二、关键方法
1. 数据访问
// 获取数据指针(const只读)
const void* data = hostMemory->data();
// 获取数据长度(字节数)
size_t size = hostMemory-&