以下是 trtexec.exe 的详细使用说明,综合了核心功能、参数解析、典型场景及常见问题,结合多篇技术文档和实践经验整理而成:
一、核心功能
trtexec 是 TensorRT 官方提供的命令行工具,主要用途包括:
- 模型转换:将 ONNX、Caffe、UFF 等格式的模型转换为 TensorRT 引擎(
.engine或.plan文件)。 - 性能测试:测量引擎的推理延迟、吞吐量,支持随机输入或用户自定义输入。
- 网络分析:查看 ONNX 或引擎文件的逐层信息(如输入输出维度、算子类型)。
二、参数配置详解
1. 模型选项
- 输入输出:
--onnx=<file>:指定 ONNX 模型路径(支持动态/静态输入)。--saveEngine=<file>:保存生成的引擎文件(默认 FP32 精度)。--loadEngine=<file>:加载已有引擎

订阅专栏 解锁全文
809

被折叠的 条评论
为什么被折叠?



