
TensorRT
文章平均质量分 87
程序之巅
仰天大笑出门去,我辈岂是蓬蒿人
展开
-
用tensorRT入门介绍
1. 基本的 TensorRT 工作流程 2. 转换和部署选项 2.1 转换 使用TF-TRT,为了转换 TensorFlow 模型,TensorFlow 集成 (TF-TRT) 提供了模型转换和高级运行时 API,并具有回退到TensorRT 不支持特定运算符的 TensorFlow 实现。 自动模型转换和部署的一个更高效的选项是转换 从 .onnx 文件自动转换 ONNX。使用 ONNX。 ONNX 是一个与框架无关的选项,可以用于将TensorFlow ,PyTorch 等格式的模型转化为ONNX原创 2022-03-31 17:47:24 · 2741 阅读 · 0 评论 -
深度学习模型部署之安装TensorRT windows11+vs2022+TensorRT8.0.1+cuda11.5+cuDNN8.2.0
本文参考Nvidia的官方链接 本节包含在 Windows 10 上从 zip 包安装 TensorRT 的说明。 在你开始之前 确保您已安装以下依赖项。 CUDA 10.2、11.0 更新 1、11.1 更新 1、11.2 更新 2、11.3 更新 1、11.4 更新 3、11.5 更新 1 或 11.6 cuDNN 8.3.2 安装过程: 下载与您正在使用的 Windows 版本匹配的 TensorRT zip 文件。 选择要安装 TensorRT 的位置。 zip 文件会将所有内容安装到名为原创 2022-03-30 14:33:27 · 8217 阅读 · 4 评论