本文详细介绍了如何在Windows上使用TensorRT进行UNet模型的推理部署，从TensorRT下载到模型转换、构建推理引擎及性能提升，分享了从hdf5到onnx的转换过程，以及解决在部署中遇到的兼容性和效率问题。
一、TensorRT简介
NVIDIA TensorRT是一个用于高性能深度学习推理的平台。TensorRT适用于使用CUDA平台的所有NVIDIA GPU。所以如果需要基于TensorRT部署，至少需要一个NVIDIA显卡，算力5.0以上，比Maxwell更新的架构，可以参考下表。
CUDA GPUs - Compute Capability | NVIDIA Developer
https://developer.nvidia.com/cuda-gpus#compute
需要安装cuda、cudnn。还用到了到了OpenCV，这里是基于TensorRT的c++的api。
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
