qq_41627642的博客

在本例中，我们需要安装 TensorRT（含 cuDNN）推理引擎。因在 NVIDIA 官网下载软件包，必须要登录认证，所以请预先登录并下载所需的 TensorRT 和 cuDNN。在准备工作就绪后，我们可以使用 MMDeploy 中的工具 deploy.py，将 OpenMMLab 的 PyTorch 模型转换成推理后端支持的格式。${MMDEPLOY_DIR}/tools/deploy.py 是一个方便模型转换的工具。您可以阅读 如何转换模型 了解更多细节。下载完毕后，您可以参考如下方法安装。

想要模型部署玩得好，这些我们要知道：MMDeploy 进展一览模型部署入门教程（一）：模型部署简介模型部署入门教程（二）：解决模型部署中的难题模型部署入门教程（三）：PyTorch 转 ONNX 详解模型部署入门教程（四）：在 PyTorch 中支持更多 ONNX 算子模型部署入门教程（五）：ONNX 模型的修改与调试模型部署入门教程（六）：实现 PyTorch-ONNX 精度对齐工具模型部署入门教程（七）：TensorRT 模型构建与推理模型部署入门教程（八）：如何添加 TensorRT

无