荪荪的博客

本教程不适用于CUDA新手TensorRT简单介绍现在TRT出了dynamic shape，重新应用与语音领域，成功一半。（目前在腾讯）闭源部分就是官方提供的库，是TRT的核心部分；开源部分在github上，包含Parser（caffe， onnx）、sample和一些plugin。一、 如何选择TensorRT版本建议使用TensorRT6.0或者TensorRT7.1：(1)GA版本；（2）支持的cuda版本广泛TensorRT6.0支持的cuda版本广泛，cuda9.0,cuda10

前言由于工作项目所需，一直用centerNet做旋转目标检测，在实际产品或者工业应用上落地此检测算法，那么在足够的算力下， 更好优选的方式还是需要c/c++来部署实现。那么CenterNet也带来一个问题，那就是部署不太容易，主要是两个方面：主流实现大多不好支持onnx导出；后处理与传统的检测算法不太一样，比如nms，CenterNet用的实际上是一个3x3的maxpooling。此处还涉及到一点就是，原版的centerNet并可以检测旋转目标，所以此处就涉及到一个角度问题。首选是将cent

import onnximport osfrom onnx import optimizer# Preprocessing: load the model contains two transposes.# model_path = os.path.join('resources', 'two_transposes.onnx')# original_model = onnx.load(model_path)original_model = onnx.load("resne18.onnx")#