qq_43428929的博客

目前将Pytorch转为TensorRT主要有两种途径。一种是将Pytorch先转为ONNX，然后再用TensorRT解析ONNX格式；另一种是将通过开源项目torch2trt将Pytorch直接转为TensorRT。这两种方式或多或少会遇到算子缺失问题，比如Pytorch转ONNX时ONNX不支持einsum(可用einops.rearrange代替)、(暂未找到好的替换算子，速度精度都会降)、(需要改成普通的nn.AvgPool2d()，对精度影响不会很大)这三个算子。

加压后可以看到有一个rar.txt，里面有rar具体的使用方法。这篇关于zip博客写的挺全的，这里直接放。