onnx转tensorrt序列化文件,并使用tensorrt来推理(以卡通人物生成GAN模型为例)
首先使用自己喜欢的深度学习框架训练一个模型,并把模型保存为onnx格式(我使用的pytorch,使用torch.onnx.export函数即可导出onnx,具体操作可以看官网链接torch.onnx。我这里使用GAN训练了一个卡通头像生成模型,像下面这样tensorrt等环境安装就不说了,想使用tensorrt来推理,首先要将文件格式转化了tensorrt支持的格式,好在官方提供了转化的程序trtexec,一般在tensorrt安装目录的bin子目录下,然后使用下面的语句来转化模型trtexec .
原创
2022-01-07 22:51:41 ·
1715 阅读 ·
0 评论