TensorRT
关注
分享
扫一扫
文章平均质量分 67
qxq_sunshine
持之以恒
展开
-
TensorRT部署流程
第一种不够灵活，第三种比较麻烦，所以最省事方便的就是第二种方法。本文介绍第二种。ONNX 就是一个通用的神经网络格式，一个.onnx文件内包含了网络的结构和参数。甭管是用什么深度学习框架写的网络，只要把模型导出成 ONNX 格式，就跟原本的代码没有关系了。转成 ONNX 格式还没有被优化，需要再使用 TensorRT 读取它并优化成 TensorRT Engine。优化参数也在这一步指定。转载 2023-07-23 21:43:02 · 1311 阅读 · 0 评论 -
TensoRT8.4_cuda11.6 sampleOnnxMNIST运行生成
sampleOnnxMNIST运行生成原创 2023-03-08 15:10:20 · 635 阅读 · 1 评论 -
TensorRT介绍及使用
tensorRT部署前期，engine生成方式原创 2022-12-30 10:14:27 · 2784 阅读 · 0 评论 -
AttributeError: ‘tensorrt.tensorrt.Builder‘ object has no attribute ‘max_workspace_size‘
TensorRT配置原创 2022-09-05 17:45:41 · 7376 阅读 · 12 评论