
TensorRt
文章平均质量分 84
薛定谔的智能
这个作者很懒,什么都没留下…
展开
-
torch版ResNet50(带有多输出)转c++ tensorrt
第一个最简单的lenet示例请参考这篇文章 一.torch阶段 测试图片: torch代码: # coding:utf-8 import torch from torch import nn from torch.nn import functional as F import torchvision import os import struct import time import cv2 import numpy as np def main(): print('cuda d.原创 2021-03-30 14:07:45 · 4216 阅读 · 9 评论 -
tensorrt基础知识+torch版lenet转c++ trt
1.优化流程: 制作engine:大概就是c++api写的网络结构或者其他第三方格式,经过NetworkDefinition进行定义,采用builder加载模型权重,进行一些参数的优化,然后再用engine序列化成模型 。 推理:采用engine反序列化,创建运行环境,在进行推理即可。 参考:https://docs.nvidia.com/deeplearning/tensorrt/developer-guide/index.html#fit__fit1 ...原创 2021-01-15 16:32:27 · 2179 阅读 · 5 评论