基于tensorRT的DETR目标检测模型INT8量化以及部署

项目地址

  1.  github项目地址:kangkangwansui/detr_int8_deploy (github.com)
  2.  如果觉得有用请客官大人点个小星星

CPP文件目录

  1. include : 项目所需的头文件,zkCommon.h文件包含了所有的头文件。
  2. config.yaml :  配置文件,包含了校准器、构建模型,模型推理等阶段的输入参数。
  3. CMakeLists.txt :本项目是利用cmake编译,只需要将CMakeLists.txt文件中相关路径替换成自己的本地路径即可编译成功。
  4. zkCalibrator.cpp : 自定义的校准器,继承自IInt8EntropyCalibrator2,该校准器可以统计每一层输入数据的动态范围,并生成int8calib.table文件。
  5. zkutils.cpp : 包含了读取图片路径、图片预处理、softmax等函数。
  6. zkOnnxDeployInt8.cpp : 根据onnx构建网络,并设置int8量化配置,生成int8 engine文件,最后利用engine文件进行推理。

项目结构

`

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值