TensorRTX 推演

本文档详细介绍了如何使用TensorRTX在目标硬件平台上部署YOLOv5模型。首先,通过gen_wts.py将训练好的.pt模型转换为.wts格式。接着,根据类别数量修改yololayer.h文件。然后,编译并构建项目,将.wts文件复制到构建目录,运行命令生成.engine文件。最后,执行命令进行模型推演和目标检测。后续步骤涉及类别显示、视频检测和实时检测的应用。


前言

在github上下载到yolov5的第5版及其对应的tensorRTX版本,在目标硬件平台进行部署推演。

GitHub上tensorRTX步骤

(1)下载好tensorrtx中yolov5文件中gen_wts.复制到训练yolov5模型文件下,执行:
python gen_wts.py -w yolov5s.pt -o yolov5s.wts -w 训练好模型(pt) -o 转为需要wts格式(输出)
(2)在tensorrtx的yolov5中yololayer.h进行设置检测目标的类别数量:
static constexpr int CLASS_NUM = 2;修改成自己的模型。
(3)编译及构建项目,在yolov5文件下执行:

mkdir build
cd build
cmake ..
make

构建好后,将转化后的wts文件复制到bulid中,再执行

sudo ./yolov5 -s [.wts] [.engine] [s/m/l/x/s6/m6/l6/x6 or c/c6 gd gw]  // serialize model to plan file
sudo ./yolov5 -d [.engine] [image folder]  // deserialize and run inference, the images in [image folder] will be processed.
// example
sudo ./yolov5 -s yolov5s.wts yolov5s.engine s
sudo ./yolov5 -d yolov5s.engine ../samples
// 裁剪举例
sudo ./yolov5 -s yolov5_custom.wts yolov5.engine c 0.17 0.25
sudo ./yolov5 -d yolov5.engine ../samples

后续

wts文件为裁剪后模型,而engine为tensorRT 推演,后续将进行目标的类别显示及视频的检测及实时检测。

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值