TensorRTX部署
前言
在github上下载到yolov5的第5版及其对应的tensorRTX版本,在目标硬件平台进行部署推演。
GitHub上tensorRTX步骤
(1)下载好tensorrtx中yolov5文件中gen_wts.复制到训练yolov5模型文件下,执行:
python gen_wts.py -w yolov5s.pt -o yolov5s.wts -w 训练好模型(pt) -o 转为需要wts格式(输出)
(2)在tensorrtx的yolov5中yololayer.h进行设置检测目标的类别数量:
static constexpr int CLASS_NUM = 2;修改成自己的模型。
(3)编译及构建项目,在yolov5文件下执行:
mkdir build
cd build
cmake ..
make
构建好后,将转化后的wts文件复制到bulid中,再执行
sudo ./yolov5 -s [.wts] [.engine] [s/m/l/x/s6/m6/l6/x6 or c/c6 gd gw] // serialize model to plan file
sudo ./yolov5 -d [.engine] [image folder] // deserialize and run inference, the images in [image folder] will be processed.
// example
sudo ./yolov5 -s yolov5s.wts yolov5s.engine s
sudo ./yolov5 -d yolov5s.engine ../samples
// 裁剪举例
sudo ./yolov5 -s yolov5_custom.wts yolov5.engine c 0.17 0.25
sudo ./yolov5 -d yolov5.engine ../samples
后续
wts文件为裁剪后模型,而engine为tensorRT 推演,后续将进行目标的类别显示及视频的检测及实时检测。
本文档详细介绍了如何使用TensorRTX在目标硬件平台上部署YOLOv5模型。首先,通过gen_wts.py将训练好的.pt模型转换为.wts格式。接着,根据类别数量修改yololayer.h文件。然后,编译并构建项目,将.wts文件复制到构建目录,运行命令生成.engine文件。最后,执行命令进行模型推演和目标检测。后续步骤涉及类别显示、视频检测和实时检测的应用。
883

被折叠的 条评论
为什么被折叠?



