TensorRT 部署 YOLO11 目标检测、关键点检测、实例分割、目标跟踪

已于 2024-10-22 15:16:03 修改
阅读量1.4k 收藏 38
点赞数 30
文章标签： YOLO 计算机视觉 人工智能 目标检测 目标跟踪
于 2024-10-14 11:09:50 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/zi_y_uan/article/details/142912539
版权

文章目录

一. 项目简介

  • 基于 TensorRT-v8 ，部署YOLO11 目标检测、关键点检测、实例分割、目标跟踪 4 项任务；

  • 支持在 Jetson 系列、 Linux x86_64 服务器上部署；

  • 无需安装支持cuda的OpenCV，前后处理的张量操作都是作者通过cuda编程实现；

  • 模型转换方式：.pth -> .onnx -> .plan(.engine)；

  • 作者使用 Python 和 C++ 2 种 api 分别做了实现；

  • 均采用了面向对象的方式，便于结合到其他项目当中；

  • C++ 版本的还会编译为动态链接库，便于在其他项目种作为接口调用；

二. 项目效果

  • 原图
    在这里插入图片描述

  • 目标检测
    在这里插入图片描述

  • 关键点检测
    在这里插入图片描述

  • 实例分割
    在这里插入图片描述

  • ByteTrack目标跟踪

在这里插入图片描述

三. 推理速度

detectposesegment
C++3 ms4 ms6 ms
python10 ms13 ms45 ms
  • 这里的推理时间包含前处理、模型推理、后处理
  • 这里基于 x86_64 Linux 服务器，Ubuntu系统，显卡为GeForce RTX 2080 Ti

四. 环境配置

  1. 基本要求：
  • TensorRT 8.0+
  • OpenCV 3.4.0+

如果基本要求已满足，可直接进入各目录下运行各任务

环境构建可以参考下面内容：

  1. 如果是 Linux x86_64 服务器上，建议使用 docker
  • 具体环境构建，可参考这个链接 构建TensorRT环境 的环境构建部分，也是作者的项目
  1. 如果是边缘设备，如：Jetson Nano
  • 烧录 Jetpack 4.6.1 系统镜像，网上烧录镜像资料还是很多的，这里就不赘述了
  • Jetpack 4.6.1 系统镜像原装环境如下：
CUDAcuDNNTensorRTOpenCV
10.28.28.2.14.1.1

五. 项目地址

六. 项目运行

zi_y_uan
关注
yolov8实战第三天——yolov8TensorRT部署（python推理）（保姆教学）
qq_34717531的博客
12-26 1万+
TensorRT是一种，可以为深度学习应用提供的部署推理。TensorRT可用于对超大规模数据中心、嵌入式平台或自动驾驶平台进行推理加速。TensorRT现已能支持TensorFlow、Caffe、Mxnet、Pytorch等几乎所有的深度学习框架，将TensorRT和NVIDIA的GPU结合起来，能在几乎所有的框架中进行快速和高效的部署推理。一般的深度学习项目，训练时为了加快速度，会使用多GPU分布式训练。
目标检测YOLO实战应用案例100讲-基于深度学习的无人机目标检测算法轻量化研究
qq_36130719的博客
08-01 1251
在Darknet深度学习框架支撑下，注重精度速度均衡化的YOLO系列算法结 合新算法思想，不断推陈出新。而YOLO系列经典算法YOLOv3，继承了YOLOv1、 YOLO9000[ 61]算法精度高、推理速度块、检测种类多的优势，综合提高了各大尺 度目标的检测精度，算法思想如下：(1) 基于残差网络构建的骨干网络Darknet53，基本模块为下采样和残差块 的连续组合，详细结构见表2.1。下采样模块一方面可以降低网络计算量，另一 方面也增大了感受野，提高对大目标的检测性能；
Yolov11的TensorRT部署（C++版本）
qq_42322398的博客
10-29 2644
Yolov11的TensorRT部署（C++版本）
Jetson NX 部署YOLOv11并使用tensorrt加速
qq_64403239的博客
02-28 1521
一.相关背景jetpack6.2 sdk 环境：CUDA版本：12.6.68CUDNN版本：9.3.0.75TensorRT版本：10.3.0.30VPI版本：3.2.4Vulkan版本：1.3.204OpenCV版本：4.8.0 with CUDA查看pytorch官网，确定cuda cudnn torch 等对应版本也可以手动下载whl后再安装（在对应环境中）创建conda环境二.主要参考yolov11官方文档，jetson 边缘计算部署采用本地部署的方式，先创建一个新环境。
TensorRT 部署 YOLOv8 目标检测、关键点检测、实例分割、目标跟踪
zi_y_uan的博客
05-30 1274
先把 YOLOv8 的目标检测、关键点检测、实例分割模型转为 ONNX 模型，再基于 TensorRT-v8，把 ONNX 模型转为 TensorRT 序列化模型文件，实现 TensorRT 部署 YOLOv8
yolov11 部署 TensorRT，预处理和后处理用 C++ cuda 加速，速度快到飞起
zhangqian_1的博客
10-19 5788
本示例中，包含完整的代码、模型、测试图片、测试结果。后处理部分用cuda 核函数实现，并不是全部后处理都用cuda实现；纯cpu实现后处理部分代码分支。
yolov8 模型部署--TensorRT部署-c++服务化部署
ljn1046016768的博客
09-11 4379
YOLOv8的3个检测头一共有80x80+40x40+20x20=8400个输出单元格，每个单元格包含x,y,w,h这4项再加80个类别的置信度总共84项内容，所以通过上面命令导出的onnx模型的输出维度为。这样的通道排列顺序有个问题，那就是后处理的时候会造成内存访问不连续。为了解决这个问题，我们可以修改一下代码，具体做法是把。yolov8 模型部署测试。
YOLOv8的TensorRT 的量化及部署
Levante_ceo的博客
07-20 3633
编译。
Yolov7目标检测与实例分割的C++推理代码
10-19
**Yolov7目标检测与实例分割的C++推理代码详解** Yolov7是一种高效且精准的目标检测算法，由Wang Xingyu等人在2020年提出，它是Yolo系列（You Only Look Once）的最新版本，旨在解决实时目标检测的问题。相比之前的...
基于 PaddlePaddle的目标检测工具包
06-28
1. **模型多样性**：PaddleDetection集成了多种经典和前沿的目标检测模型，如Faster R-CNN、Mask R-CNN、YOLO系列、SSD等，覆盖了两阶段和一阶段检测方法，以及实例分割和关键点检测。 2. **训练效率**：...
目标检测 | YOLO v4、YOLO v5、YOLO v6理论讲解
houjingchuan的博客
07-26 2179
目标检测：YOLO v4、YOLO v5与YOLO v6理论知识笔记，根据B站up霹雳吧啦Wz与优快云博主路人贾的目标检测相关博文总结。
使用TensorRT API_YOLOv11-TensorRT的YOLOv11的C++实现.zip
10-03
使用TensorRT API_YOLOv11-TensorRT的YOLOv11的C++实现
【五.目标检测技术演进】【2.单阶段检测器：YOLO全系列深度解析】
最新发布
03-16 66
从v1到v8，YOLO这八年就像开了挂。但别被版本号忽悠了——没有最好的模型，只有最合适的模型。下次面试官问你YOLO，就把这篇拍他脸上（不是）。记住：技术再牛X，落地才是王道！
yolov8的TensorRT部署（C++版本）
liujiahao123987的博客
10-17 6079
yolov8的TensorRT部署（C++版本）
TensorRT10.8 部署yolov8
ATian_moon的博客
03-15 1197
本文通过C++集成NVIDIA TensorRT推理框架，实现了从模型加载、图像预处理、GPU加速推理到检测结果可视化的完整流程。
Win10下用tensorRT部署yolov8
weixin_46924966的博客
04-06 537
在此本人只是记录自己在配置中遇到的一些问题与大家分享。，官方给的推荐是Windows10.x86_64.cuda-11.6.cudnn8.4，自己根据要求下载了各版本的cudnn8.4。但是在cudnn8.4版本下，TensorRT-8.4.2.4提供的例程sampleMNIST出现报错。虽然在cudnn8.2.1.32版本下，TensorRT-8.4.2.4提供的例程sampleMNIST不会报错，但是TensorRT-8.4.2.4提供的trtexec.exe文件却不能正常运行。
YOLOv8 Tensorrt部署详细介绍（小白从0到1，不会你砍我）
Candy_Rainbow_的博客
10-08 3381
在tensorrt项目中新建build文件夹，然后使用cmake编译，注意tensorrt项目中Cmakelist.txt需要按照自己的实际情况（其中笔者在这步踩了很多坑，差点劝退，希望大家不要轻言放弃）运行tensorrt项目中gen_wts.py文件，将pt文件转成wts文件，如上图。在tensorrt项目中新建weights文件夹，将wts文件复制过来，如下图。在YOLOv8项目中新建weights文件夹，将yolov8s.pt放入。打开注释，修改自己待检测的视频路径，本地调试，运行成功。
[C++]使用C++部署yolov11目标检测的tensorrt模型支持图片视频推理windows测试通过
FL1623863129的博客
10-02 2156
部署最费时间是安装环境。首先需要大家安装好VS2019或者VS2022，还有如下环境，由于安装包很多需要去官方搜素下载，需要自己安装，其中版本可以有区别，但是如果快速复现这个项目，最好安装位一致版本这样更快复现出项目。然后将pt模型放进项目里面，切换自己安装好的yolov8环境里面并切换到项目目录，执行python export.py即可转换得到onnx模型，当然你也可以使用下面命令直接转换。下面具体怎么部署，首先去yolov8官方仓库下载yolo11模型，这样下载yolo11n.pt。
yolov8实战——yolov8TensorRT部署（python推理）（保姆教学）
qq_44224801的博客
07-05 1961
最近用到yolov8，但是寻找了一圈才找到了yolov8最佳的部署方法，限于python，所以在此进行总结记录，方便众人，看完此篇，不会纯属自己问题，与我无瓜0.0。
蛤仔实例分割数据集下载
12-28
对于实例分割任务，选择合适的数据集至关重要。给定的信息提到的是对虾病害分类数据集[^1]，该数据集包含889张图像并分为7个类别。然而，这个特定的数据集似乎更适用于分类任务而非实例分割。 如果目标是寻找适合蛤仔（即花蛤或其他贝类）的实例分割数据集，则可能需要探索其他资源或创建自定义数据集来满足具体需求。目前公开可用的相关数据集较少，因此建议考虑以下几个方面： - **公共平台查找**：访问像Kaggle、COCO Dataset等知名机器学习竞赛和研究项目发布的公共资源库。 - **学术论文调研**：查阅最新的科研成果，在其中可能会发现一些专门针对水产品特别是贝类产品处理的研究案例及其使用的数据集合链接。 - **构建自有标注数据**：当现成适用的数据难以获取时，可以收集实际场景下的图片资料，并通过专业的工具完成精确的目标框选与像素级标签制作工作。 为了更好地理解如何准备这样的数据集以及其结构特点，下面给出一段Python代码示例，展示了一个简单的函数用来模拟下载过程（请注意这只是一个示意性的例子，并不会真正执行文件传输操作）。实际上从网络上安全合法地获取所需材料应当遵循相应网站的规定和服务条款。 ```python import os def download_dataset(url, save_path): """ 模拟下载指定URL处的数据集到本地路径 参数: url (str): 数据集所在的网址 save_path (str): 存储位置 返回值: None """ if not os.path.exists(save_path): os.makedirs(save_path) print(f"正在尝试连接至 {url} ...") print("开始下载...") print(f"保存成功! 文件已存储于{save_path}") # 假设有一个合适的蛤仔实例分割数据集可供下载 dataset_url = "http://example.com/clams_instance_segmentation.zip" local_save_directory = "./datasets/clams/" download_dataset(dataset_url, local_save_directory) ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值