YoloV4模型解析及TensorRT加速

最新推荐文章于 2025-05-30 00:00:00 发布
原创 最新推荐文章于 2025-05-30 00:00:00 发布 · 9k 阅读 · 15 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#YOLO #YoloV4 #yolov3

本文探讨了Yolo目标检测模型的发展历程，从YoloV1到YoloV4，重点解析了YoloV4的核心特性，并提及使用TensorRT进行效率提升。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一. Yolo演化史

Faster RCNN诞生以后，目标检测准确度得到保证，但是two-stage的方式存在天然的效率缺陷，SSD和Yolo填补了这一空白，Yolo一共经历了4个版本。

模型 数据增强/训练 Backbone 网络特征层 性能对比 备注
Yolo v1   Lenet - maxPooling 每个点支持2个box    
Yolo v2

-随机裁剪、旋转

-色调、饱和度、曝光偏移

-混合训练集策略（coco + imagenet）

-多尺度训练

-对Anchor Box维度聚类
最低0.47元/天 解锁文章

200万优质内容无限畅学
linolzhang
关注
yolov4在nano上用tensorrt加速
chencaw的专栏
05-09 718
（1）工具的地址 GitHub - jkjung-avt/tensorrt_demos: TensorRT MODNet, YOLOv4, YOLOv3, SSD, MTCNN, and GoogLeNet （2）另外重要参考地址 Jetson AGX Xavier 实现TensorRT加速YOLOv4_围白的尾巴的博客-优快云博客_agx xavier 深度学习 YOLOv4-tiny转tensorrt_CLK688的博客-优快云博客_yolov4转tensorrt 1、操作流程 (1..
TensorRT-YOLOv4:tensorrt5，yolov4，yolov3，yolov3-tniy，yolov3-tniy-prn
03-20
TensorRT-YOLOv4 演示 表现 模型 input_size 显卡 模式 推理时间 608x608 gtx 1080Ti float32 23.3毫秒 416x416 gtx 1080Ti float32 13.0毫秒 608x608 gtx 1080Ti float32 18.2毫秒 416x416 gtx 1080Ti float32 10.0毫秒 608x608 gtx 1080Ti float32 3.31毫秒 416x416 gtx 1080Ti float32 2.01毫秒 608x608 gtx 1080Ti float32 3.05毫秒 416x416 gtx 1080Ti float32 2.01毫秒 包括预处理和后处理时间。 环境条件 gtx 1080Ti ubuntu 1604 TensorR
tensorRT安装及加速YOLOv4(tiny)
weixin_41170972的博客
09-05 1951
环境 cuda 10.1 cudnn 764 tensorRT安装 本文采用tkDNN的方法，根据YOLOv4 作者AlexeyAB推荐，可以支持(tiny) YOLO v1~YOLO v4的加速编译。其中，tkDNN-TensorRT 可以加速YOLOv4到 2倍（batch=1），3-4 倍（batch=4）。本文以tiny YOLOv4模型在TX2上测试，batch=1时大概提速50%左右。 安装包下载地址 cd Downloads tar -xvf TensorRT-6.0.1.5.Ubuntu-
计算机视觉---YOLOv4
最新发布
MzKyle的博客
05-30 1629
YOLOv4是YOLO系列的重要升级，在主干网络、颈部网络、头部检测等方面进行了全面优化。主干网络采用CSPDarknet53结构，引入Mish激活函数和SPP模块，显著提升特征提取效率。颈部网络结合FPN和PAN结构，增强多尺度特征融合能力。训练策略上创新性地使用Mosaic数据增强和自对抗训练，并采用CIoU损失函数优化定位精度。通过这些技术改进，YOLOv4在检测速度和精度上实现了显著提升，成为目标检测领域的重要里程碑。
yolov4_trt_ros:使用TensorRT引擎的YOLOv4对象检测器
05-17
带有TensorRT引擎的YOLOv4 该软件包包含yolov4_trt_node，可使用NVIDIA的TensorRT引擎执行推理 该软件包适用于YOLOv3和YOLOv4。 根据所使用的YOLO模型，相应地更改命令。 搭建环境 安装依赖项 当前环境： 杰特逊Xavier AGX ROS旋律 Ubuntu 18.04 Jetpack 4.4 TensorRT 7+ 依存关系： OpenCV 3.x版 numpy的1.15.1 Protobuf 3.8.0 皮丘达2019.1.2 onnx 1.4.1（取决于Protobuf） 使用以下命令安装所有依赖项 Install pycuda (takes awhile) $ cd ${HOME}/catkin_ws/src/yolov4_trt_ros/dependencies $ ./install_pycuda.sh In
YOLOv4 tensorrt推理 python版【附代码】
z240626191s的博客
10-23 2669
学了几天的tensorRT，又经过了几天的努力终于实现了YOLOv4 tensorRT推理，这篇文章将把这些成果开源出来，供大家免费使用。YOLOv4代码我采用的是b站up主，相信大家应该都比较熟悉这位大佬。关于trt的推理部分我是参考了官方YOLOV5 6.2版本。有关YOLOv4剪枝参考我另一篇文章：剪枝以后的模型也可以用tensorrt进行推理【理论是可行的，虽然我还没试】windows10cuda10.2cudnn8.2.1pytorch1.7python 3.7。
工业级部署指南-YOLOv11模型量化与TensorRT加速全流程解析.pdf
02-16
该文档【工业级部署指南-YOLOv11模型量化与TensorRT加速全流程解析】共计 31 页，文档支持目录章节跳转同时还支持阅读器左侧大纲显示和章节快速定位，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均...
YOLOv11工业级部署：从模型量化到TensorRT加速全流程解析.pdf
02-17
该文档【YOLOv11工业级部署：从模型量化到TensorRT加速全流程解析】共计 28 页，文档支持目录章节跳转同时还支持阅读器左侧大纲显示和章节快速定位，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均...
yolov5-onnx-tensorrt:如何使用 TensorRT 运行 yolov5 模型
05-29
此 Repos 包含如何使用 TensorRT 运行 yolov5 模型。 Pytorch 实现是 。 将 pytorch 转换为 onnx 和 tensorrt yolov5 模型以在 Jetson AGX Xavier 上运行。 支持推断图像。 支持同时推断多幅图像。 要求 请使用torch...
yolov8模型的TensorRT加速
02-10
Yolov8模型的TensorRT加速是一个深入探讨如何利用NVIDIA的TensorRT深度学习推理加速器来提升yolov8模型在实时图像处理和分析中的性能的主题。TensorRT是一种高性能的深度学习推理加速器和AI应用优化平台，能够显著...
yolov4模型经tensorrt加速
weixin_44533869的博客
08-11 1364
1.下载必要的脚本 git clone https://github.com/wang-xinyu/tensorrtx.git git clone -b archive https://github.com/ultralytics/yolov3.git 将以上两个脚本放置同一目录下； 或者采用笔者上传整理好的脚本文件 链接地址： 2.配置环境 下载pytorch离线安装包，放置pkg目录下。 torch-1.6.0-cp36-cp36m-linux_aarch64.whl 下载torchvision源码库
Yolov4-tiny Yolov4的神经网络模型文件
11-14
主要是Yolov4-tiny Yolov4的神经网络模型文件，可以直接调用，主要运用在物体识别、目标识别跟踪、人脸识别、无人机等应用领域。
YOLOv4-Deepstream:使用Deepstream通过TensorRT和多流输入加速YOLOv4
04-16
Deepstream 5.1 YOLOv4应用 该Deepstream应用程序展示了以高FPS吞吐量运行的YOLOv4！ PS-单击gif观看整个视频！ 指数 深度流设置 这篇文章假设您拥有功能齐全的Jetson设备。 如果没有，您可以在参考文档。 1.安装系统依赖项 sudo apt install \ libssl1.0.0 \ libgstreamer1.0-0 \ gstreamer1.0-tools \ gstreamer1.0-plugins-good \ gstreamer1.0-plugins-bad \ gstreamer1.0-plugins-ugly \ gstreamer1.0-libav \ libgstrtspserver-1.0-0 \ libjansson4=2.11-1 2.安装Deepstream 从此处将DeepStream 5.1 Jetson
0811-极智开发-解读Min-Max量化算法
02-28
0811_极智开发_解读Min-Max量化算法
yolov4-custom-functions:在TensorFlow，TFLite和TensorRT中实现的针对YOLOv4，YOLOv4-tiny，YOLOv3和YOLOv3-tiny的多种自定义功能
03-19
yolov4-自定义功能 在TensorFlow，TFLite和TensorRT中实现的YOLOv4，YOLOv4-tiny，YOLOv3和YOLOv3-tiny的各种自定义功能。 免责声明：此存储库与我的存储库非常相似： 。我创建此存储库是为了探索要用YOLOv4实现的编码自定义功能，它们可能会使应用程序的总体速度变差，并且就时间复杂度而言未对其进行优化。因此，如果您想使用TensorFlow运行最佳的YOLOv4代码，而不是转到我的其他存储库。这是一个探索可以使用YOLOv4创建的很棒的自定义和应用程序！ 实际中的对象计数器自定义功能演示！ 当前支持的自定义功能和标志 如果要创建一个自定义功能，请在“问题”选项卡中创建一个问题并提出建议！如果有足够多的人建议使用相同的自定义功能，我会Swift添加！ 入门 conda（推荐） # Tensorflow CPU conda env c
YOLOv4-tiny转tensorrt
weixin_44793285的博客
05-23 1647
文章目录前言一、环境配置二、转换过程1.下载源码2.编译源码3.准备转换文件4.转onnx5.转trt三、测试总结 前言 记录一下自己转成功的过程。 一、环境配置 Ubuntu18.04 CUDA10.1 cudnn7.6.5 python3.6 pytorch1.7.1+cu101 tensorrt6.0.1.5 onnx1.4.1（不是最新版本！！！） pycuda2019.1.1 二、转换过程 1.下载源码 去Github上下载大佬的代码，地址戳这里。 2.编译源码 下载好之后cd到文件中的plu
YOLOV4
qq_1191265562的博客
06-04 395
这篇文章写的真的太好了！https://zhuanlan.zhihu.com/p/143747206
使用自己的数据训练Yolov4-tiny模型，并用tensorrt运行（配置github host、编译安装opencv4.1.1+contrib和darknet、制作数据集、训练全流程）
qq_30841655的博客
04-07 5392
目录0. 修改host文件 （选做）1. 编译安装opencv 4.1.1+contrib2. 准备训练环境3. 制作自己的数据集4. 预训练权重和配置文件5. 创建训练配置文件6. 训练 0. 修改host文件 （选做） 这一步主要为了方便从github上下载东西。如果是私人电脑或者服务器，这样修改host是可以的，对于单位服务器，则不推荐修改host文件。 进入https://www.ipaddress.com/，分别查询以下三个github相关网址 输入 github.com ip地址为140.
目标检测与位姿估计（六）：TensorRT+YOLOv4
qq_37662375的博客
08-12 2438
当然需要额外安装TensorRT 由于需要在边缘计算机jetson TX2上部署神经网络，所以需要安装tensorRT实现c++调用加速后的网络进行推理。以下是安装过程。 检查一下CUDA10.0 在官网上下载deb包，注意这里cuda的安装如果选deb的话，tensorRT的安装就可以使用deb，如果cuda用的其他安装方式，如.run文件，则tensorRT不能使用deb安装。这里选择deb方便一点。按照官方指令安装即可，然后在.bashrc里添加路径 export PATH=/usr/loc
yolov8缺陷检测使用TensorRT加速
05-07
### 使用 TensorRT 加速 YOLOv8 缺陷检测的任务 #### 1. 准备工作 为了使用 TensorRT 对 YOLOv8 进行加速，首先需要准备环境并安装必要的依赖项。这包括但不限于 NVIDIA CUDA Toolkit 和 cuDNN 的支持以及 TensorRT 库的安装[^1]。 ```bash pip install torch torchvision numpy onnx ``` 此外，还需要下载官方版本的 YOLOv8 模型权重文件，并将其转换为 ONNX 格式以便于后续处理[^2]。 --- #### 2. 将 PyTorch 模型导出为 ONNX 格式 YOLOv8 是基于 Ultralytics 提供的框架实现的，因此可以利用 `export` 脚本将模型从 `.pt` 文件格式转换成 ONNX 格式： ```python from ultralytics import YOLO model = YOLO(&#39;yolov8n.pt&#39;) # 替换为你使用的预训练模型路径 dummy_input = torch.randn(1, 3, 640, 640) # 输入张量形状需匹配实际需求 torch.onnx.export( model, dummy_input, &#39;yolov8n.onnx&#39;, opset_version=12, input_names=[&#39;input&#39;], output_names=[&#39;output&#39;] ) ``` 此脚本会生成名为 `yolov8n.onnx` 的文件作为中间表示形式，便于进一步优化和部署[^3]。 --- #### 3. 构建 TensorRT 引擎 一旦获得了 ONNX 文件之后，就可以借助 Python 或 C++ API 来创建对应的 TensorRT 推理引擎。下面是一个简单的例子展示如何加载 ONNX 并保存序列化的 TRT 引擎到磁盘中去： ```cpp #include "NvInfer.h" #include <fstream> #include <iostream> using namespace nvinfer1; class Logger : public ILogger { public: void log(Severity severity, const char* msg) override { if (severity != Severity::kINFO){ std::cout << msg << std::endl; } } }; int main(){ Logger logger; IBuilder* builder = createInferBuilder(logger); INetworkDefinition* network = builder->createNetworkV2(1U); // 解析器用于读取ONNX文件 OnnxParser* parser = createOnnxParser(network, logger); std::ifstream file("yolov8n.onnx", std::ios::binary | std::ios::ate); size_t fileSize = static_cast<size_t>(file.tellg()); file.seekg(0, std::ios::beg); std::vector<char> buffer(fileSize); file.read(buffer.data(), fileSize); if (!parser->parseFromBuffer(buffer.data(), static_cast<int>(buffer.size()))){ std::cerr << "Failed to parse ONNX file." << std::endl; return -1; } IBuilderConfig* config = builder->createBuilderConfig(); config->setMaxWorkspaceSize(1 << 30); // 设置最大工作空间大小为1GB ICudaEngine* engine = builder->buildEngineWithConfig(*network, *config); assert(engine && "Build failed"); // 存储TRT引擎至二进制文件 IHostMemory* serializedModel = engine->serialize(); std::ofstream outFile("yolov8.trt", std::ios::binary); outFile.write(reinterpret_cast<const char*>(serializedModel->data()), serializedModel->size()); destroyResources(parser, network, builder, config, engine, serializedModel); } ``` 上述代码片段展示了如何通过解析 ONNX 文件构建 TensorRT 引擎的过程[^4]。 --- #### 4. 部署与推理阶段 最后一步是在应用程序里调用已建立好的 TensorRT 引擎执行实时推断操作。通常情况下，我们会定义一个类封装所有的逻辑流程，比如输入图像预处理、前向传播计算以及输出解码等功能模块。 ```python import tensorrt as trt import pycuda.driver as cuda import cv2 import numpy as np class TrtYoloDetector(): def __init__(self, engine_path=&#39;yolov8.trt&#39;): self.engine_path = engine_path with open(self.engine_path, &#39;rb&#39;) as f, trt.Runtime(trt.Logger(trt.Logger.WARNING)) as runtime: self.engine = runtime.deserialize_cuda_engine(f.read()) self.context = self.engine.create_execution_context() inputs, outputs, bindings, stream = [], [], [], [] for binding in self.engine: size = trt.volume(self.engine.get_binding_shape(binding)) dtype = trt.nptype(self.engine.get_binding_dtype(binding)) host_mem = cuda.pagelocked_empty(size, dtype) device_mem = cuda.mem_alloc(host_mem.nbytes) bindings.append(int(device_mem)) if self.engine.binding_is_input(binding): inputs.append({&#39;host&#39;: host_mem, &#39;device&#39;: device_mem}) else: outputs.append({&#39;host&#39;: host_mem, &#39;device&#39;: device_mem}) self.stream = cuda.Stream() def infer(self, img_np): processed_img = preprocess(img_np) # 自定义图片预处理函数 np.copyto(inputs[0][&#39;host&#39;], processed_img.ravel()) [cuda.memcpy_htod_async(inp[&#39;device&#39;], inp[&#39;host&#39;], self.stream) for inp in inputs] self.context.execute_async_v2(bindings, self.stream.handle, None) [cuda.memcpy_dtoh_async(out[&#39;host&#39;], out[&#39;device&#39;], self.stream) for out in outputs] self.stream.synchronize() result = postprocess(outputs) # 后续自定义后处理逻辑 return result def preprocess(image): ... def postprocess(output_data): ... detector = TrtYoloDetector() image = cv2.imread(&#39;test.jpg&#39;) detections = detector.infer(image) print(detections) ``` 以上实例说明了怎样运用 TensorRT 实现高效的缺陷检测服务[^1]。 --- #### 性能评估与调整建议 当完成初步集成以后，应当针对具体应用场景做细致微调以获取最佳效果。例如尝试启用混合精度(FP16)，减少显存占用的同时提升吞吐量；或者依据硬件特性适当修改批量尺寸(batch-size)。 ---
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值