yolo v10 推理速度测试报告

原创

于 2025-09-17 15:21:43 发布 · 366 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#YOLO #python

背景

工作需要，对 yolo v10 各尺寸模型进行了一个初步的推理速度测试

测试环境

cpu：Intel® Xeon® 8468
gpu：NVIDIA L20
python3.10
测试图片：视频按帧切割图片，尺寸 1248x704，格式 jpg

测试方案

链接 https://docs.ultralytics.com/zh/models/yolo11/#__tabbed_1_1 中五个尺寸模型，使用 cpu、gpu 和 gpu+tensorrt 三种方式运行推理

测试指标主要是推理时间和首帧处理时间

测试时采取了一张不同尺寸图片进行了 warmup（存在一些小问题）

测试结果数据

模型名	cpu 推理时间	cpu 首帧推理时间	gpu 推理时间	gpu 首帧推理时间	gpu + tensorrt 推理时间	gpu + tensorrt 首帧推理时间
yolov1n	63.07±6.58 ms/张	93.05 ms	25.53±1.61 ms/张	95.57 ms	20.88±0.69 ms/张	11.87 ms
yolov1s

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

小郎碎碎念

关注关注

4
点赞
踩
4

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
打赏
打赏
打赏举报

举报

yolov3 测试

jacke121的专栏

05-13

2537

torch版： darknet53 gpu 20ms cpu 300ms 和mobilenet v3 差不多快。 darknet21 gpu 7ms cpu 200多ms ShuffleNetV2 cpu版：23s gpu版：21ms

YOLOv8推理速度提升50%！3个工业级加速技巧（TensorRT量化+通道剪枝+后处理简化，附完整测速代码）

10-17

368

工业级YOLOv8加速需综合优化：通过TensorRT INT8量化（提速30%）、结构化通道剪枝（再提速15%）和后处理简化（最终提速50%+），在RTX 3090上实现78FPS推理速度，mAP损失仅1.3%。关键技巧包括：校准集优化确保量化精度、剪枝后微调恢复性能、边缘设备部署时CPU-GPU负载均衡。组合优化后，模型体积缩减75%（55MB），满足30FPS产线检测和200ms无人机避障等严苛需求，实测缺陷检测AP保持74%以上。附完整代码和参数模板，开发者可直接复现工业级优化效果。

参与评论您还未登录，请先登录后发表或查看评论

YOLOv8的5种不同部署方式推理速度对比：Pytorch、ONNX、OpenVINO-FP32、OpenVINO-int8、TensorRT

阿旭的博客

07-01

1万+

YOLOv8的5种不同部署方式推理速度对比：Pytorch、ONNX、OpenVINO-FP32、OpenVINO-int8、TensorRT

【YOLO系列】YOLOv8目标检测---训练、测试、推理

m0_55908255的博客

02-20

4084

源码与之前不一样，有两种方法作模型训练、验证、推理，第一种方法是在终端输入命令行(命令行未涉及到的参数就使用。文件的数量不一定等于测试集的图片数量，因为对于某一张图片可能会有漏检的情况，即一个目标也没有检测出来。之后模型验证时输出的性能指标的计算方法就是这样的，只是没有把各类别的性能指标打印出来而已)不同，模型输出不再有检测框的置信度预测值。的检测结果，后者是对应的标签图片，可以观察是否有漏检和误检的情况。cls，center_x，center_y，w，h，置信度。（1，2）：真实框的分布。

YOLO 配置，测试与训练

qq_23858101的博客

12-08

244

YOLO下载与安装 Linux系统中，一次运行下列命令即可安装 git clone https://github.com/pjreddie/darknet.git cd darknet make 注意若使GPU和opencv, 需要预先配置cuda ,cudnn和opencv, 然后将makefile文件中做出如下改变后，’ make ’ OPENCV=1 GPU=1 CUDNN=1 检测 ...

【计算机视觉】YOLOv8的测试以及训练过程（含源代码）

热门推荐

wzk4869的博客

07-08

6万+

【计算机视觉】YOLOv8的测试以及训练过程（含源代码）

YOLOv6-yolo v10资源

09-25

inference.ipynb和tutorial.ipynb是两个Jupyter Notebook文件，分别用于展示如何运行YOLOv6模型进行目标检测（即推理过程）和为初学者提供如何使用该模型的教程。LICENSE文件则包含了软件许可证信息，它规定了软件的...

YOLO v10的入门与实践.，包括安装与配置，基础使用，进阶等

11-08

YOLO V10（2024 NIPS）

朴实无华的研究生活

03-24

1356

本研究针对实时目标检测任务，提出了一种新的YOLOv10模型，旨在提升性能与效率之间的边界。首先，在后处理阶段引入了无NMS训练的一致双分配策略，显著提高了推理速度并保持了竞争力。其次，在模型架构方面，采用全面优化的方法从效率和准确性两方面改进YOLO组件，大幅减少了计算开销并增强了模型能力。实验结果显示，YOLOv10在多种模型规模下均达到了最先进的性能与效率。例如，YOLOv10-S比RT-DETR-R18快1.8倍，同时参数量和浮点运算数减少约2.8倍；

模型实战（27）之 YOLO11 推理、验证及训练自己的数据集

yohnyang的博客

10-17

801

模型实战（27）之 YOLO11 推理、验证及训练自己的数据集

YOLOV3安装测试过程记录

少磊的博客

01-28

943

17.1 YOLOV3 ① 官网：（cfg文件为数据模型） https://pjreddie.com/darknet/yolo/ ② 深度学习之—yolov1,v2,v3详解 https://blog.youkuaiyun.com/zxyhhjs2017/article/details/83013297 ③ Tensorflow实现YOLO v3（TF-Slim） https://blog.youkuaiyun.com/...

最新yolo3测试代码

03-06

yolov3版本，亲测可用，有coco附带预训练模型，可进行二次训练，也可以根据个人需求进行二次训练，移植到自己的项目工程中

YOLOv5训练自己的数据集并测试（以及踩坑记录）

weixin_46599926的博客

08-31

1万+

YOLOv5是一个非常流行的图像识别框架，这里介绍一下使用YOLOv5给自己的数据集进行训练和测试下面逐步来演示一下

一文搞懂YOLO系列目标检测！万字长文（附YOLOv8实操教程）

qq_45591302的博客

06-26

5万+

本文介绍目标检测基础概念，算法发展历史，YOLOV8环境配置，数据集标注，模型评估指标，改进策略。

目标检测实战(八): 使用YOLOv7完成对图像的目标检测任务（从数据准备到训练测试部署的完整流程）

源的博客

05-07

3004

目标检测（Object Detection）是计算机视觉领域的一项重要技术，旨在识别图像或视频中的特定目标并确定其位置。通过训练深度学习模型，如卷积神经网络（CNN），可以实现对各种目标的精确检测。常见的目标检测任务包括：人脸检测、行人检测、车辆检测等。目标检测在安防监控、自动驾驶、智能零售等领域具有广泛应用前景。YOLOv7（You Only Look Once version 7）是YOLO系列目标检测算法的最新版本，以其高效的实时性能和出色的检测准确率而备受关注。模型优化与技术发展。

YOLOX训练测试评估推理加速自己的数据集(一篇博客全详细)

m0_46401516的博客

10-25

4214

YOLOX训练自己的数据集，并附有TensorRT、ONNXRuntime推理加速

使用yolo模型进行目标检测，包含训练步骤和测试代码

不会处理故障的运维不是好程序员，WX：li669216072 只帮忙协助博客所遇到的类似问题

03-24

2610

训练过程截图，我这里是使用CPU训练，i7 11700型号的， 8核心CPU测试下来5秒一张图，只要识别指定目标的，我放了18张图，共计包含150个标注信息，训练出来的结果已经很好了。训练好的模型放在my_train\自己定义的输出名称\weights中，bast.pt代表最佳模型，last.pt代表最后训练的模型。val文件夹中，需要放置几个错误的产品，放图片和txt文件，txt设置为空就行，图片名称和txt文件名要保持一致，用于验证的。*这两个是一一对应的，也就是说图片名称和标注名称是一致的。

从零开始掌握YOLO——实时目标检测的技术详解

iShare_Carlos的博客

08-15

4万+

在当今的计算机视觉领域，目标检测技术扮演着至关重要的角色，随着深度学习技术的迅速发展，目标检测在安防监控、自动驾驶、医疗影像等多个领域得到了广泛应用。传统的目标检测方法通常需要复杂的手工特征设计和分类器训练，不仅效率较低，还存在难以推广的瓶颈。近年来，基于卷积神经网络（CNN）的目标检测方法，尤其是YOLO（You Only Look Once），彻底改变了这一现状。

YOLOv8目标检测代码如何实现训练、测试、指标评估、调用摄像头实时检测和目标追踪的接口调用脚本

一个兴趣使然CVer的博客

07-31

2万+

YOLOv8是单阶段目标检测的集大成之作，它可以帮助我们在图像或视频中自动识别和定位感兴趣的目标物体。本文将介绍如何调用YOLOv8的API实现训练、测试和调用摄像头进行实时检测和追踪。

yolov8 v10 v11推理速度

02-10

YOLOv8、v10 和 v11 是 YOLO (You Only Look Once) 系列目标检测算法的不同版本，每个新版本通常都会对模型的速度和精度进行优化。不过具体的推理速度会受到多种因素的影响： ### 影响推理速度的因素 1. **硬件配置**：GPU 的型号、CPU 性能以及内存大小等都直接影响到推理速度。 2. **输入图像尺寸**：较大的分辨率意味着更多的计算量，因此会影响推理时间。 3. **批处理大小（Batch Size）**：批量处理可以加速 GPU 上的操作，但也可能导致延迟增加。 4. **框架及库的支持程度**：如 PyTorch 或 TensorFlow 对特定操作的优化也会影响到最终性能。 ### 各版本特点简述 - **YOLOv8**: 相较于之前的版本，在保持较高准确率的同时提升了小物体检测的效果，并且通过改进网络结构提高了效率。 - **YOLOv10**: 此版引入了一些新的技术比如更好的数据增强策略和支持更多的预训练权重选项，这可能会间接影响运行效率。 - **YOLOv11**: 如果存在这样的官方发布，则应该进一步增强了对于现代硬件架构的适配性和软件层面的优化措施，理论上能够提供更快更稳定的预测结果。然而请注意，实际测试非常重要。因为即便是相同的模型，在不同的环境条件下其表现也可能大相径庭。建议您根据自身的应用场景选择合适的工具链并亲自评估各版本之间的差异。