高速视觉伺服系统(二)

从YOLOv8识别到云台随动:ROS框架下的实时视觉伺服系统实践 本文详细介绍了基于ROS框架和YOLOv8的实时视觉伺服系统实践,涵盖从目标识别到云台随动的全流程实现。通过优化消息流设计、YOLOv8的ROS化改造和云台PID控制,系统实现了高效的多目标实时追踪,适用于安防监控等场景。重点解决了实时性、坐标转换和硬件加速等关键技术挑战。 阅读详情

接着上期:https://blog.youkuaiyun.com/power1_power2/article/details/80084544

算法对比

误差公式
这里写图片描述

D<W/16  :  status A+: 成功追踪
W/16 <D<3W/16 :  status A-: 可以追踪
D>W/16 :  status B: 追踪失败
Invisible  :  status C: 无法追踪(不在范围)

这里写图片描述
算法对比中采用了以下误差计算公式,其中w代表图像的宽度,H代表其高度,整个误差公式表示被追踪后图像的中心于追踪目标的中心距离,其中D的大小用右边的图表征了四种情况,接着利用样本去测试,显示结果如下,可以看到,如果使用HSV算法,只要追踪失败一次,基本很难再次锁定目标,而使用背景减法,则基本可以保证目标追踪的准确性。也就是说,证明我们算法的有效性,即带有视点转换的背景减法。
这里写图片描述

研究问题及实施方案

这里写图片描述
接下来就是研究问题及实施方案,通过这个流程图,我们很容易发现,流程的每一步都会产生一些研究问题。首先在预处理过程中,由于高速相机的帧率通常在200fps以上,曝光时间低于5ms,如果是在室内使用进光量严重不足,会导致图像的对比度和色彩都很差。在提取目标过程中,如果我们的目标形态比较复杂,那么久需要背景分割,而此时背景使动态的,也是业界的一个难题。另外检测目标的算法速度也非常重要。在摄像头追踪目标的过程中,需要采取一切手段进行加速。

高速相机原始图像质量:
进光量不足→图像对比度不足
这里写图片描述
方案:在DCT域中使用随机共振(Stochastic resonance),DCT中系数的低方差代表低能量(低对比度)。SR的机制是增加DCT系数分布的方差,导致对比度的增加。
室内进光亮不足。随机共振(SR)是一种非线性物理现象,是指一些非线性系统的输出信号可以通过在一定条件下加入适当的噪声来增强。目前常见的利用DCT域进行图像增强,由于强度分布的不连续性,图像边界有时会出现多余的边缘。

  • 动态背景下的背景分割&目标的快速检测
    动态背景的背景分割:全卷积网络(FCN) +全连接条件随机场(DenseCRF) 精确分割:
    前端使用FCN进行特征粗提取,后端使用DenseCRF优化前端的输出,最后得到分割图.
    这里写图片描述
    动态背景下的背景分割&目标的快速检测的问题,我们打算利用全卷积网络(FCN) +全连接条件随机场(DenseCRF) 精确分割进行动态背景的背景分割,分类使用的网络通常会在最后连接几层全连接层,它会将原来二维的矩阵(图片)压缩成一维的,从而丢失了空间信息,最后训练输出一个标量,这就是我们的分类标签。 而图像语义分割的输出需要是个分割图,且不论尺寸大小,但是至少是二维的。所以,需要丢弃全连接层,换上全卷积层,而这就是全卷积网络了。对于每个像素具有类别标签还有对应的观测值,这样每个像素点作为节点,像素与像素间的关系作为边,即构成了一个条件随机场。而且我们通过观测变量来推测像素对应的类别标签。
  • 更快的追踪算法:核相关滤波算法( Kernel Correlation Filter )
    这里写图片描述
    追踪算法,我们打算尝试核相关滤波算法,这是一种鉴别式追踪方法,这种方法是在追踪过程中训练一个目标检测器,使用目标检测器去检测下一帧预测位置是否是目标,然后再使用新检测结果去更新训练集进而更新目标检测器。而在训练目标检测器时一般选取目标区域为正样本,目标的周围区域为负样本,当然越靠近目标的区域为正样本的可能性越大。算法的主要目的是训练和函数,核函数训练完成之后,新来的样本直接进行映射到核空间,然后使用训练得到的函数进行运算得到函数值,对所有的位置都进行计算,就能快速的检测到目标的位置所在。文章中为了介绍方便,作者使用了单通道一维的数据表示去进行讲解,可以直接扩展到二维的情况。一维的情况下就是矩阵想乘的问题了,就是矩阵分析当中学过的左乘一个单位矩阵和右乘一个单位矩阵。左乘是行变换,右乘列变化。目的就是得到更多的样本,每乘一次都是一个新的样本,这样的话就可以多出来n*n个样本了,这就是循环矩阵在这里最大的用处,制造样本的数量,以图像的形式展示就是这样的,一个样本经过循环矩阵之后就可以产生这么多的样本。
  • 系统搭建
    这里写图片描述
    这里写图片描述
    整体系统示意图+系统搭建实拍图+相机与振镜近拍图:基本流程包括:
    1.摄像机连续捕获乒乓球高速飞行的视频帧。
    2.处理器及时处理由摄像机捕获到的图片,通过检测算法检测出球在图片中的区域,得到二维位置。
    3.将位置信息交付给数据采集卡,使其在乒乓球偏离图像中心区域的时候输出模拟信号。
    4.模拟信号驱动电机,让两片扫描振镜根据要求旋转,调整相机视线位置。

总结与展望

高速视觉伺服系统在体育比赛、车辆碰撞检测、昆虫观察等领域都有重要作用。更好的硬件结构和更快的追踪算法以实现“自动对焦”,使摄像机保持正确的视角方向。这将是以后研究的重点方向。

文献调研:
[1] Okumura K, Oku H, Ishikawa M. High-speed gaze controller for millisecond-order pan/tilt camera[C]// IEEE International Conference on Robotics and Automation. IEEE Xplore, 2011:6186-6191.
[2] Henriques J F, Rui C, Martins P, et al. High-Speed Tracking with Kernelized Correlation Filters[J]. IEEE Transactions on Pattern Analysis & Machine Intelligence, 2015, 37(3):583.
[3] Okumura K, Oku H, Ishikawa M. Acitve projection ar using high-speed optical axis control and appearance estimation algorithm[C]// IEEE International Conference on Multimedia and Expo. IEEE, 2013:1-6.
[4] Hare S, Saffari A, Torr P H S. Struck: Structured output tracking with kernels[J]. IEEE Transactions on Pattern Analysis & Machine Intelligence, 2016, 38(10):2096.
[5] Okumura K, Oku H, Ishikawa M. Optical gaze control system to realize more high-speed active vision. J. Robot. Soc. Jpn. 2011;29:201–211. Japanese.

如果觉得本文写的还不错的伙伴,可以给个关注一起交流进步,如果有在找工作且对阿里感兴趣的伙伴,也可以发简历给我进行内推:
在这里插入图片描述

C++实现毫秒级视觉伺服系统:从架构设计到性能调优 视觉伺服是机器人领域的关键技术,它通过摄像头实时感知环境,并驱动执行器完成精准操作。其核心原理在于构建一个从图像采集、特征提取、位姿解算到控制指令生成的快速闭环。这项技术的价值在于实现了机器从“感知”到“行动”的自主性,广泛应用于工业自动化、机器人抓取和无人机跟踪等高精度、高动态场景。为了满足毫秒级响应的严苛要求,系统必须在软件层面保障确定性延迟,并应对视觉算法鲁棒性等挑战。本文聚焦于使用C++构建此类高性能系统,深入探讨了如何通过多线程架构、无锁队列和实时性优化来克服延迟瓶颈,并分享了特征跟踪与闭环控制器 阅读详情

相关推荐

面向高精度领域的视觉伺服算法汇总

作者:Tom Hardy 来源:面向高精度领域的视觉伺服算法汇总

3D视觉工坊 970

运动估计算法的程序实现_面向高精度领域的视觉伺服算法汇总

作者:Tom HardyDate:2020-02-14来源:面向高精度领域的视觉伺服算法汇总前言视觉伺服是工业上很重要的一个领域,在自动装配、高精配准上应用非常多。针对近两年常见的算法模式,在这里进行了简单的汇总。1、Predicting Target Feature Configuration of Non-stationary Objects for Grasping with Image-B...

weixin_39924481的博客 563

50、视觉与肌电信号融合的手势识别及变结构控制器在抑制平台伺服系统的应用

本文研究了基于视觉与肌电信号融合的手势识别方法及变结构控制器在抑制平台伺服系统中的应用。在手势识别方面,通过SVM多分类器与DS证据理论实现多模态特征融合,显著提升了36种手势的识别准确率,达到93.8%,优于单一特征及传统融合方法。在抑制平台控制方面,针对高速启动和视频图像闭环跟踪需求,建立了永磁同步电机驱动系统的数学模型,并设计了带有抗积分饱和PID的变结构控制器。仿真与实验结果表明,该控制器可将启动时间从1.6秒缩短至1秒,同时提升系统鲁棒性与稳定性。最后,文章总结了当前成果,并展望了未来在深度特征融

git9versioner的博客 70

高速视觉伺服系统(一)

最近在学习相关知识,做个简要总结: 背景介绍 国内外研究现状 算法介绍 研究问题及实施方案 总结展望 背景介绍 研究表明,人类获得的80%以上的感官信息来自于视觉器官。借鉴同样的原理,借助视觉伺服系统,机器人可以广泛地用于掌握变化的外部环境。从而做出相应的反应。这就是伺服系统的背景。最典型的一个例子就是图中实况转播中乒乓球的高速追踪。 如果摄像头需要捕捉某一运动物体,常需要...

lwj的小站 7923

50、视觉与肌电信号融合的手势识别及变结构控制器在抑制平台伺服系统中的应用

本文提出了一种基于DS证据理论的视觉与肌电信号融合的手势识别方法,通过SVM分类器分别提取HOG特征和时域肌电特征,并利用Dempster合成规则进行决策级融合,显著提升了36类手势的识别准确率。同时,针对抑制平台伺服系统设计了带有抗积分饱和PID的变结构控制器,适应高速启动与视频图像闭环跟踪两种模式,通过建模与仿真验证了其在响应速度、稳定性与跟踪精度上的优越性能。实验结果表明,所提方法在多模态识别与复杂控制任务中具有高效性与实用性,为相关技术的应用提供了有力支持。

algae的博客 74

基于Beckhoff TwinCAT的运动控制与视觉伺服系统开发实战

这种高度集成的“感知-决策-执行”一体化架构,正在重新定义智能工厂的能力边界。未来不属于单一技术最强的企业,而属于能把。

weixin_42103128的博客 1237

物体根据相机位置显示_基于视觉伺服技术的工业机器人高动态物体跟踪系统

基于视觉伺服技术的工业机器人高动态物体跟踪系统毛翊超,陆麒【摘 要】视觉伺服技术在诸多工业场景中都有相当大的应用前景。传统的视觉伺服方法,通常要求使用高帧率的相机来实现高精度的视觉伺服。高帧率相机的成本之高,使得一般工业用户望而却步。提出了一种新的视觉伺服控制方法,该方法将机器人的运动反馈与视觉传感信号进行了融合,用来产生机器人的运动控制信号。与传统的仅基于视觉反馈伺服的控制方法相比...

weixin_35253106的博客 2158

matlab视觉伺服工具箱

matlab的视觉伺服工具箱 ,主要用在机器人控制上,

计算机视觉---视觉伺服控制

视觉伺服控制技术综述 视觉伺服控制是将计算机视觉与自动控制相结合的技术,通过相机获取图像信息,提取目标特征并生成控制信号,驱动执行机构完成跟踪、定位或操作任务。该系统可分为基于位置的视觉伺服(PBVS)、基于图像的视觉伺服(IBVS)、混合视觉伺服和基于语义的视觉伺服等类型。核心技术包括视觉感知、误差建模、控制算法和系统集成等模块,涉及坐标变换、投影理论和稳定性分析等数学基础。该技术广泛应用于工业机器人、无人机、医疗和服务机器人等领域,当前研究热点包括深度学习融合、动态视觉伺服和多传感器融合等方向。

MzKyle的博客 7910

[Visual Servo Control] Part1 基于图像的视觉伺服控制(IBVS)

目录内容说明基础概念视觉伺服基于图像IBVS几何解释双目系统基于位置PBVS 待研究 内容说明 本文主要为 HAL Id: inria-00350283的学习记录 感谢原作者 该系列文章使用伺服回路中的计算机视觉数据来控制机器人的运动。 首先给出视觉伺服控制问题的一般性概述。然后介绍了两种典型的视觉伺服控制方案:基于图像的视觉伺服控制和基于位置的视觉伺服控制。 最后,我们讨论了与这两个方案相关的性能和稳定性问题。 基础概念 刚体运动与相机模型了解 视觉伺服 视觉伺服控制是一种基于视觉反馈的控制方式。是我们在日常生活中每时每刻都在进行的一种反馈:当你伸出手去抓取桌上的杯子的时候,眼睛会不断的反

8.5/Q1,Charls最新高分文章解读!

8 257名受试者中,672人(8.14%)在9年内发生过卒中。在调整的多因素cox回归模型中,TyG和ABSI仍然是卒中的预测因素,TyG的HR为1.25(95%CI:1.06~1.47),ABSI的HR为1.33(95%CI:1.06~1.68)。TyG和ABSI联合诊断效能最高(AUC:0.579,95%CI:0.553~0.597),而TyG(AUC:0.566,95%CI:0.544~0.587)和ABSI(AUC:0.533,95%CI:0.524~0.597)的诊断效能最低。

gsky_sci的博客 1016

基于DSP的机器人视觉伺服系统研究

1. 引言  机器人视觉伺服系统是机器人领域中的重要研究方向,起源于80年代初,随着计算机技术、图像处理技术、控制理论的发展,取得了很大进步,有一些系统已投入使用。视觉伺服跟通常所说的机器视觉有所不同,视觉伺服是利用机器视觉的原理,进行图像的自动获取分析,从直接得到的图像处理反馈信息中,快速进行图像处理,在尽量短的时间内给出反馈信号,构成机器人的位置闭环控制,实现对机器人的控制。正是由于系统以

自动驾驶与智能制造--深度学习 1623

【全开源】旅游系统源码(Uniapp+FastAdmin+ThinkPHP)

通过源码的灵活配置和定制开发,我们可以根据旅游企业的实际需求,快速构建出符合其业务特点的旅游系统。旅游系统源码,作为这一变革的基石,为旅游业的数字化转型提供了强有力的支撑。通过深入研究和应用旅游系统源码,我们能够构建出更加智能、便捷、个性化的旅游服务平台,满足游客日益增长的旅游需求。国际化发展:随着全球化的深入发展,旅游系统源码也将迎来国际化的发展机遇,为国内外游客提供更加便捷、高效的旅游服务。跨界融合:旅游系统源码将与更多领域进行跨界融合,如与交通、餐饮、购物等行业的结合,为游客提供更加丰富的旅游体验。

2401_84413757的博客 2153

Pi0机器人视觉伺服系统:实时目标追踪实战

本文介绍了如何在星图GPU平台上一键自动化部署Pi0机器人控制中心镜像,实现高效的实时目标追踪应用。该镜像集成了先进的视觉伺服系统,能够以60FPS处理速度精准追踪移动目标,并联动机械臂完成物体抓取等自动化任务,显著提升机器人在工业检测与服务场景中的智能化水平。

weixin_42509720的博客 422

Arduino IDE 2.3.2 配置 UNO R4 WIFI 开发环境避坑指南(附LED矩阵驱动测试)

本文详细介绍了如何在Arduino IDE 2.3.2中配置UNO R4 WIFI开发环境,并提供了LED矩阵驱动的实战指南。从开发环境搭建到硬件连接,再到LED矩阵的初始化和弹球动画实现,手把手教你避开常见配置陷阱,最终实现流畅的动画效果。特别适合刚接触UNO R4 WIFI的开发者快速上手。

weixin_28675839的博客 220

AD服务器搭建

一、角色安装1)打开服务器管理器,添加 角色和功能;2) 点 下一步;3)点 下一步;4)点 下一步;5)点击安装;6-1)将此服务器提升为域控制器;6-2)点下一步;6)输入密码 点 下一步;7)自动生成LIXF,点击下一步;8)确认目录,点下一步;8)确认安装条件,点安装; 8)安装成功,点关闭;...

潇峰的博客 6452

固晶机伺服系统选型与调试:三菱MR-J5在高速高精度场景下的工程实践

伺服系统是运动控制的核心执行单元,通过闭环反馈实现位置、速度与转矩的精确控制。其性能取决于编码器分辨率、增益整定与振动抑制算法,直接影响设备的定位精度与节拍。在高速高精度拾放场景中,伺服的自整定与在线惯量辨识能力可显著降低调试复杂度,提升运行稳定性。固晶机作为典型应用,要求伺服在微米级精度下兼顾高速往复与动态对位,对振动抑制和视觉伺服同步提出严苛要求。三菱MR-J5配合FX5U的方案,通过自适应滤波与位置触发飞拍,在固晶机XY平台上实现了精度与效率的平衡。

weixin_29185167的博客 42

【知识分享】CAN总线中终端网络的重要性

P沟道和N沟道晶体管的漏源通态电阻匹配良好时,形成的CANH和CANL信号匹配良好;如果驱动器的一半具有比另一半低得多的导通状态电阻,那么总线共模电压将从VCC/2的显性状态偏离,并回到VCC/2的隐性状态,这将导致每一次状态转换都会伴随着共模电压噪声,从而导致更高水平的传导和辐射能量发射。

一只豌豆象的博客 1544

PLC与伺服系统在高速贴标机中的协同控制方案

工业自动化控制系统中,PLC(可编程逻辑控制器)与伺服系统的协同工作是实现高精度运动控制的核心技术。通过Profinet实时通信网络,PLC可以精确协调多个伺服驱动器的动作时序,满足高速贴标等精密作业需求。这种技术方案在包装产线中尤为重要,能显著提升设备效率和定位精度(±0.5mm)。以饮料产线改造为例,采用S7-1200 PLC为主站,配合V90伺服系统和工业相机,构建分布式控制系统,实现了每分钟120瓶的高速贴标,同时兼容多种瓶型和标签规格。该方案通过优化网络拓扑(划分实时环网、过程数据环网等)和运动控

weixin_29191081的博客 85

uniapp - 详解APP端免费人脸识别+人脸核身+人脸对比+活体检测插件功能完整源码,uniAPP纯前端实现不依赖后端API接口或第三方付费人脸识别功能示例(仅兼容安卓app与苹果ios App)

uniapp免费人脸认证功能,uniapp APP开发活体人脸识别,UniApp人脸识别与活体检测,人脸核身uni-app插件 活体检测 人脸对比 人脸识别 人脸认证 身份证件,uni-app人脸核身,如何在app端实现免费人脸识别教程,人脸核身uni-app插件活体检测,uniapp安卓ios百度人脸识别、活体检测、人脸采集APP原生插件,详细实现人脸识别和活体检测功能,实时监测人脸是否进入区域及动作是否正确播报,提供提供实名认证、身份证识别、有没有免费的,api,活体检测,人脸信息采集、刷脸扫脸认证示例

🏆 前端领域优质创作者 4386

HyperLynx(十三)Hyperlynx前放置之对网络的EMC分析

在“Spectrum Analyzer”对话框的“Stimulus”(激励)栏中,设置激励源频率为100MHz,选择“IC modeling”为“Fast-Strong”,并按图所示设置其他选项。显然,在仿真的基频上,它的幅值最大,将鼠标光标置于柱状图上,可以读取其值为64.28mA,这个数值是由选定的驱动芯片决定的。按上图所示的原理图,在接收端增加一个并联的RC负载,再次运行仿真,结果如图所示。在对话框左侧的“Pins”列表中,显示出了已添加电流探针的引脚,可以在此列表中选择所要仿真的目标。...

小幽余生不加糖 4680

机器视觉(1)-- 视觉伺服控制系统简介

视觉是人类感知外界信息的重要手段,视觉伺服系统是机器人获取环境信息的关键组成部分。本文主要讨论仿人机器人BHR-1的视觉伺服系统。首先介绍机器人头部的视觉总体结构方案,然后论述了基于立体视觉的信息处理和头部运动控制,最后通过目标跟踪和物体抓取实验说明了系统的可行性。   总体方案及控制系统   仿人机器人的视觉伺服系统要求能够根据具体环境和具体情况进行主动搜索,实时将摄像头转向目标,实现对空间...

Techblog of HaoWANG 1万+

SAP生产订单技术性完成(TECO)操作指南与实战应用

生产订单技术关闭操作指南主要包括单笔和批量关闭两种方式,通过CO02/COHV事务码完成。

m0_47402127的博客 1932

视觉伺服系统的 “多硬件协同” 设计:相机、机器人、传感器的时钟同步

时钟同步是视觉伺服系统多硬件协同设计的基石,它能显著提升精度、稳定性和实时性。通过结合硬件触发和软件协议,并基于数学建模优化误差,您可以构建高效系统。记住,设计时应从需求出发,优先保证关键路径的同步。最终,良好同步的系统能实现毫米级定位精度,适用于自动化、医疗或无人机等场景。如果您有具体参数或应用细节,我可以进一步细化建议!

2501_93878496的博客 484

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

高速高精度伺服系统EMC多层级设计与通讯稳定性实践

伺服系统在高速(带宽>1kHz)与高精度(分辨率24位、定位误差<±0.5μm)场景下,电磁兼容性(EMC)直接决定伺服通讯稳定性。其本质是抑制噪声生成、阻断耦合路径、构建低阻抗泄放通道,并在芯片级、板级、模块级、机柜级和系统级形成协同防御体系。RS485/EtherCAT等物理层信号对共模噪声、地电位差、边沿畸变高度敏感,而编码器反馈抖动、通讯超时、误码率升高正是EMC失效的典型表征。本文基于工业现场真实案例,解析从IO驱动强度配置、PCB三隔离布局,到电缆单端屏蔽、星型低感接地,再到眼图判据与EMC感知

weixin_30960995的博客 281

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

【亲测免费】 掌握自动化控制的未来:LabVIEW上位机控制汇川PLC与伺服系统

掌握自动化控制的未来:LabVIEW上位机控制汇川PLC与伺服系统 【下载地址】LabVIEW上位机控制汇川PLC与伺服系统资源下载 本资源文件提供了一套完整的LabVIEW上位机控制系统源码,适用于控制汇川PLC H5U和汇川伺服运动系统。此外,该系统还集成了海康威视相机的视觉对位功能,并通过网口实现对汇川H5U和Et...

gitblog_09717的博客 594

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

上一篇: 高速视觉伺服系统(一)
下一篇: 机器学习中的特征处理--onehot编码
powerlwj
博客等级 码龄12年 116粉丝 33原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值