高速视觉伺服系统(二)

从YOLOv8识别到云台随动:ROS框架下的实时视觉伺服系统实践 本文详细介绍了基于ROS框架和YOLOv8的实时视觉伺服系统实践,涵盖从目标识别到云台随动的全流程实现。通过优化消息流设计、YOLOv8的ROS化改造和云台PID控制,系统实现了高效的多目标实时追踪,适用于安防监控等场景。重点解决了实时性、坐标转换和硬件加速等关键技术挑战。 阅读详情

接着上期:https://blog.youkuaiyun.com/power1_power2/article/details/80084544

算法对比

误差公式
这里写图片描述

D<W/16  :  status A+: 成功追踪
W/16 <D<3W/16 :  status A-: 可以追踪
D>W/16 :  status B: 追踪失败
Invisible  :  status C: 无法追踪(不在范围)

这里写图片描述
算法对比中采用了以下误差计算公式,其中w代表图像的宽度,H代表其高度,整个误差公式表示被追踪后图像的中心于追踪目标的中心距离,其中D的大小用右边的图表征了四种情况,接着利用样本去测试,显示结果如下,可以看到,如果使用HSV算法,只要追踪失败一次,基本很难再次锁定目标,而使用背景减法,则基本可以保证目标追踪的准确性。也就是说,证明我们算法的有效性,即带有视点转换的背景减法。
这里写图片描述

研究问题及实施方案

这里写图片描述
接下来就是研究问题及实施方案,通过这个流程图,我们很容易发现,流程的每一步都会产生一些研究问题。首先在预处理过程中,由于高速相机的帧率通常在200fps以上,曝光时间低于5ms,如果是在室内使用进光量严重不足,会导致图像的对比度和色彩都很差。在提取目标过程中,如果我们的目标形态比较复杂,那么久需要背景分割,而此时背景使动态的,也是业界的一个难题。另外检测目标的算法速度也非常重要。在摄像头追踪目标的过程中,需要采取一切手段进行加速。

高速相机原始图像质量:
进光量不足→图像对比度不足
这里写图片描述
方案:在DCT域中使用随机共振(Stochastic resonance),DCT中系数的低方差代表低能量(低对比度)。SR的机制是增加DCT系数分布的方差,导致对比度的增加。
室内进光亮不足。随机共振(SR)是一种非线性物理现象,是指一些非线性系统的输出信号可以通过在一定条件下加入适当的噪声来增强。目前常见的利用DCT域进行图像增强,由于强度分布的不连续性,图像边界有时会出现多余的边缘。

  • 动态背景下的背景分割&目标的快速检测
    动态背景的背景分割:全卷积网络(FCN) +全连接条件随机场(DenseCRF) 精确分割:
    前端使用FCN进行特征粗提取,后端使用DenseCRF优化前端的输出,最后得到分割图.
    这里写图片描述
    动态背景下的背景分割&目标的快速检测的问题,我们打算利用全卷积网络(FCN) +全连接条件随机场(DenseCRF) 精确分割进行动态背景的背景分割,分类使用的网络通常会在最后连接几层全连接层,它会将原来二维的矩阵(图片)压缩成一维的,从而丢失了空间信息,最后训练输出一个标量,这就是我们的分类标签。 而图像语义分割的输出需要是个分割图,且不论尺寸大小,但是至少是二维的。所以,需要丢弃全连接层,换上全卷积层,而这就是全卷积网络了。对于每个像素具有类别标签还有对应的观测值,这样每个像素点作为节点,像素与像素间的关系作为边,即构成了一个条件随机场。而且我们通过观测变量来推测像素对应的类别标签。
  • 更快的追踪算法:核相关滤波算法( Kernel Correlation Filter )
    这里写图片描述
    追踪算法,我们打算尝试核相关滤波算法,这是一种鉴别式追踪方法,这种方法是在追踪过程中训练一个目标检测器,使用目标检测器去检测下一帧预测位置是否是目标,然后再使用新检测结果去更新训练集进而更新目标检测器。而在训练目标检测器时一般选取目标区域为正样本,目标的周围区域为负样本,当然越靠近目标的区域为正样本的可能性越大。算法的主要目的是训练和函数,核函数训练完成之后,新来的样本直接进行映射到核空间,然后使用训练得到的函数进行运算得到函数值,对所有的位置都进行计算,就能快速的检测到目标的位置所在。文章中为了介绍方便,作者使用了单通道一维的数据表示去进行讲解,可以直接扩展到二维的情况。一维的情况下就是矩阵想乘的问题了,就是矩阵分析当中学过的左乘一个单位矩阵和右乘一个单位矩阵。左乘是行变换,右乘列变化。目的就是得到更多的样本,每乘一次都是一个新的样本,这样的话就可以多出来n*n个样本了,这就是循环矩阵在这里最大的用处,制造样本的数量,以图像的形式展示就是这样的,一个样本经过循环矩阵之后就可以产生这么多的样本。
  • 系统搭建
    这里写图片描述
    这里写图片描述
    整体系统示意图+系统搭建实拍图+相机与振镜近拍图:基本流程包括:
    1.摄像机连续捕获乒乓球高速飞行的视频帧。
    2.处理器及时处理由摄像机捕获到的图片,通过检测算法检测出球在图片中的区域,得到二维位置。
    3.将位置信息交付给数据采集卡,使其在乒乓球偏离图像中心区域的时候输出模拟信号。
    4.模拟信号驱动电机,让两片扫描振镜根据要求旋转,调整相机视线位置。

总结与展望

高速视觉伺服系统在体育比赛、车辆碰撞检测、昆虫观察等领域都有重要作用。更好的硬件结构和更快的追踪算法以实现“自动对焦”,使摄像机保持正确的视角方向。这将是以后研究的重点方向。

文献调研:
[1] Okumura K, Oku H, Ishikawa M. High-speed gaze controller for millisecond-order pan/tilt camera[C]// IEEE International Conference on Robotics and Automation. IEEE Xplore, 2011:6186-6191.
[2] Henriques J F, Rui C, Martins P, et al. High-Speed Tracking with Kernelized Correlation Filters[J]. IEEE Transactions on Pattern Analysis & Machine Intelligence, 2015, 37(3):583.
[3] Okumura K, Oku H, Ishikawa M. Acitve projection ar using high-speed optical axis control and appearance estimation algorithm[C]// IEEE International Conference on Multimedia and Expo. IEEE, 2013:1-6.
[4] Hare S, Saffari A, Torr P H S. Struck: Structured output tracking with kernels[J]. IEEE Transactions on Pattern Analysis & Machine Intelligence, 2016, 38(10):2096.
[5] Okumura K, Oku H, Ishikawa M. Optical gaze control system to realize more high-speed active vision. J. Robot. Soc. Jpn. 2011;29:201–211. Japanese.

如果觉得本文写的还不错的伙伴,可以给个关注一起交流进步,如果有在找工作且对阿里感兴趣的伙伴,也可以发简历给我进行内推:
在这里插入图片描述

C++实现毫秒级视觉伺服系统:从架构设计到性能调优 视觉伺服是机器人领域的关键技术,它通过摄像头实时感知环境,并驱动执行器完成精准操作。其核心原理在于构建一个从图像采集、特征提取、位姿解算到控制指令生成的快速闭环。这项技术的价值在于实现了机器从“感知”到“行动”的自主性,广泛应用于工业自动化、机器人抓取和无人机跟踪等高精度、高动态场景。为了满足毫秒级响应的严苛要求,系统必须在软件层面保障确定性延迟,并应对视觉算法鲁棒性等挑战。本文聚焦于使用C++构建此类高性能系统,深入探讨了如何通过多线程架构、无锁队列和实时性优化来克服延迟瓶颈,并分享了特征跟踪与闭环控制器 阅读详情

相关推荐

面向高精度领域的视觉伺服算法汇总

作者:Tom Hardy 来源:面向高精度领域的视觉伺服算法汇总

3D视觉工坊 970

运动估计算法的程序实现_面向高精度领域的视觉伺服算法汇总

作者:Tom HardyDate:2020-02-14来源:面向高精度领域的视觉伺服算法汇总前言视觉伺服是工业上很重要的一个领域,在自动装配、高精配准上应用非常多。针对近两年常见的算法模式,在这里进行了简单的汇总。1、Predicting Target Feature Configuration of Non-stationary Objects for Grasping with Image-B...

weixin_39924481的博客 563

50、视觉与肌电信号融合的手势识别及变结构控制器在抑制平台伺服系统的应用

本文研究了基于视觉与肌电信号融合的手势识别方法及变结构控制器在抑制平台伺服系统中的应用。在手势识别方面,通过SVM多分类器与DS证据理论实现多模态特征融合,显著提升了36种手势的识别准确率,达到93.8%,优于单一特征及传统融合方法。在抑制平台控制方面,针对高速启动和视频图像闭环跟踪需求,建立了永磁同步电机驱动系统的数学模型,并设计了带有抗积分饱和PID的变结构控制器。仿真与实验结果表明,该控制器可将启动时间从1.6秒缩短至1秒,同时提升系统鲁棒性与稳定性。最后,文章总结了当前成果,并展望了未来在深度特征融

git9versioner的博客 70

高速视觉伺服系统(一)

最近在学习相关知识,做个简要总结: 背景介绍 国内外研究现状 算法介绍 研究问题及实施方案 总结展望 背景介绍 研究表明,人类获得的80%以上的感官信息来自于视觉器官。借鉴同样的原理,借助视觉伺服系统,机器人可以广泛地用于掌握变化的外部环境。从而做出相应的反应。这就是伺服系统的背景。最典型的一个例子就是图中实况转播中乒乓球的高速追踪。 如果摄像头需要捕捉某一运动物体,常需要...

lwj的小站 7923

50、视觉与肌电信号融合的手势识别及变结构控制器在抑制平台伺服系统中的应用

本文提出了一种基于DS证据理论的视觉与肌电信号融合的手势识别方法,通过SVM分类器分别提取HOG特征和时域肌电特征,并利用Dempster合成规则进行决策级融合,显著提升了36类手势的识别准确率。同时,针对抑制平台伺服系统设计了带有抗积分饱和PID的变结构控制器,适应高速启动与视频图像闭环跟踪两种模式,通过建模与仿真验证了其在响应速度、稳定性与跟踪精度上的优越性能。实验结果表明,所提方法在多模态识别与复杂控制任务中具有高效性与实用性,为相关技术的应用提供了有力支持。

algae的博客 74

基于Beckhoff TwinCAT的运动控制与视觉伺服系统开发实战

这种高度集成的“感知-决策-执行”一体化架构,正在重新定义智能工厂的能力边界。未来不属于单一技术最强的企业,而属于能把。

weixin_42103128的博客 1237

物体根据相机位置显示_基于视觉伺服技术的工业机器人高动态物体跟踪系统

基于视觉伺服技术的工业机器人高动态物体跟踪系统毛翊超,陆麒【摘 要】视觉伺服技术在诸多工业场景中都有相当大的应用前景。传统的视觉伺服方法,通常要求使用高帧率的相机来实现高精度的视觉伺服。高帧率相机的成本之高,使得一般工业用户望而却步。提出了一种新的视觉伺服控制方法,该方法将机器人的运动反馈与视觉传感信号进行了融合,用来产生机器人的运动控制信号。与传统的仅基于视觉反馈伺服的控制方法相比...

weixin_35253106的博客 2158

matlab视觉伺服工具箱

matlab的视觉伺服工具箱 ,主要用在机器人控制上,

计算机视觉---视觉伺服控制

视觉伺服控制技术综述 视觉伺服控制是将计算机视觉与自动控制相结合的技术,通过相机获取图像信息,提取目标特征并生成控制信号,驱动执行机构完成跟踪、定位或操作任务。该系统可分为基于位置的视觉伺服(PBVS)、基于图像的视觉伺服(IBVS)、混合视觉伺服和基于语义的视觉伺服等类型。核心技术包括视觉感知、误差建模、控制算法和系统集成等模块,涉及坐标变换、投影理论和稳定性分析等数学基础。该技术广泛应用于工业机器人、无人机、医疗和服务机器人等领域,当前研究热点包括深度学习融合、动态视觉伺服和多传感器融合等方向。

MzKyle的博客 7910

[Visual Servo Control] Part1 基于图像的视觉伺服控制(IBVS)

目录内容说明基础概念视觉伺服基于图像IBVS几何解释双目系统基于位置PBVS 待研究 内容说明 本文主要为 HAL Id: inria-00350283的学习记录 感谢原作者 该系列文章使用伺服回路中的计算机视觉数据来控制机器人的运动。 首先给出视觉伺服控制问题的一般性概述。然后介绍了两种典型的视觉伺服控制方案:基于图像的视觉伺服控制和基于位置的视觉伺服控制。 最后,我们讨论了与这两个方案相关的性能和稳定性问题。 基础概念 刚体运动与相机模型了解 视觉伺服 视觉伺服控制是一种基于视觉反馈的控制方式。是我们在日常生活中每时每刻都在进行的一种反馈:当你伸出手去抓取桌上的杯子的时候,眼睛会不断的反

TOPCon vs PERC:2024年光伏电站投资,哪种技术更划算?

本文深入分析了2024年光伏电站投资中TOPCon与PERC技术的财务表现。通过对比初始系统成本、全生命周期发电量及环境适应性,指出当前TOPCon组件与PERC价差已显著缩小,其更高的转换效率和更低的衰减率能有效降低度电成本并提升项目内部收益率,为投资者提供更具长期价值的方案。

p5l2m9n4o6q的博客 267

基于DSP的机器人视觉伺服系统研究

1. 引言  机器人视觉伺服系统是机器人领域中的重要研究方向,起源于80年代初,随着计算机技术、图像处理技术、控制理论的发展,取得了很大进步,有一些系统已投入使用。视觉伺服跟通常所说的机器视觉有所不同,视觉伺服是利用机器视觉的原理,进行图像的自动获取分析,从直接得到的图像处理反馈信息中,快速进行图像处理,在尽量短的时间内给出反馈信号,构成机器人的位置闭环控制,实现对机器人的控制。正是由于系统以

自动驾驶与智能制造--深度学习 1623

泛微ecology9 HRMwebservice接口实战:企业组织架构与人员信息同步指南

本文详细介绍了泛微ecology9 HRMwebservice接口在企业系统集成中的实战应用,重点解析了如何通过该接口实现组织架构与人员信息的双向同步。内容涵盖环境配置、核心接口调用、数据格式规范及常见错误排查,旨在帮助开发与运维工程师高效完成主数据同步,提升企业IT管理效率。

weixin_29323365的博客 498

Pi0机器人视觉伺服系统:实时目标追踪实战

本文介绍了如何在星图GPU平台上一键自动化部署Pi0机器人控制中心镜像,实现高效的实时目标追踪应用。该镜像集成了先进的视觉伺服系统,能够以60FPS处理速度精准追踪移动目标,并联动机械臂完成物体抓取等自动化任务,显著提升机器人在工业检测与服务场景中的智能化水平。

weixin_42509720的博客 422

Selenium ChromeDriver反爬与性能优化实战指南

ChromeDriver作为Selenium的核心驱动,本质是浏览器自动化执行引擎,其默认行为会暴露大量JS运行时指纹(如navigator.webdriver、window.chrome),极易被前端反爬系统识别;同时因进程管理粗放、渲染等待机制僵化,导致内存泄漏、僵尸进程和高并发下稳定性崩塌。本文围绕真实生产场景,系统解析浏览器指纹伪造原理、进程级资源管控策略、基于页面状态的智能等待范式,并提供Docker容器化、K8s弹性扩缩与Prometheus可观测性落地路径,助力开发者将ChromeDriver

weixin_29762151的博客 1259

【AI】使用Cursor和AI编程生成的VUE前端框架

本项目是一个基于VUE.js的前端框架,结合了登录、图形验证码、权限校验等常用功能模块。通过与Cursor AI交互生成的代码,展示了AI在编程中的潜力与效率。

清欢渡的博客 9862

固晶机伺服系统选型与调试:三菱MR-J5在高速高精度场景下的工程实践

伺服系统是运动控制的核心执行单元,通过闭环反馈实现位置、速度与转矩的精确控制。其性能取决于编码器分辨率、增益整定与振动抑制算法,直接影响设备的定位精度与节拍。在高速高精度拾放场景中,伺服的自整定与在线惯量辨识能力可显著降低调试复杂度,提升运行稳定性。固晶机作为典型应用,要求伺服在微米级精度下兼顾高速往复与动态对位,对振动抑制和视觉伺服同步提出严苛要求。三菱MR-J5配合FX5U的方案,通过自适应滤波与位置触发飞拍,在固晶机XY平台上实现了精度与效率的平衡。

weixin_29185167的博客 42

VHDL实战:基于EDA的数字频率计(FREQ)设计与优化

本文详细介绍了使用VHDL语言和EDA工具设计并优化数字频率计(FREQ)的全过程。从核心原理与模块划分入手,深入讲解了时钟分频、测频控制、计数锁存及显示驱动等关键模块的VHDL实现,并提供了从代码编写、功能仿真到综合布局布线的完整EDA实战指南。文章还探讨了测量精度优化、资源权衡及跨时钟域处理等进阶话题,是掌握FPGA数字系统设计的经典案例。

milk8的博客 584

PLC与伺服系统在高速贴标机中的协同控制方案

工业自动化控制系统中,PLC(可编程逻辑控制器)与伺服系统的协同工作是实现高精度运动控制的核心技术。通过Profinet实时通信网络,PLC可以精确协调多个伺服驱动器的动作时序,满足高速贴标等精密作业需求。这种技术方案在包装产线中尤为重要,能显著提升设备效率和定位精度(±0.5mm)。以饮料产线改造为例,采用S7-1200 PLC为主站,配合V90伺服系统和工业相机,构建分布式控制系统,实现了每分钟120瓶的高速贴标,同时兼容多种瓶型和标签规格。该方案通过优化网络拓扑(划分实时环网、过程数据环网等)和运动控

weixin_29191081的博客 85

黑苹果从入门到精通:最详细的VMware安装macOS教程

前言 不知为何,以前我发的两篇关于黑苹果的文章或没过审或被删除,最近SMZDM上有不少优质的黑苹果文章发出来,貌似禁令已开,前段时间在一篇写的很不错的黑果文章下吹牛说今年要写一个系列,故有了这篇文章作为系列的开头。 系列的名字起的有点俗,叫做xxx从入门到精通,但是我很喜欢,相信过半的黑果群众都是程序员,作为教程来说这个名字俗但是好用,我也希望这个系列能像其它入门到精通系列一样,让大家学到东西...

La victoria的博客 14万+

基于STM32、HAL库的TCA9555PWR I/O扩展器驱动程序设计

define TCA9555_ADDR_BASE 0x20 // 基础地址 (A0=A1=A2=0)* @param direction: 方向 (0=输出, 1=输入)* @param direction: 方向 (0=输出, 1=输入)* @param polarity: 极性 (0=正常, 1=反转)* @param polarity: 极性 (0=正常, 1=反转)

corlin6688的博客 528

机器视觉(1)-- 视觉伺服控制系统简介

视觉是人类感知外界信息的重要手段,视觉伺服系统是机器人获取环境信息的关键组成部分。本文主要讨论仿人机器人BHR-1的视觉伺服系统。首先介绍机器人头部的视觉总体结构方案,然后论述了基于立体视觉的信息处理和头部运动控制,最后通过目标跟踪和物体抓取实验说明了系统的可行性。   总体方案及控制系统   仿人机器人的视觉伺服系统要求能够根据具体环境和具体情况进行主动搜索,实时将摄像头转向目标,实现对空间...

Techblog of HaoWANG 1万+

基于STM32、HAL库的TLV320AIC3204IRHBR音频接口芯片驱动程序设计

* 开启所有数字部分 */#define TLV320AIC3204_REG_LEFT_HEADPHONE_OUT_VOLUME 0x0C /* 左声道耳机输出音量 */#define TLV320AIC3204_REG_DIGITAL_AUDIO_PATH_CONTROL 0x05 /* 数字音频路径控制 */#define TLV320AIC3204_REG_ANALOG_HP_FILTER_CONTROL 0x34 /* 模拟耳机滤波器控制 *//* 最大音量 */

corlin6688的博客 521

视觉伺服系统的 “多硬件协同” 设计:相机、机器人、传感器的时钟同步

时钟同步是视觉伺服系统多硬件协同设计的基石,它能显著提升精度、稳定性和实时性。通过结合硬件触发和软件协议,并基于数学建模优化误差,您可以构建高效系统。记住,设计时应从需求出发,优先保证关键路径的同步。最终,良好同步的系统能实现毫米级定位精度,适用于自动化、医疗或无人机等场景。如果您有具体参数或应用细节,我可以进一步细化建议!

2501_93878496的博客 484

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

高速高精度伺服系统EMC多层级设计与通讯稳定性实践

伺服系统在高速(带宽>1kHz)与高精度(分辨率24位、定位误差<±0.5μm)场景下,电磁兼容性(EMC)直接决定伺服通讯稳定性。其本质是抑制噪声生成、阻断耦合路径、构建低阻抗泄放通道,并在芯片级、板级、模块级、机柜级和系统级形成协同防御体系。RS485/EtherCAT等物理层信号对共模噪声、地电位差、边沿畸变高度敏感,而编码器反馈抖动、通讯超时、误码率升高正是EMC失效的典型表征。本文基于工业现场真实案例,解析从IO驱动强度配置、PCB三隔离布局,到电缆单端屏蔽、星型低感接地,再到眼图判据与EMC感知

weixin_30960995的博客 281

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

【亲测免费】 掌握自动化控制的未来:LabVIEW上位机控制汇川PLC与伺服系统

掌握自动化控制的未来:LabVIEW上位机控制汇川PLC与伺服系统 【下载地址】LabVIEW上位机控制汇川PLC与伺服系统资源下载 本资源文件提供了一套完整的LabVIEW上位机控制系统源码,适用于控制汇川PLC H5U和汇川伺服运动系统。此外,该系统还集成了海康威视相机的视觉对位功能,并通过网口实现对汇川H5U和Et...

gitblog_09717的博客 594

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

上一篇: 高速视觉伺服系统(一)
下一篇: 机器学习中的特征处理--onehot编码
powerlwj
博客等级 码龄12年 116粉丝 33原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值