从算法到生态:RGB+EVS视觉融合相机与开源事件相机算法库的国产化路径

手把手教你用Prophesee Metavision SDK处理EVS数据:从事件流到物体追踪 本文是一份基于Prophecee Metavision SDK的事件视觉传感器(EVS)实战开发指南。文章手把手教你从环境搭建、事件流读取与可视化开始,逐步深入到事件数据预处理、滤波以及核心的物体检测与追踪算法实现,并提供了与ROS/OpenCV集成的方案及性能优化技巧,旨在帮助开发者高效处理EVS数据,实现从异步事件流到实时感知的应用。 阅读详情

“ HV Toolkit 是 ShiMetaPi 推出的 专为事件相机(DVS)设计的高性能C++ SDK,支持事件数据流(EVS)和图像数据流(APS)的实时采集与处理,兼容EventCD格式,适用于高性能事件相机开发。”

📋 技术规格

事件相机参数

  • 数据传输:USB 3.0高速传输

  • 事件格式:兼容EventCD/EVT2.0

系统要求

  • C++标准:C++17 或更高版本

  • CMake:3.10 或更高版本

  • 操作系统:Ubuntu 22.04

🔧 依赖说明

  • OpenCV:图像处理与可视化(libopencv-dev)

  • libusb-1.0:USB设备通信(libusb-1.0-0-dev)

  • Hybrid Visoin SDK: ShimetaPi API

  • Openeb:第三方依赖库(可选)

🚀 快速开始

构建基于HV项目

# Ubuntu/Debian
sudo apt-get update
sudo apt-get install build-essential cmake libusb-1.0-0-dev libopencv-dev

# 给脚本添加执行权限
chmod +x install_libs.sh

# 安装到默认位置 (/usr/local)
./install_libs.sh

# 或者安装到指定位置
./install_libs.sh /path/to/install

运行示例程序

# 进入示例程序目录
cd sample/hv_toolkit_get_started

# 构建示例程序
mkdir build && cd build
cmake ..
make 
# 运行示例程序
./hv_toolkit_get_started

程序运行截图

替代文本

hv_camera_record

进入示例程序目录cd sample/hv_camera_record构建示例程序mkdir build && cd buildcmake..make运行示例程序./hv_camera_record events.raw video.avi 5

程序运行截图

替代文本

hv_toolkit_viewer

进入示例程序目录cd sample/hv_toolkit_viewer构建示例程序mkdir build && cd buildcmake..make运行示例程序./hv_toolkit_viewer ../../hv_camera_record/build/events.raw

程序运行截图

替代文本

构建基于Openeb项目

metavision_sdk_test示例程序

# 安装openeb SDK
curl -L https://propheseeai.jfrog.io/artifactory/api/security/keypair/prophesee-gpg/public >/tmp/propheseeai.jfrog.op.asc
sudo cp /tmp/propheseeai.jfrog.op.asc /etc/apt/trusted.gpg.d
sudo add-apt-repository 'https://propheseeai.jfrog.io/artifactory/openeb-debian/'
sudo apt update
sudo apt -y install metavision-openeb

# 使用openeb打开相机需要先安装我们的相机插件
# 我们已经将相机插件编译成lib,使用如下命令复制到metavision的相机搜索路径下
sudo cp ./lib/libhal_camera_hal.so /usr/local/lib/metavision/hal/plugins/
# 进入示例程序目录
cd sample/metavision_sdk_test
# 构建示例程序
mkdir build && cd build
cmake..
make
# 运行示例程序
./metavision_sdk_test

程序运行截图

🚨 故障排除

常见问题

问题1: 无法找到USB设备&&LIBUSB_EERROR_ACCESS 如果出现报错no match devices found说明设备未成功连接

run01.jpg

请检查USB设备是否连接以及vendor_id和product_id是否正确

替代文本

配置正确,且将设备连接到主机后,运行程序出现Cannot open device:LIBUSB_EERROR_ACCESS这是由于未赋予权限导致的,执行下述指令即可

sudo chmod -R 777 /dev/bus/usb/

📁 项目结构

hv_toolkit/
├── CMakeLists.txt              # 主构建配置
├── README.md                   # 项目文档(中文)
├── README_EN.md                # 项目文档(英文)
├── API.md                      # API详细文档
├── include/                    # 头文件目录
│   ├── hv_camera.h             # 相机类头文件
│   ├── hv_event_reader.h       # 事件读取类头文件
│   ├── hv_event_writer.h       # 事件写入类头文件
│   ├── hv_events_format.h      # 事件格式定义
│   ├── hv_evt2_codec.h         # EVT2编解码器
│   └── hv_usb_device.h         # USB设备类头文件
├── lib/                        # 编译后的库文件
│   └── libhv_camera.so         # 动态链接库
├── sample/                     # 示例程序
│   ├── hv_camera_metavision_sample/      # Metavision集成示例
│   ├── hv_camera_record/                 # 事件录制示例
│   ├── hv_toolkit_get_started/           # 入门示例
│   ├── hv_toolkit_viewer/                # 事件可视化播放器
│   └── metavision_sdk_test/              # Metavision SDK测试
└── assets/                    # 资源文件

🔍 示例程序说明

hv_camera_metavision_sample

集成HV Toolkit与Metavision SDK,演示事件流与图像流的同步采集与处理。该示例展示了如何将HV相机与Metavision算法库结合使用,实现高效的事件数据处理。

hv_camera_record

演示如何采集并录制事件数据到本地raw文件。该示例包含完整的事件数据采集流程,支持实时录制和数据保存功能。

hv_toolkit_get_started

基础入门示例,展示如何初始化相机、采集事件和图像数据。这是学习HV Toolkit的最佳起点,包含了基本的API使用方法和数据处理流程。

hv_toolkit_viewer

事件数据可视化播放器,支持raw文件的读取、暂停、回放和帧生成显示。提供直观的事件数据可视化界面,便于数据分析和调试。

metavision_sdk_test

Metavision SDK相关功能测试与演示。该示例展示了如何使用Metavision SDK的各种算法和功能,包括事件处理、特征检测等。

开源地址链接

[github]

https://github.com/ShiMetaPi/shimetapi_hybrid_vision_algo

https://github.com/ShiMetaPi/shimetapi_hybrid_vision_toolkit

[gitee]

https://gitee.com/ShiMetaPi_0/shimetapi_hybrid_vision_algo

https://gitee.com/ShiMetaPi_0/shimetapi_hybrid_vision_toolkit

开源硬件网站:https://www.shimetapi.cn 

在线技术文档:https://forum.shimetapi.cn/wiki/zh 

在线技术社区:https://forum.shimetapi.cn 

手把手教你用Prophesee Metavision SDK处理EVS数据(Python版) 本文提供了使用Prophesee Metavision SDK处理事件相机(EVS)数据的Python实战指南。从环境搭建、数据读取与可视化入手,详细讲解了事件流的核心概念,并最终实现了一个简单的实时运动检测算法,帮助开发者快速上手这一动态视觉传感器技术。 阅读详情

相关推荐

手把手教你用Prophesee Metavision SDK处理EVS数据(附Python代码示例)

本文提供了使用Prophesee Metavision SDK处理事件相机(EVS)数据的完整Python实战指南。内容涵盖环境搭建、数据读取与解析、噪声过滤、事件帧生成与可视化等核心步骤,并附有可直接运行的代码示例,帮助开发者快速上手处理异步事件流数据,应用于高速检测、机器人避障等场景。

Black的专栏 621

探索未来视觉:OpenEB —— 开源事件感知相机框架

探索未来视觉:OpenEB —— 开源事件感知相机框架 去发现同类优质开源项目:https://gitcode.com/ 项目介绍 OpenEB 是一个与 Metavision SDK 相关联的开源项目,它为事件基础视觉理解提供了强大的工具集。无论是相机制造商还是创新者、科学家或学者,OpenEB 都是一个理想的平台,帮助您深入了解事件基础视觉,并构建自己的应用或相机插件。通过提供对 Prophe...

gitblog_00010的博客 793

Linux当中解决apt-get install E: 无法定位软件包问题(附上详细步骤以及注释)

ubuntu-18.04,使用apt-get update 安装软件过程,出现定位软件包问题。花了一个多小时,终于解决了! 以下内容均为亲测,所有安装详细步骤以及注释如下: (1)找到源镜像,备份 cd /etc/apt/ // 切换到/etc/apt/ 目录下 sudo cp sources.list sources.list.old // 先把源文件复制到sources.list.old,备份 此时,你可以看到在/etc/apt/ 目录下

qq_36698189的博客 13万+

OpenEB: 开源事件基准测试套件

OpenEB: 开源事件基准测试套件 OpenEB 是一个开源的事件基准测试套件,用于评估计算机视觉系统(如事件相机)在处理高速运动场景时的表现。 项目简介 OpenEB 提供了一个统一的框架,使得研究者和开发者能够轻松地比较不同计算机视觉算法在处理事件数据方面的性能。通过使用 OpenEB,你可以快速地评估你的算法在各种场景下的表现,并与其他算法进行对比。 应用场景 OpenEB 可以广泛应用于...

gitblog_00003的博客 620

2020年,关于事件相机(event camera)的最新研究论文总结

本文仅用于学习过程中的一些总结记录。2020年发表的关于事件相机在SLAM相关方向(特征提取、深度估计、建图等)的论文。 1. 运动估计 Motion Estimation 有不少关于运动估计的论文,基本是围绕之前最大化事件积累图对比度的方式进行。 最小化Entropy [1] 采用最小化熵函数的方式,对运动参数进行估计。文章指出最大的优点是,这种方法不需要将空间中的事件投影到平面上去最大化对比度。然而数学内容太复杂真的看不懂。 全局最优解计算 [2] [3] 两篇论文,都是解决运动参数估计时陷入

larrydong的博客 4437

事件相机手势识别实战:原理、优势与场景选型

系统通过训练深度学习模型,将EVS传感器采集的事件流数据转化为可识别的手势特征,实现对点击、滑动、平移、捏合、旋转、长按等手势的准确识别。基于EVS(事件视觉传感)的手势识别技术是一种创新的人机交互解决方案,它利用高帧率的异步稀疏事件数据实现精准手势感知。随着技术的不断进步和成本的降低,基于EVS的手势识别技术有望成为下一代人机交互的主流解决方案,深刻改变人们与数字世界互动的方式。:传感器仅对像素级别的亮度变化做出响应,而非传统的全局帧刷新模式。:实现无卡顿、连续的手势交互,提升整体交互自然度。

ShiMetaPi的博客 591

友思特新品 | IDS事件相机:全新升级EVS传感器,精确实时捕捉动态变化

高动态场景的理想选择:友思特IDS新品——Event Camera 事件相机,凭借先进的 IMX636 基于事件的视觉独立传感器,实现低至微秒级的出色时间分辨率,捕捉物体快速运动的最佳先决条件,同时保证完美留存那些传统的基于图像传感器不可避免会丢失的信息。

m0_49762095的博客 1453

eSL-Net++:基于事件相机的超分辨率图像恢复

然而,由于事件相机的特殊工作机制,直接应用常规的超分辨率算法并不适用于事件相机图像的恢复任务。总结起来,eSL-Net++是一种基于事件相机的超分率图像恢复算法,它利用事件相机生成低分辨率事件图像,并通过卷积神经网络进行特征提取和事件感知,最后利用逆卷积层和像素重建层实现图像的超分辨率恢复。在本文中,我们介绍了一种名为eSL-Net++的基于事件相机的超分辨率图像恢复算法。该算法融合了事件相机的特性和超分辨率恢复的需求,能够有效地提高图像的分辨率和质量。eSL-Net++:基于事件相机的超分辨率图像恢复。

TechBurst的博客 296

从工具链到应用生态:HV Toolkit如何推动国产事件相机算法库的落地实践

本文详细解析了国产开源事件相机算法库HV Toolkit的工具链与应用生态。作为完全自主开发的高性能C++ SDK,HV Toolkit支持EVS事件数据流和APS图像数据流的实时采集,兼容主流EventCD格式,有效降低了事件相机的开发门槛。通过环境配置、数据采集可视化、算法集成及机器人视觉等实战案例,展示了该工具链在推动国产化视觉融合相机技术落地中的关键作用。

vvv99的博客 201

DVS SDK(windows)(支持行为分析DVS)

DVS SDK(windows)(支持行为分析DVS),海康DVS 二次开发SDK

编码约定的自由度:重新思考Hamming码在实际工程中的灵活应用

本文探讨Hamming码在实际工程中的灵活应用,突破标准实现的思维定式。通过分析不同编码约定的优缺点和资源受限环境下的设计权衡,展示如何根据嵌入式系统、通信协议等具体需求定制汉明码实现,优化编解码效率并降低硬件开销。

perl8的博客 177

初步探索事件相机——灵光一号 (SDK安装、开发案例代码踩坑记录)

怎样完成从C++到python的数据传输,且符合C++的回流异步设计。为了下游的目标检测&分割任务,怎样对事件数据做处理,才能适应传统深度网络模型来学习特征?(或是反过来:怎样改编传统的深度网络来适应事件数据的输入)。

ycqjuebuguake的博客 1365

解决vscode 连接服务器报错:The remote host may not meet VS Code Server‘s prerequisites for glibc and libstdc++

解决vscode远程连接服务器报错:The remote host may not meet VS Code Server's prerequisites for glibc and libstdc++ (The remote host does not meet the prerequisites for running VS Code Server)

qq_37200100的博客 9909

赋能RGB+EVS视觉融合相机:shimetapi 开源高性能事件相机工具链与算法库,构建国产化技术生态

它抽象了底层硬件的细节,为上层算法层 (shimetapi_Hybrid_vision_algo) 提供了一个统一的、相对硬件无关的接口来访问和控制事件相机数据流。它处理底层的通信协议、数据搬运和基础格式转换。将处理后的、更有价值的信息提供给最上层的应用程序 (APP)使用(如显示 UI、Player 播放、Recorder 录制、Analyzer 分析)。负责获取原始数据 (Read),进行基础格式转换 (Decoder),控制硬件(Setting),并输出数据(Write, Encoder)等。

ShiMetaPi的博客 1405

ROS专栏—基于STM32F103的INA219电源数据采集

文章主要记录了stm32f103对ina219的数据采集

热爱生活、奋斗前行 2350

树莓派国内镜像源一键配置指南

本文提供树莓派国内镜像源一键配置指南,解决默认国外源访问缓慢问题。通过自动检测系统版本并支持清华、阿里云、中科大等主流镜像站选择,大幅提升软件更新与安装速度。包含详细的手动配置方法和常见问题排查,帮助用户快速完成树莓派换源优化。

tequila的博客 1373

事件相机与传统相机融合的相关研究

本文首发于公众号:【事件相机】,事件相机与传统相机融合的相关学术研究介绍 前言 多传感器数据融合理论指出,所要融合的传感器数据应该具有互补性与差异性,否则融合没有太多意义。事件相机与传统相机的数据特性不同,不少研究是关于二者融合。本文介绍事件相机与传统相机融合的相关研究,主要内容来自本人毕设时的调研,并稍作补充。在写毕设时,基本上覆盖了当时具有代表性的研究。 早期研究阶段 在2016年以前,事件相机由于无法独立完成某一特定任务,常常与传统相机共同完成任务[1, 2]。(多说一句,至于我为啥以2016年

larrydong的博客 3626

zynq-7000学习笔记(八)——USB摄像头图像采集

PC平台:WINDOWS 10 64位 Xilinx设计开发套件:Xilinx_vivado_sdk_2015.4 开发板:Zed Board USB摄像头:罗技 C270(720P) linux源码:2016_R1 一、配置linux,支持UVC       如果是中星微的ZC3XX系列的芯片,则要进到GSPCA把ZC3XX的驱动选上

luotong86的专栏 1万+

ECCV 2024 | 新突破!基于事件相机的运动放大

点击下方卡片,关注“CVer”公众号AI/CV重磅干货,第一时间送达点击进入—>【Mamba/多模态/扩散】交流群添加微信号:CVer111,小助手会拉你进群!扫描下方二维码,加入CVer学术星球!可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料,及最前沿应用!发论文/搞科研/涨薪,强烈推荐!作者:1335(已授权CVer转载)https://zhuanlan.zhihu.com...

阿木寺的博客 1022

ICP-10111气压传感器原理图设计,已量产(压力传感器)

在最近的室内导航定位项目中,我们需要一款能捕捉厘米级垂直高度变化的气压传感器 —— 毕竟室内环境里,哪怕是单个台阶的高度差都得精准识别。对比了几款器件后,最终选定了 ICP-10111:它 ±1Pa 的压差精度刚好能把高度差分辨到 8.5cm,0.4Pa 的低压力噪声能让数据输出足够稳定,再加上 0.5Pa/℃的低温漂特性,长期工作的可靠性也能满足需求。下面聊聊这套适配 ICP-10111 的硬件电路设计细节。

不脱发的程序猿 333

挖矿病毒解决实例(隐藏进程,文章较好)(入侵)

CPU起飞了 最近有朋友在群里反馈,自己服务器的CPU一直处于高占用状态,但用top、ps等命令却一直找不到是哪个进程在占用,怀疑中了挖矿病毒,急的团团转。 根据经验,我赶紧让他看一下当前服务器的网络连接,看看有没有可疑连接,果然发现了有点东西: 上Shodan查一下这IP地址: 反向查找,发现有诸多域名曾经解析到这个IP地址: 这是一个位于德国的IP地址,开放了4444,5555,7777等数个特殊的服务端口: 其中这位朋友服务器上发现的连接到的是7777端口,

墨痕诉清风的博客 1万+

RGB+EVS视觉融合相机:事件相机的革命性突破​

RGB+EVS视觉融合相机通过结合RGB传感器和事件传感器的优势,提供了一种全新的视觉感知方案。相较于单一的EVS事件相机,RGB+EVS视觉融合相机不仅保留了高动态范围、低延迟和低功耗等优点,还能够提供丰富的色彩信息,适用于更广泛的应用场景。随着技术的不断进步,RGB+EVS视觉融合相机有望在自动驾驶、工业检测、无人机和智能监控等领域发挥更大的作用,为我们的生活带来更多的便利和安全。

ShiMetaPi的博客 2589

在 SAP BTP ABAP 环境中测试多租户 SaaS 解决方案的完整实践指南

ABAP SaaS测试阶段关键实践 在SAP BTP ABAP环境中开发多租户SaaS解决方案时,测试阶段(TST)对确保产品质量尤为关键。测试阶段应包含两个主要维度: 业务功能验证: 通过软件组件管理确保测试环境与代码仓库同步 创建并验证业务角色分配,确保权限配置正确 测试Fiori Launchpad导航流程和跨应用跳转 验证inbound/outbound通信配置 自动化质量管控: 在开发环境(DEV)执行本地ATC检查和单元测试 通过ABAP Test Cockpit(ATC)进行代码质量检查 集成

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 294

国产 EVS 事件相机模组选型:分辨率/延迟/接口/成本四项对照

将 EVS 接入嵌入式系统通常伴随着繁琐的底层调优。ShiMetaPi 通过模组化设计,将这些工程负担提前解决。•深度平台适配目前已针对RK3588与地瓜派(RDK)平台完成了系统级联调。•原生链路直连采用4-lane MIPI CSI 22pin FPC 接口,符合MIPI CSI-2 v2.1 协议,通过直连 SoC,最大程度降低数据传输延迟,确保高性能感知的实时性。为了方便开发者快速集成,我们还开放了详细的接口文档和新手教程,可以帮助开发者快速上手。使用手册:参考链接。

ShiMetaPi的博客 300

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

事件相机(event camera)概述与应用(随笔)

事件相机是具有微秒反应时间的仿生传感器,可记录每像素亮度变化的异步流,称为“事件”。事件相机通过检测每个像素的亮度变化来生成一个事件,相比于传统相机,更适合在高动态和高速度的环境下使用,具有高动态范围 (HDR)、高时间分辨率和无运动模糊的优势。因此,事件相机在机器人技术和计算机视觉方面具有巨大潜力,可用于传统相机具有挑战性的场景,例如高速和高动态范围,以及快速机器人定位和可穿戴应用(如 AR/VR 和游戏)的理想传感器 事件摄影机以高时间精度、低数据速率和高动态范围编码视觉信息。 事件相机在机器

weixin_44570845的博客 1万+

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

CVPR 2025 爆点!中科大团队用事件相机改写低光成像规则,RETINEV 让暗场图像秒变高清

在低光成像领域,如何有效利用事件相机的独特优势提升图像质量一直是研究热点。本文聚焦中科大团队发表于CVPR 2025的论文《Low-light image enhancement using event-based illumination estimation》,深入解析其提出的RETINEV框架。该方法通过事件相机的“时间映射事件”估计光照,结合Retinex理论实现低光图像的高质量增强,为低光视觉任务提供了全新的技术路径。

陈奕昆的博客 4636
上一篇: 赋能RGB+EVS视觉融合相机:shimetapi 开源高性能事件相机工具链与算法库,构建国产化技术生态
下一篇: shimetapi RGB+EVS视觉融合相机:开源高性能事件视觉算法库
ShiMetaPi
博客等级 码龄1年 243粉丝 183原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值