论文阅读笔记——《室内服务机器人的实时场景分割算法》

AI人工智能语义分割:优化机器人视觉感知 想象你家的扫地机器人:它需要避开拖鞋、识别地毯边缘、绕开茶几腿——这些都依赖“看懂”环境的能力。传统目标检测只能框出“这里有个沙发”,但语义分割能精确到“每个沙发像素”,让机器人更细腻地感知世界。本文将聚焦语义分割的技术原理、机器人应用场景及优化方法。本文从“机器人为何需要语义分割”的故事切入,逐步讲解核心概念(如像素级分类、特征提取),用代码演示经典模型U-Net,结合扫地机器人、手术机器人等案例说明应用,最后展望多模态融合等未来趋势。语义分割。 阅读详情

一、主要工作

  • 通过深度可分离卷积、膨胀卷积和通道注意力机制设计轻量级的高准确度特征提取模块。
  • 融合浅层特征与深层语义特征获得更丰富的图像特征。
  • 在NYUDv2和CamVid数据集上的MIoU分别达到72.7%和59.9%,模型的计算力为4.2GFLOPs,参数量为8.3Mb。

二、残差瓶颈结构

  为了减小参数量同时达到高分割精度,设计了一个残差瓶颈结构作为网络的基础模块,包括2个调整特征通道的1x1卷积、1个深度可分离膨胀卷积、1个通道注意力模块和一条残差连接。

在这里插入图片描述

图2-1 残差瓶颈结构

  设计思路如下:

  • 降维-升维的瓶颈结构。先使用1×1的卷积对通道数进行压缩,压缩后使用3×3深度可分离卷积提取特征,再使用1×1卷积进行特征升维。为增大感受野,提取不同尺度的特征,3×3深度可分离卷积带有膨胀系数。
  • 通道注意力机制模块。在升维卷积操作前加入SE-Net网络的通道注意力机制模块,计算过程如图2-2所示,首先对特征通道进行全局平均池化操作,然后连接全连接层学习每个通道的权重值,并利用Sigmoid函数归一化到[0,1],最后对特征图进行通道加权,从而筛选特征的每个通道的信息,以此进一步提高分割精度。

在这里插入图片描述

图2-2 通道注意力模块计算过程
  • 残差连接。为缓解膨胀卷积引起的稀疏化问题,在瓶颈结构中加入了残差连接,将输入特征图和提取后的特征图相加,从而补充因膨胀卷积稀疏化而在特征提取时丢失的信息,同时残差连接也可以有效避免因网络深度增加而带来的梯度消失问题。

三、网络结构

  • 原文使用的是编码器-解码器的网络结构,在编码器端获取上下文信息和语义信息,在解码器端对提取的特征进行上采样和图像分割。

  • 为实现实时分割,原文没有对解码器进行复杂设计,而是使用高效的特征上采样模块。

  • 此外,由于网络越深获取的语义特征越丰富,但空间信息丢失也越多,因此原文设计的网络在解码器阶段对不同层次的特征进行重利用,以高级语义特征融合低级图像特征,从而丰富模型特征,提高模型分割精度。

在这里插入图片描述

图3-1 网络结构图

  原文的结构如图3-1所示,其中,c代表concat操作。模型输入图像尺寸为512×512×3。为有效提取深层语义特征,编码器级联2个特征提取网络。第1级主干网络使用7个残差结构模块作为基础单元构成 特征提取的主干网络,每一个瓶颈结构模块的参数不同,相同通道数的瓶颈结构模块的膨胀率不同,以此获得不同感受野与不同尺度的特征。
  经实验验证,当膨胀率在8以上时,特征图的稀疏化非常严重,严重影响精度。因此,设置膨胀率为2、4或8。经过7个瓶颈结构模块提取深层特征后,对特征图进行上采样送入第2级特征提取网络,第2级特征提取网络由4个瓶颈结构模块和1个平均池化层构成,4个瓶颈结构模块在提取特征的同时融合第1个主干网络特征提取时相同尺度的特征图,减小特征提取时丢失的信息,之后使用平均池化对特征进行多尺度融合,再送入解码器模块。在解码过程中,融合第2个特征提取网络中相同层次的特征,补充特征图细节,最后进行场景分割结果输出。

SE(3)等变潜学习:让3D模型真正理解刚体变换 3D场景理解的核心挑战在于模型对平移、旋转等刚体变换的泛化能力不足——这并非数据或算力问题,而是特征表示与物理空间失配所致。SE(3)等变性从数学上定义了三维空间中所有合法刚体变换(3维平移+3维旋转)的约束关系,使神经网络的潜空间表征能严格响应输入的几何变化,实现输出与变换的一致映射。相比传统不变性设计,等变性保留方向与相对位置信息,支撑姿态估计、缺陷检测、具身导航等需空间推理的任务。其技术价值体现在零样本迁移、噪声鲁棒性与可解释性三方面,已在工业质检、机器人抓取和数字孪生中验证落地效果。SE(3)-Eq 阅读详情

相关推荐

【第27篇】MobileNetV2:倒置残差和线性瓶颈

在第 6 节中,我们凭经验表明,在瓶颈中使用非线性层确实会降低几个百分点的性能,进一步验证了我们的假设。对于大小为 h × w h \times w h×w、扩展因子为 t 和内核大小为 k 的块,具有 d ′ d^{\prime } d′ 个输入通道和 d ′ ′ d^{\prime \prime} d′′个输出通道,所需的乘加总数 是 h ⋅ w ⋅ d ′ ⋅ t ( d ′ + k 2 + d ′ ′ ) h \cdot w \cdot d^{\prime} \cdot t\left(d。

2401_84009529的博客 956

图像分割场景沉淀下来的神经网络结构

在行人检测、关键点检测、语义分割等任务中表现出色,尤其是对小目标和细节丰富的图像分割效果良好。:适用于缺乏大量标注数据的场景,通过自监督学习预训练模型,用于后续有监督的图像分割任务。:在城市街景、遥感图像、医疗图像等需要捕捉大范围上下文信息的场景有优秀表现。:适用于街景、自然景观等复杂场景的语义分割,以及大规模图像集的高效处理。:适用于通用图像语义分割,特别是在城市街景、遥感图像等领域。:适用于医疗图像、遥感图像、自然场景等各类图像的语义分割。

江东船长周公瑾 647

文献阅读之室内机器人通过窄区域的局部路径规划方法

本文以家庭\室内服务机器人为研究对象,为增强其通过窄区域的能力,提出了一种在线的局部路径调整方法,主要分为2步: 1、沿全局路径方向自动探测过窄难以通过的区域 2、然后根据环境特征生成辅助点,作为引导机器人通过的路径点。

silver bullet 1万+

SLAM技术简介

从Roomba笨拙地碰撞桌椅,到火星车在亿万公里外自主勘探,SLAM技术的发展揭示了一个深刻原理:真正的智能不在于完美感知,而在于对不确定性的包容与适应。当机器能像人类一样在迷路后“找找熟悉的标志物重新定位”,才是智能觉醒的开始。

墨顿随笔 1103

倒残差与线性瓶颈浅析 - MobileNetV2

文章目录1 背景简介2 MobileNetV2 要点2.1 Inverted Residuals(倒残差结构)2.2 Linear Bottlenecks(线性瓶颈结构)3 代码实现 - pytorch 1 背景简介   在提出 MobileNetV1 后,谷歌团队又于次年(2018 年)提出 MobileNetV2 网络。相较于 MobileNetV1, MobileNetV2 准确率更高,模型更小。关于 MobileNetV1 可参考本人先前博客(深度可分离卷积解析 - MobileNetV1),此处给

晓野豬 2万+

倒置残差与线性瓶颈层从原理到实现

对比 MobileNet V1 和 V2 的网络结构和计算量 MobileNet V1 网络结构和计算量 MobileNet V2 的网络结构和计算量 总结对比

weixin_42108090的博客 6384

【官方】2023年“中国软件杯”大学生软件设计大赛飞桨小汪赛道基线系统

基于PaddleDetection和PaddleSeg开发环境感知算法,打造面向复杂环境的智能电力巡检机器狗。

m0_63642362的博客 2697

mobilenet-v2:“反向残差和线性瓶颈”存储库

MobilenetV2.tensorflow “”的存储库。 预请求库 python2 / 3 张量流 (可选) 训练与准确性 使用SGD + Momentum优化器对模型进行了训练。 优化器 重复 前1名 前5 预训练模型 新元 百万 69.7% 89.2% 用法 MobilenetV2有两个版本: 。 该版本可以在下复制,并使用slim提供的API来训练和测试模型。 。 此版本用于通过NCHW和半精度实现更高的速度。 网络架构 请注意纸张有误(在第四个瓶颈层之后,输出尺寸应为 ×64代替 ×64) 输入 操作员 Ť C ñ s ×3 转换2d -- 32 1个 2个 ×32 瓶颈 1个 16 1个 1个 ×16 瓶颈 6 24 2个 2个 ×24 瓶颈 6 32 3 2个 ×32 瓶颈 6 64 4 2个 ×64

残差网络结构及其实现

一、残差网络基本结构 二、残差网络实现

阿鹏的摇滚小站 9820

光耦继电器电路分析

光耦电路的分析笔记

MingYue_SSS的博客 6881

【3d打印】基于Klipper的3d打印远程上位机系统(Qt),klipper源码,通信解析,打印参数设置

基于Klipper的3d打印远程上位机系统(Qt),klipper源码,通信解析,打印参数设置(启庞Kp3s V1)

共享IT之美,共创机器未来 3192

经典的卷积神经网络模型 - ResNet

flyfish

二分掌柜的 3080

Python实现FFT、小波变换和数据压缩

小波变换是一种分析信号的方法,可以分解信号成为多个尺度和频率的分量,从而更好地理解和处理信号。在Python中,我们可以使用pywt库来实现小波变换。在Python中,我们可以使用numpy库中的fft模块来实现FFT。数据压缩是一种将数据表示成更紧凑的形式的方法,可以减少存储空间和传输带宽。综上所述,Python提供了很多方便的工具来实现各种信号处理和数据压缩的方法。本文将介绍Python中如何实现傅里叶变换(FFT)、小波变换以及如何使用它们来进行数据压缩。Python实现FFT、小波变换和数据压缩。

学习使你进步。 693

基本的残差块和瓶颈(Bottleneck)残差块

基本的残差块和瓶颈(Bottleneck)残差块

asdfg1258963的博客 3278

c\c++: Identifiers, modifier, qualifier, specifier, decorator; systemtap

文章目录参考英语含义在c、C++ 参考 c++ 标准 https://blog.youkuaiyun.com/tyronne/article/details/44016621 英语含义 modifier word or phrase that modifies (modify 2) another word or phrase 修饰语. qualifier (grammar) word, esp an adjective or adverb, that qualifies another word 修饰词; (尤指)形

mzhan017的博客 2430

YOLOv8架构革命:通过EfficientViT融合实现精度-速度的帕累托突破

目标检测领域长期存在精度与速度的权衡难题。视觉Transformer(ViT)的引入解决了长距离依赖问题,但其巨大的计算复杂度制约了实时应用。最新研究表明,将轻量级ViT与YOLO架构融合,可在几乎不损失推理速度的前提下,将mAP提升3-8个百分点。这种架构改进方案已在工业检测、自动驾驶、安防监控等多个领域得到验证,在保持实时性的同时显著提升了复杂场景下的检测可靠性。通过模块化设计,可以灵活适配不同规模的YOLOv8模型,为实际应用提供精度-速度的帕累托最优解。

FJN110的博客 148

【深度学习】补完计划 和 Q&A

损失函数 交叉熵损失函数(给予惩罚性,最终使得判断的概率趋向1) https://blog.youkuaiyun.com/red_stone1/article/details/80735068

HollrayChan的博客 546

YOLOv8/v9工业零件缺陷检测实战指南:从原理到产线部署

摘要:本文系统介绍基于YOLOv8/v9的工业零件缺陷检测技术,从工业质检背景与需求出发,详解缺陷检测原理、算法构建与模型训练,提供从数据集准备到移动端部署的全流程实操方案。包含多尺度检测、纹理分析等高级技术,适配工业相机的环境优化策略,以及完整质检系统代码实现。适合工业视觉领域新手与进阶开发者,助力快速构建高鲁棒性的缺陷检测系统。

专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域,希望和大家共同进步! 1306

java初学者适用 --java中如何在主类中添加方法

在java文件主类中如何添加方法java文件新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 java文件 public class F { static void b(E x) { x.i+=3; x.ch+=3; }

weixin_50677717的博客 2917

如何使用 Python 爬取 58 同城招聘信息

职位名称:招聘的岗位名称,如“前端开发”、“数据分析师”等。公司名称:招聘公司的名称。薪资待遇:职位的薪资范围,通常以“面议”、“10k-20k”这样的形式表示。工作地点:公司所在的城市及具体地址。公司福利:例如五险一金、带薪年假、绩效奖金等。发布时间:职位信息的发布时间。一个典型的招聘页面 URL 格式通常如下:在这个页面上,职位信息会分页展示,爬虫需要模拟翻页,获取多个页面的招聘信息。

2201_76125261的博客 1291

黑猫带你学UFS协议第8篇:UFS电气特性详解(Power、CLK、Reset等)

UFS强制支持secure mode。UFS设备可能会存储个人或者公司的信息,UFS提供把数据永久从设备上移除的功能,并且保证对存储介质进行逆向恢复数据也恢复不回来原有数据。安全模式是以逻辑单元为单位进行应用的,不同的逻辑单元可以有不同的安全模式。由于UFS设备的存储介质不同,所以把数据安全从存储介质上移除方式会有不同,spec提供了三种通用的移除方法,UFS设备至少支持其中一种。● 对存储的位置进行一次擦除操作。● 对存储的位置使用单一字符(比如0xAA)覆盖写,然后进行擦除。.........

黑猫奥利奥的博客 4076

机器人RobotCali数据集解读

说明:以下数据以及内容全部来自于ABB IRB120机器人采样的数据,数据集链接https://github.com/Lizhibing1490183152/RobotCali,结合相关文献整理得到,不保证完全正确,请读者悉知。 一、实验平台 二、平台组成 一台ABB IRB120机器人; 一个拉线编码器(图中固定在钢板底座上面); 一个拉线位移显示仪(图中有红色数字显示的仪器); 三、数据采集 对机器人工作空间中的1042点位置进行手动示教,取样点应覆盖机器人的工作空间,它们的位置由拉线.

Libing111223的博客 2893

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

QA问答机器人实战中的数据集获取

QA问答机器人实战中的数据集获取原始数据集获取原始数据处理 原始数据集获取 ModelWhale数据集 从中找到你需要的数据集 原始数据处理 在今天处理原始数据中,我最常用用到的pandas函数是 函数 含义 data=pd.read_csv(“path/xxx.csv”) 从path中读取数据集 df.to_csv(‘path/Result1.csv’,index=0) 将数据集保存为.csv文件,不保存行索引 df.to_csv(‘path/Result.csv’,header=

MyHeartWillGoOn 1066

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

机器人抓取领域相关数据集

点击上方“3D视觉工坊”,选择“星标”干货第一时间送达前言针对机器人抓取中的检测、分割、姿态识别、抓取点检测、路径规划等任务,总结了对应的数据集,在这里分享下,数据格式为类别+数量。一、...

3D视觉工坊 7828

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

各类研究数据集合

 转载  https://zhuanlan.zhihu.com/p/25138563 金融 美国劳工部统计局官方发布数据 沪深股票除权除息、配股增发全量数据,截止 2016.12.31 上证主板日线数据,截止 2017.05.05,原始价、前复权价、后复权价,1260支股票 深证主板日线数据,截止 2017.05.05,原始价、前复权价、后复权价,466支股票 深证中小板

2647

MobileNetV2 倒置残差和线性瓶颈

参考博客论文地址 摘要  在本文中,我们描述了一种新的移动网络结构MobileNetV2,它提高了移动网络在多类型任务和基准以及不同网络尺寸范围的最佳性能。我们还介绍了一种有效地使用轻量级网络进行目标检测的新颖架构SSDLite。并且我们将Deeplabv3进行修剪后构建出一种用于移动语义分割的模型,称为Mobile Deepla...

qq_16130715的博客 8474
上一篇: 阅读笔记8——NMS
下一篇: 阅读笔记9——DenseNet
晓shuo
晓shuo 优质创作者: 人工智能技术领域 优质创作者: 人工智能技术领域
博客等级 码龄6年 4万+粉丝 113原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

晓shuo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值