Semi-Supervised Semantic Segmentation with Cross-Consistency Training论文笔记

本文介绍了Semi-Supervised Semantic Segmentation with Cross-Consistency Training算法,探讨了在标签获取成本高的语义分割领域,如何利用未标记数据训练分割网络。该方法采用一个共享编码器和多个辅助解码器,通过扰动输入以增强模型预测的一致性,减少过拟合,提升模型性能。

文章标题:Semi-Supervised Semantic Segmentation with Cross-Consistency Training
文章地址:https://arxiv.org/abs/2003.09005
文章代码: https://github.com/yassouali/CCT
领域:半监督语义分割

小白入坑笔记,有理解不对的地方,欢迎各位大佬指正
在这里插入图片描述

一、Cross-Consistency Training提出的原因

在这里插入图片描述

在语义分割领域标签获得成本较高,作者希望利用更多的未标记例子来训练分割网络,从而有效处理与训练数据分布相同的测试数据

从上图可以看出,低密度区域在隐藏表示中比在输入中更明显。在Input level 中,低密度区域无法与类别边界对齐,因此聚类假设不适用;在Hidden representations level 各个类别更紧凑,与其他类别界限明显。因此,就想到利用编码器的输出来增强模型不同形式的扰动的一致性

二、算法流程及特点

在这里插入图片描述

遥感图像多模态半监督语义分割中的差异互补学习和标签重分配是提升分割性能的重要技术。 ### 差异互补学习 在遥感图像多模态半监督语义分割中,不同模态的数据(如光学图像、雷达图像等)包含着不同的信息,具有各自的优势和局限性。差异互补学习旨在充分挖掘不同模态数据之间的差异,并利用这些差异实现信息的互补,从而提高分割的准确性和鲁棒性。 不同模态数据在特征表达上存在差异,例如光学图像对地物的光谱信息有较好的表达,而雷达图像则对地形、地物的几何结构等信息更为敏感。通过差异互补学习,可以将这些不同的特征进行融合,使得模型能够综合利用多种信息进行语义分割。在模型训练过程中,可以设计专门的模块来学习不同模态特征之间的差异,并将这些差异信息融入到特征融合的过程中。 ### 标签重分配 在半监督学习中,存在大量未标记的数据。标签重分配技术是利用已标记数据和模型的预测结果,对未标记数据的伪标签进行重新分配,以提高伪标签的质量,进而提升模型的性能。 在初始阶段,模型会对未标记数据生成伪标签。然而,这些伪标签可能存在误差。标签重分配会根据模型的置信度、不同模态数据之间的一致性等因素,对这些伪标签进行调整。对于置信度较高的伪标签,可以给予更高的权重,而对于置信度较低的伪标签,可以进行修正或者重新分配。通过不断地迭代训练和标签重分配,可以逐步提高伪标签的质量,让模型更好地学习未标记数据的特征。 ### 论文 “Remote sensing images multimodal semi - supervised semantic segmentation: Difference - Complementary Learning and Label Reassignment” 该论文可能围绕上述差异互补学习和标签重分配技术展开,详细阐述了在遥感图像多模态半监督语义分割中如何具体实现这两种技术,可能包括模型架构的设计、算法流程的描述以及实验结果的分析等内容。通过实验验证差异互补学习和标签重分配技术在提高遥感图像语义分割精度、减少对标记数据的依赖等方面的有效性。 ```python # 以下为一个简单的伪代码示例,展示标签重分配的基本思想 import numpy as np # 假设这是模型对未标记数据的预测结果(伪标签) pseudo_labels = np.random.randint(0, 5, 100) # 模型对每个预测结果的置信度 confidences = np.random.rand(100) # 设定置信度阈值 confidence_threshold = 0.8 # 标签重分配 for i in range(len(pseudo_labels)): if confidences[i] < confidence_threshold: # 这里可以根据具体策略重新分配标签,这里简单设为 -1 表示待重新分配 pseudo_labels[i] = -1 ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值