Semi-Supervised Semantic Segmentation with Cross-Consistency Training论文笔记

最新推荐文章于 2024-08-09 08:00:00 发布
原创 最新推荐文章于 2024-08-09 08:00:00 发布 · 3.3k 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#算法 #计算机视觉 #图像处理 #分类

本文介绍了Semi-Supervised Semantic Segmentation with Cross-Consistency Training算法，探讨了在标签获取成本高的语义分割领域，如何利用未标记数据训练分割网络。该方法采用一个共享编码器和多个辅助解码器，通过扰动输入以增强模型预测的一致性，减少过拟合，提升模型性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章标题：Semi-Supervised Semantic Segmentation with Cross-Consistency Training
文章地址：https://arxiv.org/abs/2003.09005
文章代码： https://github.com/yassouali/CCT
领域：半监督语义分割

小白入坑笔记，有理解不对的地方，欢迎各位大佬指正
在这里插入图片描述

一、Cross-Consistency Training提出的原因

在这里插入图片描述

在语义分割领域标签获得成本较高，作者希望利用更多的未标记例子来训练分割网络，从而有效处理与训练数据分布相同的测试数据

从上图可以看出，低密度区域在隐藏表示中比在输入中更明显。在Input level 中，低密度区域无法与类别边界对齐，因此聚类假设不适用；在Hidden representations level 各个类别更紧凑，与其他类别界限明显。因此，就想到利用编码器的输出来增强模型不同形式的扰动的一致性

二、算法流程及特点

最低0.47元/天 解锁文章
Switching Temporary Teachers for Semi-Supervised Semantic Segmentation 论文阅读
weixin_51657614的博客
10-11 1310
随着深度神经网络的发展，语义分割作为视觉理解的计算机视觉任务的关键组成部分也在不断发展[8,9,55]。然而，流行的方法主要是基于监督学习方法，仍然需要在像素级进行费力和耗时的手动注释。为了缓解这种内在的挑战，半监督语义分割最近成为人们关注的焦点，它只需要少量的标签。成功的半监督学习的一个关键挑战是如何从未标记的数据中获得可靠和一致的标签，特别是在半监督分割等要求更高的任务中。伪标记[22]是最流行的方法，它将现成模型的类预测作为未标记数据的标签进行训练。
[Semi-笔记]Switching Temporary Teachers for Semi-Supervised Semantic Segmentation
m0_49619206的博客
03-27 1468
分享一篇2023年NeurIPS的文章。
CCT:[CVPR 2020] 具有交叉一致性训练的半监督语义分割
05-30
具有交叉一致性训练 (CCT) 的半监督语义分割 , 本 repo 包含 CVPR 2020 论文的官方实现：Semi-Supervised Semantic Segmentation with Cross-Consistecy Training，它采用了传统的半监督学习的一致性训练框架进行语义分割，扩展到弱监督学习和在多个域。 强调 (1) 语义分割的一致性训练。 我们观察到，对于语义分割，由于任务的密集性，集群假设更容易在隐藏表示而不是输入上强制执行。 (2) 交叉培训。 我们为半监督语义分割提出了 CCT（Cross-Consistency Training），我们在其中定义了许多新的扰动，并展示了对编码器输出而不是输入执行一致性的有效性。 (3) 使用来自多个域的弱标签和像素级标签。 所提出的方法非常简单灵活，并且可以很容易地扩展到使用来自多个域的图像级标签和像素级标签。 要求
《Semi-Supervised Semantic Segmentation with Cross-Consistency Training》 2020CVPR 论文阅读
李加贝的博客
09-08 3238
在这项工作中，作者首先观察到，对于语义分割，低密度区域在隐藏表示中比在输入中更明显。 作者提出了交叉一致性训练，其中预测的不变性是施加不同的扰动在编码器输出上 Cross-Consistency Training 该模型包含一个共享的encoder，一个main decoder和K个辅助decoder 对于有标签的数据，使用Cross-Entropy (CE)来进行训练 对于无标签的数据，使用共享的encoder得到中间特征 使用扰动函数pr对encoder的输出进行扰动，.
【阅读】Semi-Supervised Semantic Segmentation with Cross Pseudo Supervision
w.here的优快云
07-15 664
Semi-Supervised Semantic Segmentation with Cross Pseudo Supervision论文阅读
Interpolation-Consistency-Training-Semi-supervised-semantic-segmnetation-:半监督语义分割的插值一致性训练实现
04-09
插值一致性训练半监督语义分割 半监督语义分割的插值一致性训练实现
CCT（cross-consistency train）里面的交叉一致性&一致性以及伪标签和一致性正则化的解释
weixin_62912897的博客
08-25 1475
一致性正则化（Consistency Regularization）是一种在半监督学习中使用的技术，旨在通过鼓励模型在不同输入视图下产生一致的预测，以提高模型的性能和泛化能力。在半监督学习中，除了有标签数据外，还有大量的无标签数据可供使用。一致性正则化利用这些无标签数据来帮助模型学习更鲁棒和一致的表示。一致性正则化的基本思想是：对于给定的输入样本，在不同的变换或扰动下，模型的预测应该保持一致。
Self Pseudo Entropy Knowledge Distillation for Semi-supervised Semantic Segmentation 论文阅读
weixin_51657614的博客
07-20 957
SUPERVISED语义分割方法依靠高质量的标记数据，在众多图像领域取得了显著的效果，如自然图像[1]-[4]、遥感图像[5]-[8]、医学图像[9]-[12]等。然而，在一些实际场景中，由于耗时的数据收集和标注，以及需要专业的理解，很难获得专家注释。此外，标注者的主观认知偏差问题使监督学习容易过拟合偏差，从而使模型无法学习到数据中嵌入的正确知识。为了解决这个问题，半监督语义分割得到了很多关注[13]-[35]，它利用大量的原始数据来辅助训练，当只有很少的标记数据可用时。
【CVPR2021】CPS: Semi-Supervised Semantic Segmentation with Cross Pseudo Supervision
m0_61899108的博客
06-09 3289
论文为半监督语义分割任务设计了一种非常简洁而又性能很好的算法：cross pseudo supervision (CPS)。训练时，使用两个相同结构、但是不同初始化的网络，添加约束使得两个网络对同一样本的输出是相似的。具体来说，当前网络产生的one-hot pseudo label，会作为另一路网络预测的目标，这个过程用cross entropy loss监督。
半监督语义分割论文学习记录
Vae_fans的博客
02-22 2110
半监督语义分割论文学习
深度对抗网络用于分割(语义分割)——Adversarial Learning for Semi-Supervised Semantic Segmentation
热门推荐
未来不再遥远
08-27 1万+
Adversarial Learning for Semi-Supervised Semantic Segmentation 这篇文章引入对抗网络，做半监督学习，想法很好，也被证明有效果，但是有多大的提高有待商榷。可以说这篇文章的思路重点在于思想。 网络结构 分割网络 用的是DeepLab-v2+ResNet-101+ASPP结构。分割网络可以说很一般了，这篇paper的重点不在分割...
论文阅读笔记：Revisiting Weak-to-Strong Consistency in Semi-Supervised Semantic Segmentation
最新发布
HollowKnightz的博客
08-09 1281
论文阅读笔记：Revisiting Weak-to-Strong Consistency in Semi-Supervised Semantic Segmentation
CVPR 2023 | UniMatch: 重新审视半监督语义分割中的强弱一致性
AI人工智能的海洋
09-21 1679
在这里和大家分享一下我们被CVPR 2023录用的工作"Revisiting Weak-to-Strong Consistency in Semi-Supervised Semantic Segmentation"。在本工作中，我们重新审视了中的“”方法。我们首先发现，最基本的约束强弱一致性的方法FixMatch[1](proposed three years ago in 2020)即可取得与当前SOTA相当的性能。
【论文合集】Semi-Supervised Semantic Segmentation
m0_61899108的博客
04-07 2909
Semi-Supervised Semantic Segmentation
论文解读《Semi-Supervised Semantic Segmentation with Cross Pseudo Supervision》
weixin_37591159的博客
11-20 2596
本文通过研究有标签数据和无标签数据，研究了半监督语义分割问题。提出了一种新的一致性规则化方法——交叉伪监督
[论文阅读] Semi-supervised Semantic Segmentation via Strong-Weak Dual-Branch Network
xiongxyowo的博客
02-13 700
虽然现有的工作已经探索了各种技术来推动弱监督语义分割的发展，但与监督方法相比仍有很大差距。在现实世界的应用中，除了大量的弱监督数据外，通常还有一些可用的像素级注释，在此基础上，半监督跟踪成为一种有前途的语义分割方式。目前的方法只是将这两组不同的注释捆绑在一起，训练一个分割网络。然而，我们发现这样的处理方式是有问题的，所取得的结果甚至比仅仅使用强标签还要糟糕，这表明对弱标签的误用。为了充分挖掘弱标签的潜力，我们建议通过一个强弱双分支网络对强注释和弱注释进行单独处理，将大量不准确的弱监督与强监督区分开来。我们设
半监督分割模型Semi-supervised Semantic Segmentation via Strong-weak Dual-branch Network论文阅读笔记
tcltyan的博客
01-10 1963
这篇文章比较少见地讨论了weakly-and-semi-supervised setting下的混合标签训练问题，即如何高效地把少量精确标签和大量粗糙标签混合起来，训练出性能更高的语义分割网络。文章作者发现，现有的weakly-and-semi-supervised semantic segmentation网络采取同等的方法对待与处理strong label和weak label来训练一个single-branch network，这样做的后果是训练出来的网络性能比仅仅采用strong label时还要差
论文解读《Semi-supervised Semantic Segmentation with Error Localization Network》
weixin_37591159的博客
07-15 1648
111111
【半监督图像分割 2023 CVPR】UniMatch
wujing1_1的博客
06-15 4441
在这项工作中，我们重新讨论了弱到强一致性框架，该框架由FixMatch从半监督分类中推广而来，其中对弱扰动图像的预测作为对其强扰动版本的监督。有趣的是，当转移到我们的分割场景中时，我们观察到这样一个简单的管道已经获得了与最近的高级作品相比的竞争性结果。然而，它的成功在很大程度上依赖于手工设计强大的数据增强，这可能是有限的，不足以探索更广阔的扰动空间。基于此，我们提出了一种辅助特征扰动流作为补充，从而扩展了扰动空间。
请给出MIA，MICCAI，MICCAI，NIPS，CVPR，ICLR在2020到2021年的语义分割方面的高亮工作
05-26
好的，以下是MIA、MICCAI、NIPS、CVPR、ICLR在2020到2021年的语义分割方面的一些高亮工作： 1. MIA：2021年的MIA会议上，一篇名为“U^2-Net: Going Deeper with Nested U-Structure for Salient Object Detection”的论文提出了一种基于U-Net结构的新模型U^2-Net，用于进行显著性目标检测。该模型结合了多级U结构和级联连接，能够更好地捕获显著性目标的细节信息。 2. MICCAI：2020年的MICCAI会议上，一篇名为“Multi-Objective Learning for Joint Optic Disc and Cup Segmentation in Retinal Images”的论文提出了一种多目标学习方法，用于联合分割视网膜图像中的视盘和杯状体。该方法结合了多任务学习和不同损失函数，能够在同时保持分割准确性和分割速度的情况下提高性能。 3. NIPS：2020年的NIPS会议上，一篇名为“Semi-Supervised Semantic Segmentation with Cross-Consistency Training”的论文提出了一种半监督语义分割方法，用于利用大量未标注数据来提高分割性能。该方法结合了交叉一致性训练和自监督学习，能够在只有少量标注数据的情况下实现高质量的分割结果。 4. CVPR：2021年的CVPR会议上，一篇名为“Semantic Image Synthesis with Spatially-Adaptive Normalization”的论文提出了一种基于空间自适应归一化的语义图像合成方法。该方法能够在保留输入图像的语义信息的同时，合成具有所需语义标签的图像。 5. ICLR：2021年的ICLR会议上，一篇名为“From Few to More: Large-scale Few-shot Segmentation with Knowledge Propagation”的论文提出了一种基于知识传递的小样本语义分割方法。该方法能够利用大规模未标注数据和少量标注数据来训练模型，同时通过知识传递来提高模型的泛化能力。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值