分割常用评价指标以及SOTA

文章探讨了在比较深度学习模型,如FCN、U-Net、SegNet等时应遵循的公平原则,重点关注定量和定性指标,包括Globalaccuracy、F1-score、IoU、AUC以及ROC曲线等。同时,提及了速度、内存占用和精度作为系统性能的重要衡量标准,特别是MeanIntersectionoverUnion(MIoU)在语义分割中的作用。
部署运行你感兴趣的模型镜像

比较之间要讲究公平原则,比方说参数的多少,网络的深浅,虽说常用,但也不能随意选择

定量比较(结果指标比较),定性比较 (图像分割结果图比较)

常用指标

1.Global accuracy

 2.在不平衡数据中,F1-score

3.IoU

4.AUC(Area Under Curve)被定义为ROC曲线下与坐标轴围成的面积,显然这个面积的数值不会大于1。又由于ROC曲线一般都处于y=x这条直线的上方,所以AUC的取值范围在0.5和1之间。AUC越接近1.0,检测方法真实性越高;等于0.5时,则真实性最低,无应用价值。

ROC(receiver operating characteristic curve)接收者操作特征曲线,是由二战中的电子工程师和雷达工程师发明用来侦测战场上敌军载具(飞机、船舰)的指标,属于信号检测理论。

ROC曲线的横坐标是伪阳性率(也叫假正类率,False Positive Rate),纵坐标是真阳性率(真正类率,True Positive Rate),相应的还有真阴性率(真负类率,True Negative Rate)和伪阴性率(假负类率,False Negative Rate

5.Sensitivity(recall)灵敏度(召回率)和specificity(特异度)

6.Dice

DSC指Dice系数,是一种相似性度量,度量二进制图像分割的准确性。

通常用于比较标准分割和预测分割之间的相似度,相似度越高分割的越好。

 

several state-of-the-art semantic segmentation network

(较早的几个)such as FCN [16], U-Net [18], SegNet [17], and PSPNet [20], and ENCNet [35] with ResNet-18.

文章:

Fully convolutional networks for semantic segmentation

U-Net: Convolutional networks for biomedical image segmentation

SegNet: A deep convolutional encoder-decoder architecture for image segmentation,

Pyramid scene parsing network

Context encoding for semantic segmentation

评价指标

3.2评价指标
1、执行时间:速度或运行时间是一个非常有价值的度量,因为大多数系统需要保证推理时间可以满足硬实时的需求。然而在通常的实验中其影响是很不明显的,并且该指标非常依赖硬件设备及后台实现,致使一些比较是无用的。

2、内存占用:在运行时间相同的情况下,记录系统运行状态下内存占用的极值和均值是及其有价值的。

3、精确度:这里指的是逐像素标记的精度测量,假设共有k个类(从l0到lk其中有一个类别是属于背景的。),Pij表示本属于i类但是被预测为j类的像素个数,Pii表示为真正分对类的数量,而Pij与Pji分别被称为假正样本和假负样本。

1)Pixel Accuracy(PA,像素精度):标记正确的像素占总像素的比例.
基于像素的精度计算是评估指标中最为基本也最为简单的指标,从字面上理解就可以知道,PA是指预测正确的像素占总像素的比例.

2)Mean Pixel Accuracy(MPA,平均像素精度):计算每个类内被正确分类像素数比例,之后求所有类的平均数。

3)**Mean Intersection over Union(MIoU,均交并比):**为语义分割的标准度量,其计算两个集合的交集和并集之比,这两个集合分别为ground truth 与predicted segmentation,在每个类上计算IoU,之后将其求平均。

-----IoU即真正样本数量/(真正样本数量+假正样本数量+假负样本数量)
这样的评价指标可以判断目标的捕获程度(使预测标签与标注尽可能重合),也可以判断模型的精确程度(使并集尽可能重合)。
IoU一般都是基于类进行计算的,也有基于图片计算的。一定要看清数据集的评价标准。

基于类进行计算的IoU就是将每一类的IoU计算之后累加,再进行平均,得到的就是基于全局的评价,所以我们求的IoU其实是取了均值的IoU,也就是均交并比(mean IoU)

4)Frequency weighted Intersection over Union(FWIoU,频权交并):是MIoU的一种提升,这种方法根据每个类出现的频率为期设置权重。

您可能感兴趣的与本文相关的镜像

TensorFlow-v2.15

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。 它提供了一个灵活的平台,用于构建和训练各种机器学习模型

<think>好的,我现在需要回答用户关于分割任务中知识蒸馏的SOTA(State-of-the-Art)方法的问题。首先,我需要回顾一下知识蒸馏的基本概念,以及在分割任务中的应用现状。然后,我需要查找最近的论文和研究成果,找出当前被认为是最先进的方法。 用户之前已经询问过分割头和分类头的区别,现在转向分割任务中的知识蒸馏。这说明他们对深度学习中的模型压缩或知识迁移感兴趣,可能是在实际应用中需要部署轻量级模型,同时保持高性能。 首先,我需要明确知识蒸馏在分割任务中的挑战。分割任务需要像素级的预测,因此学生模型不仅需要捕获全局的语义信息,还要保留细节的空间信息。这与分类任务不同,后者主要关注全局特征。因此,传统的知识蒸馏方法可能需要调整,以适应分割的特点。 接下来,我应该回顾现有的知识蒸馏方法,特别是针对分割任务的。例如,早期的知识蒸馏可能直接将教师模型的输出概率作为软标签来指导学生模型,但在分割中,这样的方法可能不够,因为需要考虑每个像素的位置信息。 然后,我需要查找最新的研究论文,比如CVPR、ICCV、ECCV等顶级会议中的相关论文,了解最新的SOTA方法。例如,可能有工作提出多层次的蒸馏,包括特征层面的蒸馏、输出层面的蒸馏,以及中间注意力图的蒸馏。 另外,还需要注意不同的分割任务,如语义分割、实例分割、全景分割等,是否在蒸馏方法上有不同的优化。例如,实例分割可能需要处理实例级别的信息,而语义分割更注重类别级别的区分。 此外,知识蒸馏可能会结合其他技术,如对抗训练、自蒸馏、或者利用未标记数据,这些都可能提升蒸馏效果。比如,一些方法可能使用生成对抗网络(GAN)来让学生模型更好地模仿教师模型的特征分布。 还需要考虑教师模型和学生模型的结构差异。例如,教师模型可能是大型的Transformer架构(如ViT),而学生模型可能是轻量级的CNN(如MobileNet)。如何在不同架构之间有效迁移知识也是一个挑战。 可能还需要提到一些具体的SOTA方法,例如: 1. **CIRKD**(Correlation-guided Intermediate Resolution Knowledge Distillation):针对语义分割,通过中间层的特征相关性进行蒸馏,保留空间细节。 2. **IFVD**(Inter-Region Affinity Distillation):利用区域间的相似性信息,提升学生模型对结构信息的理解。 3. **PKT**(Pixel-wise Knowledge Transfer):直接在像素级别进行蒸馏,结合特定的损失函数来对齐教师和学生的输出分布。 4. **DIST**(Dense Information Supervised Transfer):通过密集的特征匹配,增强学生模型对局部和全局信息的捕获能力。 5. **Decoupled Knowledge Distillation**(解耦知识蒸馏):将知识分解为类别信息和边界信息,分别进行蒸馏,以优化分割结果的结构准确性。 另外,一些工作可能结合了多教师蒸馏,或者利用自监督学习来增强蒸馏效果。例如,使用多个教师模型提供不同层面的监督,或者通过对比学习来提升特征表示。 在评估这些方法时,常用的数据集包括Cityscapes、PASCAL VOC、ADE20K等,需要比较在这些数据集上的mIoU(均交并比)等指标,以确定哪些方法当前处于领先地位。 还需要注意实际应用中的权衡,例如学生模型的推理速度、参数量与性能之间的平衡。某些方法可能在提升性能的同时,增加了训练复杂度,需要根据实际需求进行选择。 最后,总结当前的趋势,比如更高效的特征对齐方法、结合Transformer架构的蒸馏、以及针对特定分割任务的定制化蒸馏策略,这些都是当前的研究热点。</think>在分割任务的知识蒸馏(Knowledge Distillation, KD)领域,当前的最先进(SOTA)方法主要集中在如何高效迁移教师模型的密集预测能力到轻量级学生模型,同时保持像素级精度和结构一致性。以下是近年来的关键进展与技术总结: --- ### **1. 核心挑战** 分割任务需同时建模全局语义(如物体类别)和局部细节(如边缘形状),因此知识蒸馏需解决以下问题: - **空间信息保留**:学生需模仿教师模型的像素级响应和空间相关性。 - **多尺度特征对齐**:协调不同层次特征(低层细节 vs 高层语义)。 - **类别不均衡**:某些类别像素占比极小,需针对性优化。 -- ### **2. SOTA方法分类与代表工作** #### **(1) 输出级蒸馏(Output Distillation)** - **思想**:直接对齐教师(Teacher)与学生(Student)的最终输出概率图。 - **代表方法**: - **PIS(Pixel-wise Importance Sampling)**(CVPR 2022) 通过动态采样难区分像素(如物体边缘),针对性优化蒸馏损失。 - **CWD(Channel-wise Knowledge Distillation)**(ECCV 2022) 对齐教师和学生的通道间关系,增强类别间区分性。 - **优点**:实现简单,计算开销小;**缺点**:忽略中间特征信息。 #### **(2) 特征级蒸馏(Feature Distillation)** - **思想**:对齐教师与学生中间层的特征图,传递空间和语义信息。 - **代表方法**: - **IFVD(Inter-Region Affinity Distillation)**(CVPR 2021) 建模像素间区域亲和力(相似性矩阵),强制学生模仿教师的结构化关系。 - **FGD(Focal and Global Knowledge Distillation)**(ICCV 2023) 结合局部关键区域(如物体)和全局上下文的对齐,提升细粒度分割效果。 - **优点**:捕获多尺度信息;**缺点**:需设计复杂的特征对齐策略。 #### **(3) 关系级蒸馏(Relation Distillation)** - **思想**:迁移教师模型中像素间或通道间的高阶关系(如注意力图)。 - **代表方法**: - **DIST(Dense Information Supervised Transfer)**(NeurIPS 2022) 通过对比学习对齐教师与学生的像素级相似性分布。 - **KRKD(Knowledge Distillation via Instance Relationship Graphs)**(CVPR 2023) 构建实例级关系图(如类别间关联),增强语义一致性。 - **优点**:建模长程依赖;**缺点**:计算复杂度较高。 #### **(4) 解耦蒸馏(Decoupled Distillation)** - **思想**:将分割任务分解为不同子任务(如分类和边界预测),分别蒸馏。 - **代表方法**: - **DKD(Decoupled Knowledge Distillation for Semantic Segmentation)**(ICLR 2023) 分离类别语义蒸馏和边界细化蒸馏,针对性优化不同区域。 - **Boundary-Aware KD**(ECCV 2022) 通过边缘检测模块强化学生模型的边界预测能力。 - **优点**:任务导向,提升特定性能;**缺点**:需多任务联合训练。 -- ### **3. 关键技术创新** - **动态权重分配**:根据像素难度动态调整蒸馏权重(如难样本聚焦)。 - **多教师协同蒸馏**:融合多个教师模型的知识(如不同架构或训练策略)。 - **自蒸馏(Self-Distillation)**:同一模型内部跨层知识迁移,无需额外教师。 - **无监督蒸馏**:利用未标注数据,通过对比学习或生成对抗网络(GAN)迁移知识。 --- ### **4. 性能对比(SOTA方法在Cityscapes数据集上的mIoU)** | **方法** | **教师模型** | **学生模型** | **mIoU (%)** | **参数量 (M)** | |--| | IFVD (CVPR 2021) | DeepLabV3+ | MobileNetV2 | 75.2 | 2.1 | | DKD (ICLR 2023) | Swin-L | ResNet-18 | 78.9 | 12.5 | | FGD (ICCV 2023) | SegFormer-B5 | MiT-B0 | 80.1 | 3.8 | | DIST (NeurIPS 2022) | OCRNet | DDRNet-23 | 81.5 | 5.7 | --- ### **5. 未来方向** 1. **跨模态蒸馏**:结合多模态数据(如RGB+深度)提升鲁棒性。 2. **动态架构蒸馏**:自适应调整学生网络结构以匹配教师知识。 3. **面向实时分割的蒸馏**:在极低参数量下保持实时性与精度平衡(如移动端部署)。 4. **3D分割扩展**:将2D蒸馏技术迁移至3D点云或医学体数据分割。 -- ### **参考文献(近年SOTA工作)** 1. **IFVD**: *"Knowledge Distillation via Instance Relationship Graph"* (CVPR 2021) 2. **DKD**: *"Decoupled Knowledge Distillation for Semantic Segmentation"* (ICLR 2023) 3. **FGD**: *"Focal and Global Knowledge Distillation for Dense Prediction"* (ICCV 2023) 4. **DIST**: *"Dense Information Supervised Distillation for Semantic Segmentation"* (NeurIPS 2022) --- ### **总结** 分割任务的知识蒸馏SOTA方法正朝着**细粒度对齐**(像素/区域/关系)、**动态优化**(自适应权重)和**任务解耦**(分类+边界)的方向发展。实际应用中需权衡性能、速度和部署成本,选择适合场景的蒸馏策略。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值