基于自注意力元学习的少样本疾病检测方法
一、引言
如今,深度学习(DL)技术在人工智能领域取得了重大突破,基于DL的方法在图像分析领域表现出色。然而,训练这些模型需要大量带标签的数据集,收集如此广泛的标注图像既耗时又耗资源,在现实应用中,尤其是医疗领域,这并不可行。与自然图像不同,医学图像的标注需要放射科医生等专家进行细致且耗时的分析,而且由于某些疾病在人群中的患病率极低,以及标注此类数据的临床专业知识有限,罕见或新型疾病的标注图像可能仍然稀缺。有限的医学影像标注数据是DL技术在现实临床场景中取得成功的最大挑战。
在医学领域,放射科医生在培训过程中常需将先前学到的知识迁移到少样本诊断中。他们经过多年培训,从相似的诊断任务中积累经验,理解特征的临床相关性并解决新任务。经验丰富的放射科医生会利用从相关任务(常见疾病)中获得的先验知识诊断新的未见过的疾病,并将其推广到新任务。此外,他们会将注意力集中在图像的某些感兴趣区域,学习临床相关的视觉特征,同时忽略不必要的特征以进行诊断。
本文提出了一种用于少样本疾病检测的自注意力元学习方法。受放射科医生基于图像的视觉诊断启发,设计了一种注意力机制,以学习跨任务的临床视觉相关特征。该机制引导少样本学习者关注每个任务中图像的临床相关特征,从而优化任务特征表示,实现更好的知识迁移。
二、相关工作
少样本学习(FSL)是一种从少量标记数据中学习预测模型的新范式,近年来备受关注。一般来说,FSL方法学习的模型能够从少量标记样本中快速推广到新任务。计算机视觉领域的FSL通过元学习范式取得了显著进展。元学习受人类思考和学习方式的启发,也被称为“学会学习”,它为解决DL的传统挑战(包括数据瓶颈和模型泛化)提供了机会。