近年来,医疗影像分割技术在深度学习的推动下取得了显著进展。从传统的卷积神经网络(CNN)到引入Transformer架构,再到如今融合多种先进机制的模型,如TransFuse、D-LKA Net和MWG-UNet++,这些技术不断突破性能瓶颈,为精准医疗和疾病诊断提供了更高效、更准确的工具,极大地推动了医学影像分析领域的发展。
MWG-UNet++创新性地将Transformer与U-Net结合,并引入Wasserstein GAN进行数据增强,显著提升了模型对复杂肿瘤边界的识别能力。
显著提高了医疗影像分割的精度和效率,降低了模型参数量和计算成本,为临床诊断和治疗规划提供了更可靠的依据,有望在更多医疗场景中实现广泛应用。
我整理了9种【Transformer+UNet】的相关论文,全部论文PDF版可以关注工棕号{AI因斯坦}
回复 “TU结合”领取~
1.Transformer-Unet: Raw Image Processing with Unet
文章提出 Transformer-Unet(TUnet)网络,将 Transformer 应用于原始图像而非特征图,在 CT82 数据集上进行胰腺分割实验,对比其他模型展示其优势,同时分析模型的特点与局限。
-
创新点
1.创新地将 Transformer 直接应用于原始图像,而非像以往在特征图上应用,更直接地发挥 Transformer 的优势。
2.构建了基于 Transformer 和 Unet 的端到端网络,结合两者优点,既能捕捉局部特征又能关注全局特征。
3.用 ELU 替换 Transformer 中 MLP 层的 GELU 作为激活函数,适应 CT 图像中正负值的重要性差异 。
-
研究结论
1.在 CT82 数据集的胰腺分割任务中,TUnet 在多个评估指标上优于 Unet、Attention Unet 和 TransUnet 等模型。
2.对于 TUnet,16×16 是较优的图像补丁分辨率,使用浅 Unet 作为骨干网络时优势不明显。
3.TUnet 在处理长距离像素对的分割任务上表现出色,但在浅模型场景下提升效果有限,未来需进一步改进 。
全部论文PDF版可以关注工棕号{AI因斯坦}
回复 “TU结合”领取~
2.TransFuse: Fusing Transformers and CNNs for Medical Image Segmentation
文章提出 TransFuse,通过并行分支架构融合 Transformer 和 CNN,用 BiFusion 模块融合特征。在多个医学图像分割任务中进行实验,验证其性能优势,并分析了架构设计的有效性。
-
创新点
1.设计并行分支架构,让 Transformer 和 CNN 并行处理信息,同时捕获全局依赖和低级空间细节。
2.提出 BiFusion 模块,利用自注意力和多模态融合机制,有效融合来自两个分支的多层次特征。
3.构建的网络更浅,缓解了梯度消失和特征复用减少的问题,提升了模型效率和推理速度。
-
研究结论
1.TransFuse 在多个医学图像分割任务上取得了最先进的结果,在参数数量和推理速度方面表现高效。
2.并行分支设计和 BiFusion 模块有效,Transformer 分支和 CNN 分支具有互补性,能提升融合效果。
3.该研究为基于 Transformer 的医学图像分割架构提供了新视角,未来可优化 Transformer 层并拓展应用。
全部论文PDF版可以关注工棕号{AI因斯坦}
回复 “TU结合”领取~
3.AFTer-UNet: Axial Fusion Transformer UNet for Medical Image Segmentation
文章提出 AFTer-UNet 用于医学图像分割,融合 2D 卷积层与 Transformer 优势,通过实验对比多种方法,验证其性能优势,并进行消融实验分析了模型关键参数的影响。
-
创新点
1.提出端到端的 AFTer-UNet 框架,融合切片内和切片间信息,处理 3D 医学图像分割任务。
2.引入轴向融合机制,分别计算轴向和切片内注意力并融合,降低 3D 空间自注意力计算复杂度。
3.相比之前的 Transformer 基模型,该模型参数更少,训练时占用的 GPU 内存也更少 。
-
研究结论
1.AFTer-UNet 在多个多器官分割数据集上表现优异,相比当前 Transformer 基模型有更高的 DSC 得分。
2.消融实验表明,增加相邻切片数量和轴向融合 Transformer 层数能提升性能,低频采样更有利于模型 。
3.该模型能有效融合切片内和切片间信息,为医学图像分割提供了更高效的解决方案。
全部论文PDF版可以关注工棕号{AI因斯坦}
回复 “TU结合”领取~