注意力机制持续发力!与Unet结合一举拿下多篇CCF-B!小白轻松上手!

今天给大家推荐一个,小白也能轻松发CCF-B的方向:UNet+注意力机制!

UNet作为经典模型,应用非常广泛,但也面临:特征选择时无法区分有效信息和背景噪声、多尺度信息捕捉不足、计算资源需求大等问题。而注意力机制的引入,则使模型能聚焦任务相关信息,摒除冗余。既能提高精度,减少计算资源需求,还能使适应更加复杂的场景,像是小目标、低光照……

更特别的是,该思路改进简单,实验设计灵活。主要在于,注意力机制模块种类非常多,我们可以把不同模块进行组合;或者通过跨层融合、多尺度改进等方式做结构创新。模型Perspective+ UNet,便是通过这样的改进,中稿MICCA24!

为让大家能够紧跟领域前沿,找到更多idea启发,我给大家准备了14种创新思路,原文和源码都有。

论文原文+开源代码需要的同学看文末

RWKV-UNet: Improving UNet with Long-Range Cooperation for  Effective Medical Image Segmentation

内容:本文介绍了一种新型的医学图像分割模型 RWKV-UNet,它将 RWKV 结构与经典的U-Net架构相结合,旨在提高模型对长距离依赖关系的捕捉能力,从而改善医学图像分割的准确性和上下文理解能力。该模型通过设计IR-RWKV模块和CCM模块,增强了特征提取能力和多尺度信息融合能力。实验表明,RWKV-UNet 在多个基准数据集(如 Synapse、ACDC、BUSI 等)上达到了最先进的性能,并且其较小的变体(如 RWKV-UNet-S 和 RWKV-UNet-T)在保持性能的同时,显著降低了计算复杂度,适合更广泛的临床应用。

BRAU-Net++: U-Shaped Hybrid CNN-Transformer Network for Medical Image Segmentation

内容:本文提出了一种名为 BRAU-Net++ 的新型混合卷积神经网络(CNN)和Transformer架构,用于医学图像分割任务。该网络采用 U 形编码器 - 解码器结构,以双层路由注意力为核心构建块,能够有效学习全局语义信息,同时降低计算复杂度。此外,BRAU-Net++ 通过引入通道 - 空间注意力机制重新设计了跳跃连接,以增强多尺度特征之间的交互并补偿下采样造成的空间信息损失。在多个公共基准数据集(包括 Synapse 多器官分割、ISIC-2018 挑战赛和 CVC-ClinicDB 数据集)上的实验结果表明,BRAU-Net++ 在几乎所有评估指标上均优于现有的先进方法,尤其是在分割小目标方面表现出色。

Perspective+ Unet: Enhancing Segmentation  with Bi-Path Fusion and Efficient Non-Local  Attention for Superior Receptive Fields

内容:本文提出了一种名为Perspective+ Unet的新型医学图像分割网络架构,旨在通过增强感受野来提高分割精度。该框架包含三大创新点:(1) 在编码器阶段引入双路径策略,结合传统卷积和扩张卷积的结果,既保留局部感受野又显著扩展全局结构理解;(2) 引入高效的非局部变换器块(ENLTB),利用核函数近似以线性计算和空间复杂度有效捕获长距离依赖关系;(3) 采用空间跨尺度集成器(SCSI)策略,在模型的不同阶段融合全局依赖和局部上下文线索,精细调整各级特征以协调全局和局部信息。实验结果表明,Perspective+ Unet 在 ACDC 和 Synapse 数据集上表现出色,显著优于现有先进方法。

Structural Attention: Rethinking Transformer  for Unpaired Medical Image Synthesis

内容:本文提出了一种名为UNest的新型架构,用于无配对医学图像合成任务。该方法通过引入结构化归纳偏差,解决了传统 Transformer 模型在无配对图像合成中因缺乏监督信号而导致的性能不佳问题。UNest 利用 Segment-Anything Model 提取前景结构,并在主要解剖区域内执行结构化注意力,从而引导模型学习关键解剖区域,提升在无配对训练下对结构细节的合成能力。实验结果表明,UNest 在多个医学图像合成任务中显著优于现有方法,平均性能提升达 19.30%。

码字不易,欢迎大家点赞评论收藏!

关注下方《AI科研技术派》

回复【14UA】获取完整论文

👇

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值