【语义分割系列：七】Attention Unet 论文阅读翻译笔记 医学图像 python实现

最新推荐文章于 2025-06-09 18:28:20 发布
原创 最新推荐文章于 2025-06-09 18:28:20 发布 · 置顶 · 2.7w 阅读 · 212 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#Attention #Unet #Attention Unet #segment #Attention U-Net: Learning Where to

本文介绍了Attention U-Net模型，该模型基于U-Net并引入了注意力门控（Attention Gates）机制，提高了对前景像素的敏感度，尤其在医学图像分割任务中表现优秀。通过在解码器部分应用Attention Gates，模型能够学习关注局部区域，减少不相关背景的影响，从而提升图像分割的准确性。相比于多阶段CNNs和硬注意力方法，Attention U-Net具有更少的额外参数，且训练过程无需复杂的强化学习。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Attention U-Net

2018 CVPR
Ozan Oktay, Jo Schlemper, Loic Le Folgoc, Matthew Lee

Attention U-Net: Learning Where to Look for the Pancreas

1、Introduce

什么是attention？

Attention 即为注意力机制，举例就是在复杂场景文字识别中，使用Attention把注意力集中在需要识别的数字上。
在医疗图像中，就是把注意力集中到对特定任务有用的显著特征（比如说相关组织或者是器官），抑制输入图像中的不相关区域。在级联神经网络中，需要明确的外部组织/器官定位模块，而使用Attention就不需要了。

论文中是以U-net为基础进行集成，在decoder部分使用了Attention Gates ，得到了Attention U-Net模型。实验表明，融入AG后，Unet模型的精度更高了。

本文提出的 Attention

  • 提出了grid-based gating ，使attention coefficients 更具体到局部区域。
  • 在一个 feed-forward CNN模型中使用soft-attention技术
    提出的attention gate可以替代图像分类中使用的注意方法和图像分割框架中使用的外部器官定位模型。
  • 提高模型对 foreground 像素的敏感度

FCN （Fully Convolutional Network） 优于传统方法是因为：

(I) 利用随机梯度下降(SGD)优化学习域特定图像特征
(II) 学习的核在所有像素之间共享
(III) 图像卷积操作很好地利用了医学图像中的结构信息

cascaded CNNs方法：

  • an initial coarse-level model (e.g. U-Net or Regression Forest) is used to obtain a ROI
  • then a cropped ROI is used for segmentation refinement by a second model.
  • dense connections
  • sparse convolutions
最低0.47元/天 解锁文章

200万优质内容无限畅学
『论文笔记』CBAM:Convolutional Block Attention Module(注意力机制)+TensorFlow2.0复现
AI新视界
12-30 1万+
本文提出了卷积块注意模块(CBAM)，这是一个简单而有效的前馈卷积神经网络注意模块。在给定中间特征图的情况下，我们的模块按照通道和空间两个独立的维度依次推断注意图，然后将注意图乘入输入特征图进行自适应特征细化。因为CBAM是一个轻量级的通用模块，它可以无缝地集成到任何CNN架构中，开销可以忽略不计，并且可以与基本CNNs一起进行端到端的培训。我们通过在ImageNet-1K、MS COCO检测和VOC 2007检测数据集上的大量实验来验证我们的CBAM。
机器学习笔记 - 语义分割资源清单
学以致用 知行合一
05-17 2089
苦逼学生党的Google Colab使用心得 https://zhuanlan.zhihu.com/p/54389036 colab 上挂载云盘，切换到指定目录 #挂载云盘 from google.colab import drive drive.mount('/content/drive/') #是否可用cuda import torch torch.cuda.is_available() #切换目录 import os os.chdir('/content/drive/My Drive/Al
论文阅读笔记——Attention UNet
许希律的博客
11-01 1万+
参考：https://blog.csdn.net/rosefun96/article/details/88868527 Attention coefficients（取值0~1）与feature map相乘，会让不相关的区域的值变小（抑制），target区域的值变大（Attention）。 Attention的意思是，把注意力放到目标区域上，简单来说就是让目标区域的值变大。 看下面这...
论文阅读——Attention U-Net: Learning Where to Look for the Pancreas
qq_37151108的博客
05-26 7480
论文阅读之Attention UNet 将注意力机制引入到UNet辅助进行医学图像分割 摘要 本文创新之处在于提出了Attention Gate注意门用于学习不同形状/大小的目标。通过注意门可以有选择性的学习输入图像中相互关联的区域，抑制不相关区域的显著性，这就避免在网络搭建过程中引入额外人为的监督。 
另一方面注意门（AGs）可以作为一种即插即用的模块引入各种网络（如UNet）从而提升模型的敏感度和精度。 

本文将Attention UNet在两个大型的腹腔CT数据集上进行了多类别分割测试。
 

 

论文解析：一文弄懂U-Net（图像分割）！
最新发布
Nelson_hehe的博客
06-09 1277
本文围绕医学图像分割领域的U-Net展开。鉴于医学图像分割精度要求高、数据少易过拟合等问题，U-Net应运而生。其通过独特的“U”型网络结构、跳跃连接实现特征融合；运用数据增强、重叠拼接等策略高效利用数据；采用下采样与上采样操作提取特征。U-Net具有模块化设计优势，相较传统方法更高效，其架构、连接机制、数据处理策略等，为图像分割研究与改进提供了重要启发 。
Attention UNet
weixin_46720482的博客
10-25 1万+
Attention UNet论文解析 - 知乎Attention UNet论文地址： https://arxiv.org/pdf/1804.03999.pdf 代码地址： https://github.com/ozan-oktay/Attention-Gated-NetworksAttention UNet在UNet中引入注意力机制，在对编码器每个分辨率上的特征与解…图像分割UNet系列------Attention Unet详解_gz7seven的博客-优快云博客_attention unet。
深度学习论文精读[5]：Attention UNet
weixin_37737254的博客
07-18 6621
以CNN为基础的编解码结构在图像分割上展现出了卓越的效果，尤其是医学图像的自动分割上。但一些研究认为以往的FCN和UNet等分割网络存在计算资源和模型参数的过度和重复使用，例如相似的低层次特征被级联内的所有网络重复提取。针对这类普遍性的问题，相关研究提出了给UNet添加注意力门控（Attention Gates, AGs）的方法，形成一个新的图像分割网络结构：Attent...
attention unet + cldice 论文总结
qq_45981086的博客
06-19 2224
Blood Vessel Segmentation from Low-Contrast and Wide-Field Optical Microscopic Images of Cranial Window by Attention-Gate-Based Network论文总结。
【语义分割系列：四】Unet 论文阅读翻译笔记 医学图像 pytorch实现
鹿鹿的博客
05-26 8505
UNet 2015 MICCAI Olaf Ronneberger, Philipp Fischer, Thomas Brox U-Net: Convolutional Networks for Biomedical Image Segmentation 5 Minute Teaser Presentation of the U-net 5分钟预告片介绍 GitHub 时间顺序： old —...
PyTorch笔记 - SwinTransformer的原理与实现
AGI
08-26 2069
MRA：Microsoft Research Asia，微软亚洲研究院2021年8月发表：SwinTransformer：将复杂度和效果，都做了优化，Transformer在NLP中取得比较好的效果。将图像划分为不同的window，每个window内计算self-attention，时间复杂度window与图像的hw成线性关系，通过shift-window，实现window之间的交互。...
9.论文学习Attention Unet++: A Nested Attention-Aware U-Net for Liver CT Image Segmentation
weixin_44846755的博客
12-09 3211
9.论文学习Attention Unet++: A Nested Attention-Aware U-Net for Liver CT Image Segmentation
Attention UNet的原理对应论文 Attention UNet:attention unet learning where to find the pancer
zy的博客
11-24 833
attention unet: learning where to find the pancer
论文笔记：Attention U-Net: Learning Where to Look for the Pancreas
新手村打蘑菇
08-14 1485
Abstract 我们提出了一种用于医学成像的新型注意门（AG）模型，该模型自动学习聚焦于不同形状和大小的目标结构。用AG训练的模型隐 含地学习抑制输入图像中的不相关区域，同时突出显示对特定任务有用的显着特征。这使我们能够消除使用级联卷积神经网络（CNN）的 显式外部组织/器官定位模块的必要性。 AG可以很容易地集成到标准CNN架构中，例如U-Net模型，具有最小的计算开销，同时提高模型 灵敏度和...
深度学习| Attention U-Net（包含Attention Gate代码）
qq_40306845的博客
04-24 1万+
Attention U-Net的入门理解，以及其中Attention Gate模块结构和代码的理解。
【Semantic Segmentation】语义分割综述 -- Attention
Arron_hou的博客
09-20 2833
【Semantic Segmentation】语义分割综述 -- AttentionAttention[Attention U-Net] Learning Where to Look for the Pancreas（ MIDL 2018）[PAN] Pyramid Attention Network for Semantic Segmentation (BMVC 2018)[PSANet] Po...
unet论文_注意力医学分割：Attention U-Net论文笔记
weixin_39614262的博客
12-11 3721
Attention U-Net原文：Attention U-Net:Learning Where to Look for the Pancreas [Cited by 440]论文链接: https://arxiv.org/abs/1804.03999pytorch official code: https://github.com/ozan-oktay/Attention-Gated-Netw...
Attention U-Net:Learning Where to Look for the Pancreas论文总结和代码实现
qq_45981086的博客
06-18 3577
本文提出了一种用于医学成像的新型注意门（AG）模型，该模型可以自动学习聚焦于不同形状和大小的目标结构。使用AG训练的模型可以不显著地学习输入图像中需要抑制的不相关区域，同时突出对特定任务有用的显著特征。这样就无需再使用级联卷积神经网络（CNNs）的显式外部组织/器官定位模块。AGs可以很容易地集成到标准的CNN架构中，如U-Net模型，只需最少的计算开销，同时提高了模型的灵敏度和预测精度。1. 提出了基于网格的门控，使注意系数更聚焦于局部区域。该方法可以用于密集预测。2. 提出的soft-attention
浅谈Attention UNet
热门推荐
rosefun96的博客
03-28 2万+
1 理论 其中，g就是解码部分的矩阵，xl是编码（左边）的矩阵，x经过乘于系数（完成Attention）和g一起concat，进入下一层解码。 数学公式： 2 实践 Pytorch Attention Unet: class Attention_block(nn.Module): def __init__(self,F_g,F_l,F_int): super(Atte...
Attention U-Net笔记
charles_zhang_的博客
04-15 7490
Attention U-Net笔记 原文地址：Learning Where to Look for the Pancreas Abstract 我们提出了一种新的用于医学成像的attention gate（AG）模型，该模型能够自动学习聚焦不同形状和大小的目标结构。使用AGs训练的模型隐式学习抑制输入图像中的无关区域，同时突出对特定任务有用的显著特征。这使我们能够消除使用级联卷积神经网络（CNN）的显式外部组织/器官定位模块的必要性。AGs可以很容易地集成到标准的CNN架构中，比如U-Net模型，只需最小的
评论 29
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值