论文阅读-(CCNet)Criss-Cross Attention for Semantic Segmentation

最新推荐文章于 2025-11-14 11:50:21 发布
原创 最新推荐文章于 2025-11-14 11:50:21 发布 · 2.1k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文介绍了一种名为CCNet的语义分割方法，它通过交叉注意力模块(CCA)有效地获取上下文信息，同时减少了计算复杂度。与Non-local操作相比，CCNet在GPU占用和浮点运算上都有显著优势。尽管Non-local操作能获取全局信息，但计算成本高，而CCNet则通过交叉注意力实现高效的信息聚合，适用于密集上下文信息的获取。网络结构包括特征提取、CCA模块和全局信息聚合，旨在解决全卷积网络中局部上下文信息不足的问题。

相关论文 non local 操作

  1. 要点:
    criss-cross attention module 获得上下文信息
    循环操作, 每一个像素可以获得全图信息

  2. 优势:
    与non-local 操作相比,少了85%的浮点运算,
    与non-local 操作相比,GPU占用率时1/11
    state of the art

  3. 现存问题
    Due to the fixed geometric structures, they are inherently limited to local receptive fields and short-range contextual information.导致全卷积神经网络没有足够的上下文信息

  4. 现存解决方案:

    • ASPP
      不足:从周围像素获取信息,不能获得dense contextual information
    • 金字塔池化
      均等的上下文信息被所有像素所采纳,不符合不同的像素有不同的依赖
    • non local 操作
      O((H × W ) × (H × W )) in time and space
      在这里插入图片描述

  5. 网络结构
    (1)基本结构

最低0.47元/天 解锁文章
CCNet_Criss-Cross Attention for Semantic Segmentation
holmes_MX的博客
05-24 680
0. 写作目的 好记性不如烂笔头。 1. 主要思路 目前的self-attention需要生成 N * N 的affinity 矩阵（其中N = H * W）， 作者提出存在一种更有效的方法？ 因此作者提出了 Criss-Cross attention，使用“十字架” 的结构来代替 所有的位置(感觉使用“十字架”的paper很多，比如GCN使用十字街的conv，SPNet使用“十字架”的Pooling)。然后使用两次 criss-cross attention，这样可以...
Criss-Cross Attention for Semantic Segmentation论文及代码分析
Strange_Gu的博客
04-26 4261
先附上论文及代码。 1. Introduction 由于固定的几何结构，传统的FCN受限于局部的感受野，只能提供短程的上下文信息。这对于提升分割任务的精度起到相反的影响。 为了弥补FCN的缺陷，ASPP和PPM模块被提出来，在网络的底层中加入有效的上下文特征。但是膨胀卷积并不能够产生密集的上下文信息。同时，基于池化的方法以非自适应的方式聚合上下文信息，并且认为所有图像像素具有相同的重要性，这不能满足不同像素需要不同的上下文依赖关系的要求。 为了包含密集的且逐像素的上下文信息，一些全连接的GNN方法被提出来
Cross Attention详解
最新发布
winboyer的博客
11-14 233
（或者数据来源）之间建立关注关系。其核心在于：一个序列特征（Query）关注另一个序列序列（Key和Value），实现信息的融合。cross-attention工作机制的核心公式与self-attention一致。是 Key 的维度），然后用 Softmax 归一化，得到注意力权重。Cross-attention的输入来自两个不同的序列，但两个序列。Cross Attention是一种交叉注意力机制， 它让。self-attention则是一个。2.2 对分数进行缩放（
GAT, Self Attention, Cross Attention对比以及在自动驾驶轨迹预测任务中的pytorch应用
热门推荐
Cameron_Rin的博客
03-30 1万+
1.Self Attention顾名思义，指不是Target和Source之间做Attend，而是Source内部元素之间或者Target内部元素之间发生的Attention机制，也可以理解为Target=Source这种特殊情况下的注意力计算机制。此时Query、Key和Value都来自Target或Source。 2.GAT和Self Attention本质都在做同样的事情，Self Attention利用 attention 机制将输入中的每个单词用其上下文所有单词的加权来表示，而 GAT 是利用
CCNet: Criss-Cross Attention for Semantic Segmentation
pangyunsheng的博客
04-07 9956
CCNet: Criss-Cross Attention for Semantic Segmentation 这是一篇2018年11月挂在arxiv上的语义分割文章，本文对这篇文章进行详细解读。 1.Abstract   长依赖关系可以捕获有用的上下文信息，这对于视觉理解问题是有益的。本文提出了CCNet来以一种更有效的方式捕获这种重要信息。具体地说，对于每个pixel，CCNet通过一个cris...
CCNet：Criss-Cross Attention for semantic Segmentation
qq_37935516的博客
08-17 4045
原文链接：https://arxiv.org/abs/1811.11721 Github：https://github.com/speedinghzl/CCNet 本文也是Self-Attention机制的文章，该论文在捕获long-range上下文信息的同时提高了计算性能并减少了GPU内存，在Cityscapes、ADE20K和MSCOCO数据集上取得了先进性能。 文中1*1卷积的理解...
CCNet: Criss-Cross Attention for Semantic Segmentation论文解读
我的博客有点东西
08-15 5757
这是ICCV2019的用于语义分割的论文，可以说和CVPR2019的DANet遥相呼应。关于DANet可以见我的另一篇博客 idea 和DANet一样，CCNet也是想建模像素之间的long range dependencies，来做更加丰富的contextual information，来补充特征图，以此来提升语义分割的性能。但是和DANet不一样，CCNet仅考虑空间分辨上的建模，不考虑建模通...
【CCNet】《CCNet：Criss-Cross Attention for Semantic Segmentation》
bryant_meng
01-09 2257
ICCV-2019
第二十一章：CCNet:Criss-Cross Attention for Semantic Segmentation ——用于语义分割的交叉注意力
ADICDFHL的博客
07-19 3104
全图像依赖关系为视觉理解问题提供了有用的上下文信息。在这项工作中，我们提出了一种称为Criss-Cross Network（CCNet）的方法，以更有效和高效的方式获取这种上下文信息。具体而言，对于每个像素，CCNet中的一种新颖的交叉注意力模块收集其交叉路径上所有像素的上下文信息。通过进一步的循环操作，每个像素最终可以捕捉到来自所有像素的全图像依赖关系。总体而言，CCNet具有以下优点：1）占用GPU内存较少。与非局部块相比，所提出的循环交叉注意力模块的GPU内存使用量减少了11倍。
CCNet Criss-Cross Attention for Semantic Segmentation.zip
02-01
通过仔细阅读论文，研究人员可以深入了解Criss-Cross Attention机制的理论基础、设计原理以及在语义分割任务中的应用效果。此外，代码的提供使得研究者能够直接复现论文中的实验结果，或者在此基础上进行进一步的...
【文献阅读】CCNet: Criss-Cross Attention for Semantic Segmentation
weixin_43578873的博客
04-15 921
论文链接：https://arxiv.org/pdf/1811.11721.pdf 国内镜像：https://xxx.itp.ac.cn/pdf/1811.11721.pdf FCN由于固定的几何结构，它们天生局限于局部的接受域和短距离的上下文信息。 全图像依赖提供了有用的上下文信息，有利于视觉理解问题。 基于空洞卷积的方法从周围的几个像素点收集信息，实际上并不能生成密集的上下文信息 ① Re...
图像分割 | CCNet: Criss-Cross Attention for Semantic Segmentation
小白学视觉
02-13 2806
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达说在前面1. 和Non-local相比，1/11的内存消耗，15%的计算开销，效果更好2. 源码CCNet的CCA部分使用cuda手写的3. 有种N×N卷积变成N×1和1×N的味道ICCV 2019，原文链接：ieeexplore.ieee.org/doc基于Pytorch，原文开源代码：github.com/speedingh...
CCNet: Criss-Cross Attention for Semantic Segmentation论文阅读--2020TPAMI
深度检测的博客
08-05 1098
CCNet: Criss-Cross Attention for Semantic Segmentation论文阅读 目录：CCNet: Criss-Cross Attention for Semantic Segmentation论文阅读AbstractINTRODUCTIONAPPROACH3.1 Network Architecture3.2 Criss-Cross Attention3.3 Recurrent Criss-Cross Attention (RCCA) 论文下载地址：点击此链接跳转 这
18-CCNet-Criss-Cross-Attention-for-Semantic-Segmentation
u010067397的专栏
01-13 2879
how 下图蓝色点为待处理像素点 ,处理后得到结果为红色点 : （a）是Non-local，含蓝色中心的feature map是输入，分为上下两个分支处理： 深绿色分支代表已经完成Non-local操作，得到了 (绿色的深浅则代表了当前位置与蓝色中心点的相关性大小)； 下面灰色分支代表进行了 操作。将两个结果相乘，得到 (含红色中心的feature map). （b）即为CC...
CCNet: Criss-Cross Attention for Semantic Segmentation论文阅读
qq_38861679的博客
11-19 879
CCNet: Criss-Cross Attention for Semantic Segmentation Abstract 上下文信息对于语义分割和目标检测任务都很重要，这里提出CCNet。对于每个像素，criss-cross attention模块能获得其交叉路径上所有像素的上下文信息，通过进一步的递归操作，每个像素最终可以捕获全图像的依赖关系。此外，提出类别一致损失使得criss-cross attention模块生成更具判别性的特征。CCNet有以下优点：(1)GPU显存友好，比non-local
论文阅读 | Cross-Attention Transformer for Video Interpolation
bettii的博客
02-28 2042
ACCV2022wrokshop用transformer做插帧的文章，q，kv，来自不同的图像
CrossViT: Cross-Attention Multi-Scale Vision Transformer for Image Classification（论文阅读笔记）
Li_yan的博客
11-19 2863
CrossViT: Cross-Attention Multi-Scale Vision Transformer for Image Classification（论文阅读笔记）
ccnet: criss-cross attention for semantic segmentation
03-16
ccnet是一种用于语义分割的criss-cross attention技术。它可以在不同层次的特征图之间进行交叉注意力，以捕捉更多的上下文信息，从而提高分割的准确性。该技术已经在许多语义分割任务中取得了很好的效果。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值