精选论文集｜Transformer在视觉领域中的应用

最新推荐文章于 2025-01-11 06:00:00 发布
最新推荐文章于 2025-01-11 06:00:00 发布
阅读量519 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： 人工智能 Vision Transformer 文章标签： 计算机视觉 Transformer
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/soaring_casia/article/details/118030884
本文集精选了CVPR2021中的31篇视觉Transformer论文及30篇高引用量的Transformer研究文献，覆盖了该领域的最新进展和技术突破。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Transformer是google 在 2017 年提出的用于机器翻译的模型，在NLP的多个任务上取得了非常好的效果，当前是几乎所有NLP基准测试最为先进的方法。Transformer 由于其出色性能以及对下游任务的友好性，许多人在计算机视觉领域不断尝试将其引入。

在2021上半年，Vision Transformer的研究热点达到了前所未有的高峰。

今天为大家整理了关于Transformer的论文集。

本论文集包含了两个方面，一个是CVPR 2021视觉Transformer论文集，一个是Transformer高引用量论文集，其中后者还包括论文的参考文献。

1.CVPR 2021视觉transformer论文集（31篇）

 点击可查看大图

2.Transformer高引用量论文集（30篇）

论文标题后的数字为引用量

 点击可查看大图

 点击可查看大图

快来点击下方链接，获取PDF版论文吧！

https://www.shenlanxueyuan.com/page/91

Transformer及其变体模型在计算机视觉领域应用论文盘点
lqfarmer的博客
07-24 531
Attention Is All You Need是一篇Google提出的将Attention思想发挥到极致的论文。这篇论文中提出一个全新的模型，叫 Transformer，抛弃了以往深度学习任务里面使用到的 CNN 和 RNN ，目前大热的Bert就是基于Transformer构建的，这个模型广泛应用于NLP领域，例如机器翻译，问答系统，文本摘要和语音识别等等方向。 计算机视觉是一门关于如何运用照相机和计算机来获取我们所需的，被拍摄对象的数据与信息的学问。形象地说，就是给计算机安装上...
Transformers在计算机视觉领域中的应用【第1篇：ViT——Transformer杀入CV界之开山之作】
https://github.com/Donvink，专注于计算机视觉、目标检测、目标跟踪等方向
12-01 1008
本文详细介绍了ViT的模型结构、前向过程、思考和结论。
计算机视觉中的Transformer
AI蜗牛车
03-19 3586
作者：Cheng He编译：ronghuaiyang导读将Transformer应用到CV任务中现在越来越多了，这里整理了一些相关的进展给大家。Transformer结构已经在许多自然语言...
解决NLP任务的Transformer为什么可以应用于计算机视觉？
python123456_的博客
08-14 812
作者建议在图像中masked大约75%的patch，这可能令人惊讶；BERT只会masked大约15%的单词。他们这样解释：
Transformer文献阅读
轻舟已过万重山
08-27 583
文献阅读
论文阅读——Vision Transformer(ViT)
qq_36919342的博客
04-21 4288
An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale1. Motivation2.
视觉领域_Transformer技术_近期研究论文集_学术参_1744169128.zip
最新发布
04-13
论文集可能还包含了Transformer技术在特定实际问题中的应用案例分析，例如自动驾驶中的视觉感知、医疗图像分析等。 Transformer技术在视觉领域的研究呈现出多样化和深入化的特点，展示了该技术在图像处理领域的巨大...
计算机视觉“新“范式: Transformer
chinansa的博客
01-11 922
目标检测：如DETR等模型，利用Transformer的全局建模能力，直接对图像中的目标进行检测和定位，无需像传统方法那样依赖手工设计的anchor等机制，简化了目标检测的流程。长程依赖建模能力强：能够有效捕捉图像中相距较远的区域之间的关系，比如在一幅包含多个物体的场景图像中，能很好地理解不同物体之间的空间关系和相互作用，这是传统CNN难以做到的。语义分割：通过Transformer对图像中的每个像素进行分类，确定其所属的物体类别或语义区域，能够更好地捕捉图像中的上下文信息，提高分割的准确性。
NLP 新范式 Transformer 模型在计算机视觉领域的应用如何？
Python4857的博客
12-11 1412
编者按：Transformer 模型在自然语言处理（NLP）领域已然成为一个新范式，如今越来越多的研究在尝试将 Transformer 模型强大的建模能力应用到计算机视觉（CV）领域。那么未来，Transformer 会不会如同在 NLP 领域的应用一样革新 CV 领域？今后的研究思路又有哪些？微软亚洲研究院多媒体搜索与挖掘组的研究员们基于 Vision Transformer 模型在图像和视频理解领域的最新工作，可能会带给你一些新的理解。 作为一个由自注意力机制组成的网络结构，Transformer.
TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE（Transformer 在图像中的应用）翻译
wang6562009的专栏
08-04 1334
虽然Transformer架构已成为自然语言处理任务的实际标准，但其在计算机视觉领域的应用仍然有限。在计算机视觉中，注意力机制要么与卷积网络结合使用，要么用于替换卷积网络的某些组件，同时保持其整体结构不变。我们证明了这种对卷积神经网络（CNN）的依赖并不是必需的，并且直接应用于图像块序列的纯Transformer在图像分类任务上可以表现得非常好。
最新！CVPR 2021 视觉Transformer论文大盘点（43篇）
阿木寺的博客
05-31 7964
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达作者：Amusi | 来源：CVer前言从2020下半年开始，特别是2021上半年，Visual Transform...
经典论文之（三）——Transformer
qq_43212927的博客
01-07 1356
小白读论文
【Transformer 论文精读】……Transformer ……（Transformer开山之做:Attention Is All Y ou Need)
深度不学习！！的博客
06-04 1283
今天看一下号称取代CNN和RNN的transformer模型，走起~。摘要里作者直接说他提出了一种叫做transformer模型，其完全抛弃了原始的循环和卷积神经网络，是一种基于注意力机制的模型。并且取得了比当时最佳模型更好的效果，我发现写论文都是这一套，都是比最好更好。不过我看作者在摘要中的介绍，好像这是一个擅长NLP的模型，虽然我对NLP模型RNN模型涉猎的并不多，但这篇论文不能略过。作者说了一下当下的NLP方向的模型，RNN、LSTM、GRU等，具有编码解码器的结构模型。随后开始点评RNN模型，RNN
Transformer论文引用量破4万！两位作者离职谷歌创业，专攻通用人工智能！
阿木寺的博客
05-10 694
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达丰色 发自 凹非寺转载自：量子位（QbitAI）最近，一家AI初创公司引起了不少人的注意。在推特上宣布成立之时，有不少人为其点赞和转发。一上来就要搞通用人工智能，什么来头？我们看了一下它的创始人名单：Ashish Vaswani和Niki Parmar，这不是大名鼎鼎的Transformer论文作者吗？这...
【Transformer 论文精读】……ViT……(TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE)
深度不学习！！的博客
06-08 1522
论文题目：AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE原文下载连接：https://arxiv.org/pdf/2010.11929.pdf前两天读Transformer最原始的那个论文，基于NLP方向写的，全是NLP的知识点，给我读的痛苦死了，今天这终于来了个CV方向的。论文题目前半段是 就是将图片分解成16 * 16的网格，就像yolo的那个grid cell。这样的话可能将每个小格子当成一个单词
论文笔记——TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE
unamable的博客
10-26 386
一、背景 1.Transformer 架构早已在自然语言处理任务中得到广泛应用 2.在计算机视觉领域，注意力要么与卷积网络结合使用，要么用来代替卷积网络的某些组件，同时保持其整体架构不变。 3.基于自注意力的架构，尤其 Transformer，已经成为 NLP 领域的首选模型。该主流方法基于大型文本语料库进行预训练，然后针对较小的任务特定数据集进行微调。由于 Transformer 的计算效率和可扩展性，基于它甚至可以训练出参数超过 100B 的模型。随着模型和数据集的增长，性能仍然没有饱和的迹象。
多标签分类(三): Multi-Label Image Recognition with Graph Convolutional Networks
weixin_43436958的博客
08-31 9965
基于卷积网络的多标签图像识别 摘要   多标签图像识别的任务是预测图像中出现的一组目标标签。由于目标通常同时出现在图像中，为了提高识别性能，需要对标签依赖进行建模。为了捕获和探索这种重要的依赖关系，我们提出了一种基于图卷积网络(Graph Convolutional Network GCN)的多标签分类模型。该模型在对象标签上构建了一个有向图，其中每个节点(标签)用标签的单词嵌入表示，GCN学习了如何将这个标签图映射到一组相互依赖的对象分类器中,这些分类器应用于由另一子网提取出来的图像描述符，使整个网络具有
transformer论文_EMNLP2020 | 近期必读Transformer精选论文
weixin_35618325的博客
02-02 1092
AMiner平台由清华大学计算机系研发，拥有我国完全自主知识产权。平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱，提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线，吸引了全球220个国家/地区1000多万独立IP访问，数据下载量230万次，年度访问量超过1100万，成为学术搜索和社会网络挖掘研究的重要数据和实验平台。A...
Transformer在计算机视觉领域走到哪了？
阿木寺的博客
05-21 1622
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达本文转载自：微软研究院AI头条编者按：Transformer 模型在自然语言处理（NLP）领域已然成为一个新范式，如今越...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值