ICCV 2021 | Swin transformer: Hierarchical vision transformer using shifted windows 阅读笔记

原创 已于 2022-06-11 16:31:05 修改 · 406 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#transformer #深度学习 #人工智能

于 2022-06-11 16:29:46 首次发布
SwinTransformer是微软亚洲研究院等机构提出的一种新型视觉Transformer，旨在解决Transformer在视觉任务中的尺度变化问题和高分辨率计算成本。通过引入分层结构和移位窗口机制，SwinTransformer实现了类似卷积网络的多尺度特征提取，并保持线性计算复杂度。该模型能应用于分类、检测和分割等任务，展示了在Transformer领域的创新应用。

Swin transformer: Hierarchical vision transformer using shifted windows

Author Unit: 1 ^1 1Microsoft Research Asia 2 ^2 2University of Science and Technology of China 3 ^3 3Xian Jiaotong University 4 ^4 4

最低0.47元/天 解锁文章
[ICCV2021]Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
wrk226的博客
10-13 646
动机 现在在CV中使用transformer的最大问题是运算量太大，因为图片的信息量远远大过NLP中文本的信息量，然后再做self attention会导致N平方的复杂度，这是不可以接受的，因此如何减少运算量是很重要的。而这篇文章就是提出了一个线性计算量的transformer结构 方法 之前的ViT考虑的是直接将一个图片分割，然后每个小块做embedding取到局部特征(？)，然后再对所有分割的...
Swin Transformer: Hierarchical Vision Transformer using Shifted Windows（ICCV2021）
sanguine__的博客
02-20 1359
本文提出了一种新的视觉Transform，称为Swin Transform，它可以作为计算机视觉的通用骨干。将Transformer从语言应用到视觉的挑战来自于这两个领域之间的差异，例如视觉实体规模的巨大差异以及与文本中的单词相比，图像中像素的高分辨率。为了解决这些差异，我们提出了一个分层的Transformer，它的表示是用移位窗口计算的。移位窗口方案将自注意计算限制在不重叠的局部窗口，同时允许跨窗口连接，从而提高了效率。这种层次结构具有在各种尺度上建模的灵活性，并且相对于图像大小具有线性计算复杂度。
Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 阅读理解
weixin_43656644的博客
04-05 2773
原文地址：https://arxiv.org/pdf/2103.14030.pdf 收录：CVPR 2021 Best paper 代码: https://github.com/microsoft/Swin-Transformer 摘要 目前Transformer从文本领域 应用到 图像领域主要有两大挑战： 视觉实体变化大，在不同场景下视觉Transformer性能未必很好 large variations in the scale of visual entities。但In existing
论文阅读【Swin Transformer: Hierarchical Vision Transformer using ShiftedWindows】
hei_hei_hei_的博客
05-18 455
Swin Transformer: Hierarchical Vision Transformer using ShiftedWindows 发表：2021 ICCV idea：主要是想改进transformer在视觉方向的速度。transformer从nlp到cv的挑战：这两个领域之间的差异，比如视觉实体的规模差异很大，图像中的像素与文本中的单词相比分辨率较高。之前的方法在分块中有重叠，导致性能不高，所以作者提出了一种层次变换器，其表示是用移位窗口计算的。移位窗口方案将自我注意计算限制在非重叠的局部窗口
Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 论文阅读笔记
read, note and comment papers
05-25 1063
这是微软亚洲研究院的一篇文章 文章目的在于探索将transformer用在vision问题上的可能性，从而充分利用transformer建模长依赖的能力 把NLP模型用到cv上要解决的一个问题在于，NLP的注意单元大小是固定的，就是一个token，然而cv的注意单元大小不固定，可能是10x10个像素组成的区域，也可能是100x100个像素，也就是element scale variation。 此外还有一个问题在于，一张图片张像素的数量比NLP一个passage中的token数量要大得多，也就是re.
论文阅读《Swin Transformer: Hierarchical Vision Transformer using Shifted Windows》
jackzhang11的博客
04-29 5942
论文链接：https://arxiv.org/abs/2103.14030 代码地址： https://github.com/microsoft/Swin-Transformer 开源15天，star超3k的作品。作者提出了一个基于transformer的backbone，可用于多种视觉任务。和以往ViT，DETR等结构不同的是，Swin Transformer通过shifted windows操作，实现了CNN里面的hierarchical的结构。这类hierarchical的结构更适用于不同的scale
Swin Transformer Hierarchical Vision Transformer
qq_14982565的博客
08-04 608
Swin Transformer
Swin Transformer：Hierarchical Vision Transformer using Shifted Windows （论文阅读笔记）
weixin_40671425的博客
12-25 4357
swin transformer 是微软亚研院胡瀚老师与2021年提出，发表在ICCV上并获得best paper 和马尔奖。是基于transformer的backbone网络，屠榜各大视觉任务。 论文链接：https://arxiv.org/abs/2103.14030 代码链接：https://github.com/microsoft/Swin-Transformer 摘要 本文介绍了一种称为 Swin Transformer 的新视觉 Transformer，它可以作为计算机视觉的...
Swin Transformer详解: Hierarchical Vision Transformer using Shifted Windows
热门推荐
qq_45122568的博客
05-16 1万+
这篇文章使用和CNN类似的分层提取特征，来达到扩大感受野的效果。是一个特征提取的主干网络，backbone。分层特征提取，不断减小“feature map”的大小（token的数量）。关键部分是Shift window移动窗口（W-MSA、SW-MSA）ViT中使用不重叠的窗口，但是忽略了相邻窗口间的相关性，而Swin-T使用shfit windown移动（M/2）来弥补。但这样会引入很大的计算量，那么作者又提出了cyclic-shift 循环位移，保证计算量不变，但是这样的移动会使得相邻窗口间不相关的部.
Swin Transformer: Hierarchical Vision Transformer using ShiftedWindows
weixin_43409991的博客
06-21 1321
Swin Transformer-ICCV马尔奖解读 PPT格式展现，小白易懂
（pytorch进阶之路六）Swin Transformer实现
qq_19841133的博客
07-17 2392
如果想详细的看还是得看论文《Swin Transformer: Hierarchical Vision Transformer using Shifted Windows》 Swin是shift和window两个单词的结合 Swin-T主要有4个点，patch embedding，Swin Transformer Block，patch merging， classification Swin-T对复杂度和效果都做了优化，CV和NLP领域效果都很好，对未来多模态方向提供方便 ......
【深度学习】论文阅读：（ICCV-2021））Swin Transformer
zhe470719的博客
03-17 7990
这里写目录标题论文详情VIT缺点改进点核心思想整体结构名称解释 Window、Patch、Token与vit区别结构过程Patch EmbeddingBasicLayerPatch MergingSwin Transform Block==Window Attention==Shifted Window Attention总结 论文详情 名称：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 地址：原论文 代码：
屠榜各大CV任务！Swin Transformer : 层次化视觉Transformer
阿木寺的博客
03-31 1831
目标检测刷到58.7 AP（目前第一）！ 实例分割刷到51.1 Mask AP（目前第一）！ 语义分割在ADE20K上刷到53.5 mIoU（目前第一）！ 性能优于DeiT、ViT和EfficientNet等主干网络，代码即将开源！ 注1：文末附【Transformer】交流群 注2：整理不易，欢迎点赞，支持分享！ 想看更多CVPR 2021论文和开源项目可以点击： https://github.com/amusi/CVPR2021-Papers-with-Code Swin Transformer: Hi
鱼类识别系统【最新版】Python+TensorFlow+Vue3+Django+人工智能+深度学习+卷积神经网络算法
最新发布
2301_78372746的博客
11-24 1987
鱼类识别系统，基于TensorFlow搭建卷积神经网络算法，通过收集了包括‘墨鱼’、‘多宝鱼’、‘带鱼’、‘石斑鱼’等在内的30种鱼类图像数据集进行训练，最后得到一个识别精度较高的模型，然后搭建Web可视化操作平台。前端后端：Django算法：TensorFlow、卷积神经网络算法具体功能系统分为管理员和用户两个角色，登录后根据角色显示其可访问的页面模块。登录系统后可发布、查看、编辑文章，创建文章功能中集成了markdown编辑器，可对文章进行编辑。
Week 26: 深度学习补遗：LSTM 原理与代码复现
MCHacker的专栏
11-23 977
本周对 LSTM模型利用PyTorch进行了复现，将其实现与数学形式进行了逐条对应，清晰、重点地理解门控机制与细胞状态与其在时序场景下的应用。在 2017 年 Transformer 架构（Attention 机制）横空出世之前，LSTM 曾是序列建模（NLP、语音、时序）的绝对王者。而在 2025 年的今天，它不再是唯一的 SOTA，但依然是非常棒的轻量级选择。本周阅读了一些时序预测领域的工作，发现LSTM在时序预测领域仍然相当活跃，在本周对LSTM进行了数学原理的复习、代码的简单复现和其应用场景的分析。
生成式AI开发入门：Python实现GAN与Diffusion模型
我是 二川兄，对Web开发、GIS开发、3D模型、机器学习、面试技巧等方面都有一些涉猎~ 欢迎您加入技术交流圈！你可以在我的文章末尾找到我~
11-23 1198
# 生成式AI开发入门：Python实现GAN与Diffusion模型
更换适配python版本直接进行机器学习深度学习等相关环境配置(非仿真环境)
qq_42217078的博客
11-23 247
​ 上一篇 最新的python3.14版本下仿真环境配置深度学习机器学习相关 在仿真环境下配置的 ，但是运行效率没有直接合适版本的快，故而重新配置 ​至此环境已完全配置就绪，可直接用于机器学习、深度学习、数据可视化等各类开发场景！ 整理不易，诚望各位看官点赞 收藏 评论 予以支持，这将成为我持续更新的动力源泉。若您在阅览时存有异议或建议，敬请留言指正批评，让我们携手共同学习，共同进取，吾辈自当相互勉励！
交通标志识别系统【最新版】Python+TensorFlow+Vue3+Django+人工智能+深度学习+卷积神经网络算法
2301_78372746的博客
11-22 662
交通标志识别系统，本项目基于TensorFlow框架，构建了一套完整的交通标志识别系统。系统采用卷积神经网络（CNN）算法，针对40种常见交通标志（包括“停车避让”“减速让行”“限速15千米”“注意行人”“禁止左转弯”等）构建数据集，通过多轮迭代训练，最终获得高精度识别模型，并实现了基于Web的可视化操作平台。前端后端：Django算法：TensorFlow、卷积神经网络算法具体功能系统分为管理员和用户两个角色，登录后根据角色显示其可访问的页面模块。
时间序列预测2025：Python中Prophet与LSTM对比分析
我是 二川兄，对Web开发、GIS开发、3D模型、机器学习、面试技巧等方面都有一些涉猎~ 欢迎您加入技术交流圈！你可以在我的文章末尾找到我~
11-22 3633
时间序列预测2025：Python中Prophet与LSTM对比分析
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值