课程六学习笔记：Swin Transformer-1

最新推荐文章于 2025-03-31 12:50:29 发布
最新推荐文章于 2025-03-31 12:50:29 发布
阅读量269 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： 从零开始学视觉Transformer学习笔记-已完结 文章标签： transformer 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_37486501/article/details/121762326
本文详细介绍了Swin Transformer的设计思想和结构，包括从大块补丁开始，逐步合并邻近补丁的过程，以及通过窗口注意力机制提高计算效率。Swin Transformer在视觉任务中提供了一种更细粒度的注意力模型，降低了计算复杂度，提高了性能。

课程六学习笔记：Swin Transformer-1

1. Vision Transformer回顾

请添加图片描述
即使添加了Class-Token，实际上也保持着相同的Patch大小。
而对于一张图而言，做分类的话，Patch大一点，可以捕捉到很多的信息；但是做目标检测等其他任务而言，我们需要更小的粒度（调节Patch的大小），Patch很小，可能会带来计算量的问题；Patch正常可能会不能很好的做下游任务。——————Swin Transformer诞生
请添加图片描述

2. Swin Transformer

Swin的特点: 1.从小Patch开始 ，逐层(Transformer Encoder)合并相邻Patch 2.计算Window Attention 3.提出Shifted Window操作，更有效计算Attention
请添加图片描述
1.网络结构操作：
Patch Merging：每过一层将P

了解本专栏 订阅专栏 解锁全文 超级会员免费看
课程七学习笔记： Swin Transformer-2
Wangzx的博客
12-07 375
课程七学习笔记： Swin Transformer-21. Swin Transformer回顾2.Shifted Window Multi-Head Self Attention3. Relative Position Bias4. 实战Swin Transformer 1. Swin Transformer回顾 2.Shifted Window Multi-Head Self Attention 让每个Token更能够看到整张图的信息。 之前的MSA：只在同一个颜色内部做Attention。 S
【图像去噪】论文精读：SUNet: Swin Transformer UNet for Image Denoising
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
11-09 1077
论文题目：SUNet: Swin Transformer UNet for Image Denoising —— SUNet:用于图像去噪的Swin Transformer UNetISCAS 2022！Swin U-Net用于图像去噪！图像恢复是一个具有挑战性的问题，也是一个长期存在的问题。在过去的几年里，卷积神经网络 (CNN) 几乎主导了计算机视觉，并在包括图像恢复在内的不同级别的视觉任务上取得了相当大的成功。
swin transformer总结
babbycool的博客
03-05 1850
记录swin transformer学习的点点滴滴
Swin-Transformer
陶将的博客
07-13 6536
本篇博文详细讲解ViT和Swim-Transformer
Swin Transformer理解
新时代农民工---码农
04-13 7435
最近在阅读transformer，也作个笔记，供学习使用。希望阅读者有CNN的基础，如YOLO,MobileNets，ResNet等,并且一定要先阅读ViT。不然读起来可能比较吃力。当然笔记也尽可能解释清楚 1 核心参考 ① B站跟李沐学AI ② Swin Transformer论文精读【论文精读】 友情提示：看完笔记，还需要阅读原文，去看代码，才会有大的收获。 2 研究背景：ViT的缺点 1、显存占用–Token数量。Token是指模型运行中的最小处理单元。ViT中的Token指的是一个Patch，T
Swin Transformer 学习笔记
qq_36936443的博客
04-20 8233
Swin Transformer 1. 前言 Vision Transformer只做了图片分类任务，表现了transformer在视觉领域的强大实力，但未表明transformer架构能cover掉CV领域的所有任务。Swin Transformer是2021年微软研究院发表在ICCV上的一篇文章，并且获得了ICCV 2021 best paper，其证明了transformer架构可以很好地用于所有的CV任务 Swin Transformer名字来自(Shifted...
Swin-Transformer 图像分割实战：使用Swin-Transformer-Semantic-Segmentation训练ADE20K数据集（语义分割
2401_83739951的博客
04-01 1258
github地址：https://github.com/SwinTransformer/Swin-Transformer-Semantic-SegmentationUbuntu20.04环境配置Ubuntu的环境配置相对简单一些，1、创建虚拟环境2、安装pytorch根据电脑的cuda版本选择pytorch，我试了1.6.0版本的可以。其他的版本在安装mmcv的时候有可能会出现问题。3、安装mmcv-full。
ICCV-2021-Swin-T: Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 阅读笔记
菜菜子hoho的博客
04-21 1425
目录一、Swin Transformer的整体架构及流程Swin变压器架构Stage 1Stage 2Stage 3Stage 4Swin Transformer block二、基于移动窗口的自我注意（Shifted Window based Self-Attention）非重叠窗口中的自我注意（Self-attention in non-overlapped windows）连续块中的移位窗口划分（Shifted window partitioning in successive blocks）移位配置的
swin transformer 总结
beizhengren的博客
10-20 8725
swin transformer 总结 1. 背景介绍 原名：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows 获奖：2021 ICCV Best Paper 2.文章介绍 2.1概括 Swin Transformer 是一种新型的transformer，可以用作视觉和语言处理的统一模型 特性 - 引出了一种具有层级的特征表达方式（基于self-attentation的shifted window） - 具有线性
Swin-Transformer听课笔记
记录
11-15 1908
Swin-Transformer是微软亚洲研究院发表于ICCV 2021的一篇论文，并获得了当年的最佳论文。对比 ViT，Swin-Transformer大大降低了计算量，提供了更加通用的基于Transformer的计算机视觉任务的主干网络，并且能应用到分类、检测、分割等多种计算机视觉任务中。
论文精读：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
qq_52053775的博客
08-14 2364
本文提出了一种新的，称为它能够作为计算机视觉的通用骨干网络。从语言到视觉的挑战来自于这两个领域之间的差异，比如视觉实体规模的变化很大，以及图像中像素比文本中单词的高分辨率。...
Swin Transformer 论文精读，并解析其模型结构
Flying Bulldog 的博客
08-02 5644
计算机视觉的建模从AlexNet在ImageNet分类挑战的良好表现开始，然后到目标检测的SSD、RCNN、YOLO等模型，一直由CNN主导。直到NLP领域中Transformer的崛起，并经ViT应用到视觉领域后，我们感受到了Transformer全局建模的强大之处。如摘要所述，图像喂入Transformer的计算复杂度远远高于语言的输入，故SwinTransformer诞生了，接下来通过精读此论文揭晓Swin的创新思想。一、摘要，以及图像中像素相对于文本中单词的。hifted二、结论。...
论文阅读笔记：Swin Transformer
HollowKnightz的博客
02-03 5574
论文阅读笔记：Swin Transformer
Swin Transformer自学笔记（自留看）
最新发布
jingshenamie的博客
03-31 352
层次化移位窗口最烦做笔记了 啥也记不住 算了就这样吧。
语义分割算法分享之Swin-Transformer
热门推荐
xuzz_498100208的博客
10-14 1万+
在ViT等基础之上继续演变的Swin刚刚拿到了ICCV2021的 best paper，经过实际使用体验来看，确实效果较好，从语义分割角度来看，Swin不仅在ADE20K取得了sota的效果，在各个其他场景数据集下都有极为优秀的表现，精度相比PSPnet和deeplabv3+等基于CNN的分割算法都有较大提升。
第6周学习笔记：Vision Transformer Swin Transformer
qq_45358370的博客
08-18 2528
一.Vision Transformer 1 模型架构 2. Hybrid模型 3. 模型代码学习 二 .Swin Transformer 1网络整体框架 2 Patch Merging 3 W-MSA（Windows Multi-head Self-Attention） 4 SW-MSA 5 相对位置偏执 三. ConvNeXt 1. Macro design 2. ResNeXt 3. Inverted Bottleneck 4. Large Kernel Sizes
Swin-Transformer（2021-08）
GY-赵的博客
06-25 1254
一直到写下这篇笔记开始，基于Swin的模型仍在paperwithcode上仍然霸榜Object Detection等多个榜单。 很多博客都已经介绍的非常详细了，这里只记录一下自己学习过程中遇到的困惑。 Swin与ViT的对比，ViT将image划分为固定大小的patch，以patch为单位进行attention计算，计算过程中的feature map 分辨率是保持不变的，并且ViT为了保持与NLP的一致性，添加了一个额外的class token，最后用于分类。因此ViT不太适用于检测等下游任务，无法提取多
Swin Transformer阅读笔记
qq_39686950的博客
05-24 1296
文章目录一、介绍二、实现细节三、实验四、结论 一、介绍   该论文最终修订于2021年3月25日，全名为《Swin Transformer: Hierarchical Vision Transformer using Shifted Windows》，题目展示了该论文的两个创新点，Hierarchical表示用分层结构，第二点是Shifted Window。   从语言到视觉主要面临两个问题：在之前基于transformer的计算机视觉任务中，token有固定的大小，而不同的视觉任务规模变化大，因此需要.
Swin Transformer论文阅读笔记
m0_46223011的博客
10-04 2066
Swin Transformer阅读笔记 文章目录Overall ArchitectureSwin Transformer BlockShifted Windows based Self-Attentionself-attention in non-overlapped windowsShifted window partitioning in successive blocksEfficient batch computation for shifted configurationRelative po
swin-transformer
08-18
- *3* [神经网络学习笔记5——Swin-Transformer网络](https://blog.youkuaiyun.com/qq_45848817/article/details/127105956)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Laura_Wangzx

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值