timm使用swin-transformer

原创 已于 2023-02-23 16:09:17 修改 · 8.5k 阅读 · 28 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#transformer #深度学习 #人工智能

于 2023-02-22 22:58:23 首次发布
文章介绍了如何使用timm库安装和加载Swin及VisionTransformer的预训练模型，包括遇到的下载问题及其解决方案，并提供了模型列表供参考。

1.安装

pip install timm

2.timm中有多少个预训练模型

#timm中有多少个预训练模型
model_pretrain_list = timm.list_models(pretrained=True)
print(len(model_pretrain_list), model_pretrain_list[:3])

在这里插入图片描述

3加载swin模型一般准会出错

model_ft = timm.create_model('swin_base_patch4_window7_224', pretrained=True, drop_path_rate = 0.2)

在这里插入图片描述
报错的内容如下

Downloading: "https://github.com/SwinTransformer/storage/releases/download/v1.0.0/swin_base_patch4_window7_224_22kto1k.pth" to /root/.cache/torch/hub/checkpoints/swin_base_patch4_window7_224_22kto1k.pth

解决办法 去swin官网下载对应的swin_base_patch4_window7_224.pth（所有模型我都存自己百度网盘了）文件 然后根据提示 重命名为swin_base_patch4_window7_224_22kto1k.pth
再将该文件移动到/root/.cache/torch/hub/checkpoints/ 该目录下
这样timm就可以爽歪歪的用了

4下载预训练模型的官网

  • 官网：https://github.com/microsoft/Swin-Transformer 官网提供了百度云的下载连接
最低0.47元/天 解锁文章
Swin Transformer实战： timm使用、Mixup、Cutout和评分一网打尽，图像分类任务
2301_82242251的博客
04-13 1205
ACC = 0。
swin_base_patch4_window7_224_22kto1k.pth
05-08
swin_base_patch4_window7_224_22kto1k下载
Swin Transformer实战：timm中的 Swin Transformer实现图像分类（多GPU）。
02-22
本例提取了植物幼苗数据集中的部分数据做数据集，数据集共有12种类别，演示如何使用timm版本的Swin Transformer图像分类模型实现分类任务已经对验证集得分的统计，本文实现了多个GPU并行训练。 通过本文你和学到： 1、如何从timm调用模型、loss和Mixup？ 2、如何制作ImageNet数据集？ 3、如何使用Cutout数据增强？ 4、如何使用Mixup数据增强。 5、如何实现多个GPU训练和验证。 6、如何使用余弦退火调整学习率？ 7、如何使用classification_report实现对模型的评价。 8、预测的两种写法。
告别图像加载难题：pytorch-image-models数据流水线全解析
最新发布
gitblog_00604的博客
09-26 1063
你是否还在为图像识别项目中的数据加载效率低下而烦恼？是否因预处理步骤繁琐导致模型训练停滞不前？本文将系统拆解pytorch-image-models（简称timm）的数据加载机制，从图像解码到预处理转换，带你掌握高效视觉数据流水线的实现方案。读完本文，你将能够： - 理解timm数据加载的核心组件与工作流程 - 配置高性能的图像预处理管道 - 解决常见的数据加载瓶颈问题 ## 数据加载核心架构 ...
swin_tiny_patch4_window7_224.pth
05-07
swin unet预训练权重swin_tiny_patch4_window7_224.pth
精选资源
Swin-Transformer 图像分类网络实战项目：MIT-BIH心电图像分类数据集迁移学习项目
03-05
基于Swin-Transformer网络对MIT-BIH心电图像分类数据集迁移学习项目，包含代码、数据集和训练好的权重文件，可直接运行。 这里不是数据的全部，原数据转换后的图像有9W张，这里只使用了一小部分子集来训练 项目总...
Swin-Transformer
08-20
Swin-Transformer是2021年微软研究院发表在ICCV上的一篇文章，并且已经获得ICCV 2021 best paper的荣誉称号。虽然Vision Transformer (ViT)在图像分类方面的结果令人鼓舞，但是由于其低分辨率特性映射和复杂度随图像...
Swin-Transformer模型和参数
qq_43275608的博客
10-28 1684
Swin Transformer（Swin 的意思是 Shifted window）最初在 arxiv 中描述，能够作为计算机视觉的通用骨干。它基本上是一个分层 Transformer，其表示通过位移窗口计算。位移窗口方案通过将自注意力计算限制在不重叠的局部窗口中，同时允许跨窗口连接，从而提高了效率。
swin transformer 源码解读（timm版）
乐趣是人为构建的，构建是一种莫大的乐趣。
04-06 3542
代码整体脉络： 1.window_partition(将B, H, W, C 张量变换形状为num_windowsB, window_size, window_size, C张量) 2.window_reverse 自然是windows_partition的反过程 3.WindowAttention 接受window_partition的view以后的结果:num_winB, window_size*window_size, C.实质是对每一个窗口做窗口内部的自注意力。下图代码是block的前向的部分截图，
PyTorch中利用timm库实现28个视觉Transformer模型并进行代码解析
03-31
内容概要：本文主要介绍了PyTorch中的一个强大开源库——timm库，重点讲解了如何使用timm库实现28个视觉Transformer模型。文中首先概述了timm库的特点和优势，接着深入剖析了vision_transformer.py文件中的关键代码片段，包括模型配置、嵌入层、注意力机制、残差连接、位置编码等重要组件的具体实现方法。此外，还探讨了如何自定义新的视觉Transformer模型，特别是基于ViT和DeiT的改进版本。最后，提供了详细的代码示例和使用指南，帮助读者快速理解和应用这些先进的视觉Transformer模型。 适合人群：对深度学习尤其是计算机视觉方向感兴趣的科研人员和技术爱好者，熟悉Python编程语言并且有一定PyTorch使用经验的人士。 使用场景及目标：适用于希望深入了解视觉Transformer内部运作机制的研究人员，或者想要构建高效图像识别系统的工程师。通过学习本文提供的理论知识和实际案例，能够更好地掌握timm库的应用技巧，从而加速研究进展或提高项目开发效率。 其他说明：文章不仅限于理论讲解，还包括大量实用的操作指导，如模型选择、参数调整、性能优化等方
Swin Transformer实战： timm使用、Mixup，附大厂真题面经
03-23 623
ACC = 0。
Swin Transformer
m0_46378271的博客
05-06 673
一、timm库中的swin transformer 它的forward_features和forward函数： 输入x先经过x = self.patch_embed(x) 经过基础块x = self.layers(x)【SwinTransformerBlock类在BasicLayer类中用到了，而PatchMerging类和BasicLayer类也在SwinTransformer类中用到了，所以最后都在SwinTransformer类中的forward中出现了】 ...
timm的vit (vision transformer), swin Transformer源码仓库-无优化版
vivi_cin的博客
11-03 657
放一个github上的无优化版仓库，可以基于这个来魔改代码：swin transformer的官方代码：swin transformer的讲解可以看这里：
2024年最新Swin Transformer实战：使用 Swin Transformer实现图像分类。
2301_82243883的博客
05-02 2623
CUDA版本：11.22、创建虚拟环境swin。
如何使用Swin-Transformer和迁移学习对花数据集进行图像分类，并分析其性能指标？请结合《Swin-Transformer实现花数据集分类与迁移学习》资源进行解答。
11-08
在使用Swin-Transformer进行图像分类任务时，迁移学习是一个非常重要的环节，它允许我们利用预训练模型在大型数据集上学习到的特征来提高特定任务的性能。对于花数据集的分类任务，可以通过以下步骤来实现并分析性能指标： 参考资源链接：[Swin-Transformer实现花数据集分类与迁移学习](https://wenku.youkuaiyun.com/doc/5fy5gibm3t?spm=1055.2569.3001.10343) 首先，你需要安装PyTorch和相关库，并确保已经下载了花数据集。然后，根据《Swin-Transformer实现花数据集分类与迁移学习》中的指示，将数据集放置在正确的目录结构中，以便模型能够正确加载数据。 接下来，使用Swin-Transformer预训练模型作为起点。在PyTorch中，通常可以通过调用预定义的模型并加载相应的预训练权重来实现这一点。例如，使用以下代码加载预训练的Swin-Transformer模型： ```python from timm.models import swin_transformer model = swin_transformer(pretrained=True) ``` 在模型准备就绪后，你需要根据数据集的类别数调整模型的最后几层，以适应新的分类任务。这通常涉及替换或重新初始化最后的全连接层。 在训练过程中，设置合适的超参数至关重要。根据资源，你可以调整学习率、批次大小和优化器等参数。值得注意的是，资源中还提到了Cosine衰减学习率曲线，这是一种能够帮助模型在训练过程中稳定收敛的学习率调度策略。 在训练过程中，使用混淆矩阵、精确度（accuracy）和召回率等指标来评估模型性能非常重要。精确度反映了模型预测正确的样本占总预测样本的比例，而召回率则衡量了模型成功识别的正样本占实际正样本的比例。混淆矩阵提供了分类问题中每个类别的详细性能指标，能够帮助我们了解模型在不同类别上的表现。 训练完成后，你可以使用以下代码来计算和打印混淆矩阵： ```python import sklearn.metrics as metrics y_true = [...] y_pred = [...] cm = metrics.confusion_matrix(y_true, y_pred) print(cm) ``` 精确度和召回率可以通过以下方式计算： ```python precision = metrics.precision_score(y_true, y_pred, average='macro') recall = metrics.recall_score(y_true, y_pred, average='macro') print('Precision:', precision) print('Recall:', recall) ``` 在性能评估完成后，根据《Swin-Transformer实现花数据集分类与迁移学习》资源的代码解读，你可以调整模型的参数并重复上述训练和评估过程，直到达到满意的性能为止。 通过《Swin-Transformer实现花数据集分类与迁移学习》这一资源，你可以全面学习到如何使用Swin-Transformer模型进行高效的图像分类，以及如何通过迁移学习来优化模型性能。资源中不仅提供了完整的代码示例，还详细解释了每个代码段的作用，这将帮助你在实际应用中快速搭建和调试模型。 参考资源链接：[Swin-Transformer实现花数据集分类与迁移学习](https://wenku.youkuaiyun.com/doc/5fy5gibm3t?spm=1055.2569.3001.10343)
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值