Swin-Transformer 配置bug总结

最新推荐文章于 2025-03-12 13:33:27 发布
原创 最新推荐文章于 2025-03-12 13:33:27 发布 · 5.4k 阅读 · 14 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#transformer #bug #pytorch #深度学习 #目标检测

这篇博客介绍了如何解决Python中遇到的两个常见错误：ImportError关于_timm_interpolate模块导入失败，以及TypeError关于init函数收到意外的参数't_mul'。作者提供了解决方案，包括在build.py文件中修改导入语句以及在scheduler.py文件中删除多余的参数设置。
部署运行你感兴趣的模型镜像

ImportError

cannot import name ‘_pil_interp’ from ‘timm.data.transforms’ (D:\Anaconda3\Install\envs\pytorch\lib\site-packages\timm\data\transforms.py)

进入 build.py 文件，将头部的 import _pil_interp 改为导入 str_to_pil_interp，并在下面两处同样改动：

在这里插入图片描述
在这里插入图片描述

TypeError

init() got an unexpected keyword argument ‘t_mul’

进入scheduler.py 文件，直接删除掉 t_mul=1. 语句即可
在这里插入图片描述

您可能感兴趣的与本文相关的镜像

Python3.10

Python3.10

Conda
Python

Python 是一种高级、解释型、通用的编程语言，以其简洁易读的语法而闻名，适用于广泛的应用，包括Web开发、数据分析、人工智能和自动化脚本

记录pytorch环境下跑通Focal Transformer
RookiChen的博客
08-15 1656
今天上午下了个Focal Transformer跑图像分类，按照官方给的步骤来总是会报错（pytorch与cuda版本是对应的），上网搜了各种解决办法，现在记录下来，方便以后换服务器了再能跑通。
【SwinTransformer源码阅读一】build_loader部分代码
丑小鸭
07-15 1148
记录下SwinTranformer的阅读
解决TypeError: SwinTransformer: __init__() got an unexpected keyword argument ‘embed_dim‘
GZKPeng的博客
07-07 6583
Swin transformer复现遇到的问题及解决方法 问题：TypeError: SwinTransformer: init() got an unexpected keyword argument ‘embed_dim’
Swin Transformer训练报错问题
Evan_qin_yi_quan的博客
06-28 2426
原因： timm.data.transforms里面没有_pil_interp，只有str_to_pil_interp、_str_to_pil_interpolation、_pil_interpolation_to_str。解决办法：在build.py中将下面图中的 _pil_interp改为str_to_pil_interp，下图是已经改变后的。在 lr_scheduler.py中，点击进入进入到相应代码处，注释掉图中代码即可。改完上面两步后发现还有一个错误提示。
Swin-Transformer分类源码(已跑通)
沐阳的博客
05-19 1万+
这是跑通的分割源码介绍，大家有需要可以参考一下 1、Swin-Transformer分割源码(已跑通) 2、关于swin transformer原理的一些补充理解 3、Swin-Unet(分割改编) 一. 概要 最近swin-transformer大火，代码开源两天，girhub直接飙到1.9k。估计接下来关于和swin-transformer相结合的各种网络结构paper就要出来了，哈哈，我也是其中的一员，拼手速吧各位。它的原理网上的博客已经讲的非常的细致了，甚至还有带着读源代码的。这些大佬真的很
跑Swin-Transformer-Object-Detection过程中遇到的坑及解决
qq_42521345的博客
12-26 3293
代码地址：GitHub - SwinTransformer/Swin-Transformer-Object-Detection: This is an official implementation for "Swin Transformer: Hierarchical Vision Transformer using Shifted Windows" on Object Detection and Instance Segmentation. BUG1: 安装mmcv报了undefined sym
【Swin-T onnx】swin transformer 转 onnx Error解决
计算机视觉方面的点点滴滴，欢迎一起讨论
10-19 2442
解决方案：torch.cat中第二个参数是dim，不是dims。错误原因：pytorch版本问题，报错的这个版本是1.9.1。解决方案：pytorch版本升级为1.10.1即可。错误原因：torch.cat函数使用错误。推荐使用torch1.10以上的版本。错误原因：roll算子不支持。
Swin Transformer目标检测实验——测试自己的数据集
想太多的学习日志
11-28 2604
随着第二步的完成，竟然奇迹般的解决了0.0，这个用词只是说明了自己没搞懂这背后的原理，但是有些程序不就是bug运行的嘛（狗头），所以，最后想想应该就是batch size设置的问题，还有就是不要边安装软件边训练模型。 如果我哪天搞懂了，会持续更新的（应该），有不懂的可以留言或私信，不定时回复，作者也在摸索中，希望大家一起进步呀！
SWIN-UNET网络复现（高效无bug）
ghuuj90uio的博客
03-12 2230
SWIN-UNET训练解决问题
Swin-Transformer（原理 + 代码）详解
源仔
04-28 3万+
（二）代码的下载与配置 2.1、需要的安装包 官方源码下载 学习的话，请下载Image Classification的代码，配置相对简单，其他的配置会很麻烦。如下图所示： Install ： pytorch安装：感觉pytorch > 1.4版本都没问题的。 2、pip install timm==0.3.2(最新版本也行) 1、pip install Apex win 10系统下安装NVIDIA apex 这个我认为windows安装可能会很啃。 1、首先在github下载源码http
Swin transformer TypeError: __init__() got an unexpected keyword argument ‘t_mul‘
abc1831939662的博客
03-14 6043
Traceback (most recent call last): File "main.py", line 357, in <module> main(config) File "main.py", line 99, in main lr_scheduler = build_scheduler(config, optimizer, len(data_loader_train)) File "/home/ubuntu/wgp/Swin-Transformer/lr.
Jupyter按tab键无法补全，而且报错TypeError: __init__() got an unexpected keyword argument ‘column‘的解决办法
marsggbo的博客
01-30 2653
我在一个新的py环境里安装了jupyterlab后一直无法自动补全，可是原来的环境没这个问题，刚开始还以为是jupyter的版本问题，结果弄了好久也还是没用，最后看到了这篇博文才解决了,下面做个总结 首先我遇到的报错信息如下 [IPKernelApp] ERROR | Failed to open SQLite history /home/comp/18481086/.ipython/profile_default/history.sqlite (disk I/O error). [IPKernelApp]
TypeError: SwinTransformer: __init__() got an unexpected keyword argument
weixin_50952710的博客
11-15 2216
TypeError: SwinTransformer: __init__() got an unexpected keyword argument
Python ImportError 的一种可能原因及其解决方案：以 ImportError: cannot import name ‘_imaging‘ from ‘PIL‘ 为例
henry2k888的博客
08-22 1万+
标题：Python ImportError 的一种可能原因及其解决方案：以 ImportError: cannot import name ‘_imaging’ from ‘PIL’ 为例 先说结论 引用一个由 pip install 得到的模块，如果运行时报错 ImportError: cannot import name 'yyyyy' from 'xxxxx' （比如 ImportError: cannot import name '_imaging' from 'PIL'），可以去安装包的路径 Li
Python报错：ImportError: cannot import name ‘xxx‘ from ‘xxx‘
热门推荐
weixin_61908666的博客
10-21 4万+
Python报错：ImportError: cannot import name ‘xxx‘ from ‘xxx‘
timm库swin transformer v2故障诊断
最新发布
04-03
### 关于 timm 库中 Swin Transformer V2 的故障诊断 #### 可能的故障原因分析 1. **版本不兼容** 如果使用的 `timm` 版本较旧，可能无法支持最新的 Swin Transformer V2 模型。这是因为新模型通常依赖更新后的功能或修复过的 bug[^1]。 2. **配置文件错误** 在加载预训练权重时，如果配置文件中的参数设置不当（例如输入尺寸、通道数等），可能会引发异常。这通常是由于未正确匹配模型架构与权重所致[^2]。 3. **硬件资源不足** 训练或推理过程中，GPU 显存不足可能导致 OOM (Out of Memory) 错误。Swin Transformer V2 是一种计算密集型模型，尤其当窗口大小较大或分辨率较高时，显存需求会显著增加[^3]。 4. **数据处理问题** 数据增强方法（如 Cutout 和 Mixup）如果不适配当前任务场景，也可能导致模型行为异常。此外，数据标准化（mean/std 值）未正确设定也会干扰模型收敛过程。 --- #### 解决方案建议 ##### 方法一：升级 `timm` 库至最新版 确保安装的是最新版本的 `timm` 库，因为开发者会在后续版本中不断修复已知问题并优化性能。 ```bash pip install --upgrade timm ``` ##### 方法二：验证配置文件一致性 仔细核对所用的配置文件是否完全对应官方文档推荐的标准。可以通过打印日志来确认实际加载的超参是否符合预期。 ```python import timm model = timm.create_model('swinv2_base_window12to24_192to384', pretrained=True, num_classes=0) print(model.default_cfg) ``` 上述代码片段展示了如何创建一个无分类头的基础模型，并输出其默认配置信息。 ##### 方法三：调整硬件资源配置 对于 GPU 资源有限的情况，可以尝试以下措施缓解压力： - 减少批量大小 (`batch_size`)； - 使用混合精度训练技术（FP16 或 AMP）降低内存占用； - 启用梯度累积机制分摊单次前向传播所需的显存量。 以下是启用 PyTorch 自动混合精度的一个简单例子： ```python from torch.cuda.amp import GradScaler, autocast scaler = GradScaler() with autocast(): outputs = model(inputs) loss.backward() scaler.step(optimizer) scaler.update() ``` ##### 方法四：检查数据预处理逻辑 重新审视整个数据流水线设计，特别是以下几个方面： - 图像裁剪比例是否合理？ - 是否遗漏了必要的增广操作（比如随机水平翻转 Random Horizontal Flip）？ - 平均值和标准差是否基于目标数据集统计得出？ 下面是一段用于估算自定义数据集 mean 和 std 的脚本： ```python import numpy as np from torchvision.datasets import ImageFolder from torchvision.transforms import ToTensor dataset = ImageFolder(root='path/to/dataset', transform=ToTensor()) loader = DataLoader(dataset, batch_size=len(dataset), shuffle=False) def compute_mean_std(loader): images = next(iter(loader))[0].numpy() # shape: (N, C, H, W) mean = np.mean(images, axis=(0, 2, 3)) std = np.std(images, axis=(0, 2, 3)) return mean, std mean, std = compute_mean_std(loader) print(f'Mean: {mean}, Std: {std}') ``` --- ### 总结 通过对以上几个维度逐一排查，基本能够定位到大部分由 `timm` 中 Swin Transformer V2 所触发的问题根源所在。同时提醒注意保持环境整洁统一以及遵循最佳实践原则以减少潜在隐患发生概率。
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值