10 ConvNeXt

最新推荐文章于 2025-04-23 17:02:28 发布
最新推荐文章于 2025-04-23 17:02:28 发布
阅读量357 收藏
点赞数
分类专栏： 分类 文章标签： 深度学习 人工智能 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_63510030/article/details/130598371
版权
文章探讨了Transformer模型在某些情况下优于卷积神经网络(ConvNet)的原因，并提出通过改进ResNet结构，创建名为ConvNeXt的模型，旨在达到比两者更好的性能。实验中，作者详细介绍了ConvNeXt的Block设计和不同版本的网络配置，如T/S/B/L版本，其计算复杂度与SwinTransformer的对应版本相当。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

目录

一、 理论知识

 1. Block及网络模型

 2. 参数配置

二、 代码复现

仅是个人笔记，代码学习资源来源B站博主霹雳吧啦Wz的个人空间_哔哩哔哩_bilibili

一、 理论知识

论文作者认为可能各种新的架构以及优化策略促使Transformer模型比Conv的效果更好

使用相同的策略去训练卷积神经网络也能达到相同的效果吗？

相当于参考Swin-Transformer，改进resnet结构，最终达到比两者都好的效果。

做的实验，一步步改进如下：

 1. Block及网络模型

ConvNeXt-T 结构图

 2. 参数配置

ConvNeXt网络有T/S/B/L四个版本，计算复杂度刚好和Swin Transformer中的T/S/B/L相似。

ConvNeXt-T:      C = (96, 192, 384, 768),         B = (3, 3, 9, 3)
ConvNeXt-S:     C = (96, 192, 384, 768),         B = (3, 3, 27, 3)
ConvNeXt-B:     C = (128, 256, 512, 1024),     B = (3, 3, 27, 3)
ConvNeXt-L:     C = (192, 384, 768, 1536),     B = (3, 3, 27, 3)
ConvNeXt-XL:   C = (256, 512, 1024, 2048),   B = (3, 3, 27, 3)
其中C代表4个stage中输入的通道数，B代表每个stage重复堆叠block的次数
 

二、 代码复现

主干网络篇 | YOLOv10 更换主干网络之 ConvNext | 《纯卷积结构超越 ViTs》
YOLOv8项目贡献者
08-11 225
YOLOv10 更换主干网络之 ConvNext | 《纯卷积结构超越 ViTs》
ConvNeXt网络详解，最新ConvNeXt结合YOLO，催生YOLOv5目标检测巨变
学Java，找哪吒
05-18 3902
ConvNeXt的网络结构基于Inception-v4，但采用了更加灵活的多尺度卷积设计。具体而言，ConvNeXt将不同尺寸的卷积核组合成一个大的卷积核，从而提高感受野并减少参数数量。为了进一步降低参数数量和计算复杂度，ConvNeXt采用了分组卷积，并且在卷积层之间添加了批量归一化（Batch Normalization）和激活函数（ReLU）。
计算机视觉领域的轻量化模型——ConvNeXt 模型
DuHz的博客
02-03 3648
ConvNeXt 是一种高效的卷积神经网络（CNN）模型，它的设计融合了传统卷积神经网络和 Transformer 模型的优点，旨在提供更高效的计算性能，同时保留较高的准确率。通过对传统卷积神经网络架构的创新和优化，ConvNeXt 成为一个轻量化但强大的计算机视觉模型，适用于各种计算机视觉任务，如图像分类、物体检测、图像分割等。
CV-Model【8】：ConvNeXt
BUPTer
01-31 1528
随着ViT在计算机视觉领域大放异彩，越来越多的研究人员将工作重心放在上，在计算机视觉领域上CNN难道真的要被完全取代吗？本文长篇分析并设计 CNN 架构的若干技巧，对照的设计理念，渐进式“现代化”改造ResNet，取得了良好的效果，对深度网络的设计具有较大的参考价值分层变形器（如）重新引入了几个 ConvNet 先验，使得 Transformer作为通用视觉骨干实际上是可行的，并在各种视觉任务中表现出显著的性能。然而，这种混合方法的有效性仍然主要归功于的内在优势，而不是的内在归纳偏见。
【第2篇】ConvNeXT(CVPR2022) 力压Transformer，卷积网络还能再战！
最新发布
weixin_38647644的博客
04-23 773
ConvNext是一个向Transformer看齐的卷积神经网络，作者以ResNet为起源，参照Transformer、ResNeXT、以及MobileNetv2的一些结构特性进行模型结构的调整，取得了不错的指标(超越Swin)
【论文精读】ConvNeXt
weixin_44934783的博客
02-25 1547
ConvNeXt
深度学习网络模型——ConvNeXt网络详解、ConvNeXt网络训练花分类数据集整体项目实现
guoqingru0311的博客
02-17 4068
深度学习网络模型——ConvNeXt网络详解、ConvNeXt网络训练花分类数据集整体项目实现
Pruning filters for efficient convnets源码复现+全中文注释（初学者必备）
qq_41732756的博客
09-22 980
把我自己对这篇论文《Pruning filters for efficient convnets》的学习过程发出来，当时什么都不会，只能一点一点进行注释hhh train.py def train_network(args, network=None, data_set=None): # 将代码分配到设备 device = torch.device("cuda" if args.gpu_no >= 0 else "cpu") if network is None:
ResNet改进：融合ConvNeXt模块
Henry的博客
04-09 211
ConvNeXt是一种纯卷积神经网络架构，由Facebook AI Research (FAIR)在2022年提出，它通过现代化标准的卷积网络设计，达到了与Transformer模型(如Swin Transformer)相当甚至更好的性能。核心设计理念：ConvNeXt的核心理念是将标准ResNet逐步"现代化"，融入Vision Transformer(ViT)和Swin Transformer中的成功设计，同时保持纯卷积的结构。其主要特点包括：采用类似Transformer的分层结构。
ConvNeXt 论文笔记
T-SW的博客
04-26 2058
A ConvNet for the 2020s
PyTorch笔记 - A ConvNet for the 2020s (ConvNeXt) 训练
AGI
12-08 901
Paper：A ConvNet for the 2020s，FAIR，BerkeleyCode：https://github.com/facebookresearch/ConvNeXtConvNeXt去掉下采样层，就是与ViT各项同性ViT来源于DeiT -> ViT-S/B，MAE -> ViT-Lwarm-up的epoch增多源码： 训练main.py：训练命令： 多机多卡的训练 导入timm的库，实现非常多的CV模型。 ArgumentParser，终端传入参数 main源码：
ConvNeXt 源代码
01-14
github链接：https://github.com/facebookresearch/ConvNeXt
ConvNeXt网络结构搭建
m0_56247038的博客
06-14 3104
ConvNeXt网络详解_太阳花的小绿豆的博客-优快云博客13.1 ConvNeXt网络讲解_哔哩哔哩_bilibili
ConvNeXt理论讲解
Le0v1n 的博客
05-23 1874
ConvNeXt理论讲解
ConvNeXt网络介绍,搭建以及训练
热门推荐
博客首页
05-01 2万+
ConvNeXt网络介绍 今年(2022)一月份，Facebook AI Research和UC Berkeley一起发表了一篇文章A ConvNet for the 2020s，在文章中提出了ConvNeXt纯卷积神经网络，它对标的是2021年非常火的Swin Transformer，通过一系列实验比对，在相同的FLOPs下，ConvNeXt相比Swin Transformer拥有更快的推理速度以及更高的准确率，在ImageNet 22K上ConvNeXt-XL达到了87.8%的准确率，参看下图。 原
A ConvNet for the 2020s 代码复现（目标检测）
m0_49752107的博客
04-09 533
命令：python tools/train.py configs/convnext/mask_rcnn_convnext_tiny_patch4_window7_mstrain_480-800_adamw_3x_coco_in1k.py。问题：KeyError: “MaskRCNN: ‘ConvNeXt is not in the backbone registry’”ConvNeXt目标检测模型基于Swin-Transformer-Object-Detection模型，只要修改其中的配置文件即可。
【YOLOv8改进- Backbone主干】YOLOv8更换主干网络之ConvNexts，纯卷积神经网络，更快更准，，降低参数量！
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
07-15 2289
视觉识别的“咆哮20年代”开始于视觉Transformer（ViTs）的引入，ViTs迅速取代了卷积神经网络（ConvNets）成为最先进的图像分类模型。然而，普通的ViT在应用于诸如目标检测和语义分割等一般计算机视觉任务时面临困难。分层Transformer（例如Swin Transformer）重新引入了几种ConvNet先验知识，使得Transformer在实际应用中成为通用的视觉骨干，并在各种视觉任务中表现出色。
【ARXIV2201】ConvNeXt
OUC的搬砖日常
01-28 3241
论文：https://arxiv.org/abs/2201.03545 代码：https://github.com/facebookresearch/ConvNeXt Facebook 和 UC Berkeley 的科研人员提出了 ConvNeXt，对标的是2021年最火的 Swin Transformer，在相同的FLOPs下， ConvNeXt 比 Swin Transformer 拥有更高的准确率，在ImageNet 22K上达到 87.8% 。 论文本质上是一系列 Trick 的集合，主要包..
ConvNext模型复现--CVPR2022
冲出仁川，走出马德里，故事还会再继续
09-06 2256
ConvNet和Vision Transformer的ImageNet分类结果。我们证明了标准的 ConvNet 模型可以实现与分层视觉 Transformer 相同的可扩展性，同时在设计上要简单得多。视觉识别的“咆哮的 20 年代”始于 Vision Transformers (ViTs) 的引入，它迅速取代了 ConvNets，成为最先进的图像分类模型。另一方面，普通的 ViT 在应用于目标检测和语义分割等一般计算机视觉任务时面临困难。
ConvNeXt图像分类
03-16
### ConvNeXt 模型在图像分类中的应用 ConvNeXt 是一种基于卷积神经网络 (CNN) 的架构，在图像分类任务中表现出卓越性能。以下是关于如何使用 ConvNeXt 模型进行图像分类的详细介绍。 #### 使用预训练模型进行迁移学习 为了快速上手并利用已有的知识，可以使用预训练的 ConvNeXt 模型来进行迁移学习。以下是一个简单的 Python 脚本示例： ```python import torch from torchvision.models.convnext import convnext_tiny, ConvNeXt_Tiny_Weights # 加载预训练的 ConvNeXt-Tiny 模型及其权重 model = convnext_tiny(weights=ConvNeXt_Tiny_Weights.IMAGENET1K_V1) # 设置模型为评估模式 model.eval() # 创建一个随机输入张量作为模拟图像数据 image = torch.randn(1, 3, 224, 224) # 获取预测结果 with torch.no_grad(): output = model(image) print("Top 5 Predictions:", output.topk(5).indices) ``` 上述代码展示了如何加载预训练的 `ConvNeXt-Tiny` 模型，并对其进行推理[^2]。 --- #### 训练自定义数据集上的 ConvNeXt 模型 如果希望针对特定的数据集微调 ConvNeXt 模型，则需要完成以下几个部分的工作： ##### 数据准备 假设有一个包含多个类别的图像数据集，可以通过如下方式加载和分割数据集： ```python from sklearn.model_selection import train_test_split from torchvision.datasets import ImageFolder from torchvision.transforms import transforms # 定义数据转换操作 transform = transforms.Compose([ transforms.Resize((224, 224)), transforms.ToTensor(), ]) # 加载数据集 dataset = ImageFolder(root="path_to_dataset", transform=transform) # 切分数据集为训练集和验证集 train_set, val_set = train_test_split(dataset, test_size=0.3, random_state=42) print(f"Training samples: {len(train_set)}, Validation samples: {len(val_set)}") ``` 此代码片段实现了从本地目录加载图像数据的功能，并按比例划分成训练集和验证集[^4]。 --- ##### 微调 ConvNeXt 模型 对于微调过程，通常会冻结大部分层参数，仅更新最后一层全连接层的权值。下面展示了一个完整的流程： ```python import torch.optim as optim from torch.utils.data import DataLoader # 初始化模型并将最后的分类器替换为目标数量的类别数 num_classes = len(dataset.classes) model.classifier[-1] = torch.nn.Linear(model.classifier[-1].in_features, num_classes) # 将模型移动到 GPU（如果有） device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') model.to(device) # 配置损失函数与优化器 criterion = torch.nn.CrossEntropyLoss() optimizer = optim.AdamW(model.parameters(), lr=1e-4) # 准备数据加载器 batch_size = 32 train_loader = DataLoader(train_set, batch_size=batch_size, shuffle=True) val_loader = DataLoader(val_set, batch_size=batch_size, shuffle=False) # 开始训练循环 epochs = 10 for epoch in range(epochs): model.train() running_loss = 0.0 for images, labels in train_loader: images, labels = images.to(device), labels.to(device) optimizer.zero_grad() outputs = model(images) loss = criterion(outputs, labels) loss.backward() optimizer.step() running_loss += loss.item() avg_loss = running_loss / len(train_loader) print(f"Epoch [{epoch+1}/{epochs}], Loss: {avg_loss:.4f}") ``` 这段代码完成了对 ConvNeXt 模型的微调工作流，包括设置设备环境、配置优化算法以及执行多轮迭代训练[^3]。 --- ### 总结 以上介绍了两种主要场景下 ConvNeXt 模型的应用方法：一是直接使用预训练版本做推理；二是通过修改顶层结构适配新任务需求后再实施端到端训练。无论是哪种情况，都需注意合理设计数据管道以匹配实际业务背景下的约束条件。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值