MLP-Mixer: AN all MLP Architecture for Vision

已于 2024-02-19 17:20:44 修改
阅读量747 收藏 4
点赞数 9
文章标签： 论文阅读
于 2024-02-19 05:51:10 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/blueag1e/article/details/136161398
版权
这篇发表于NeurIPS2021的文章介绍了Mixer架构，一种深度视觉模型，它通过明确区分空间位置（通道混合）和跨位置（token混合）操作来增强特征融合。该架构使用MLP块执行这些操作，有助于改进视觉模型的性能和理解。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

  • 发表于NeurIPS 2021, 由Google Research, Brain Team发表。

在这里插入图片描述

Mixer Architecture

Introduction

  • 当前的深度视觉结构包含融合特征(mix features)的层:(i)在一个给定的空间位置融合。(ii)在不同的空间位置，或者一次融合所有。
  • 在CNN中，(ii) 是由N x N(N > 1 )卷积和池化完成的。更深的神经元有更深的感受野。同时 1 x 1的卷积完成了(i)。
  • 在 Vision Transformer和其他基于attention-based architectures，自监督层同时做到了(i)和(ii), 而MLP-blocks 做到了(i)。
  • 因此Mixer architecture的内在思想是去清晰区分per-location(channel-mixing) 操作(i) 以及cross-location(token-mixing)operations(ii)。这些操作都由MLPs完成。

Steps

  1. Mixer的输入是S个无重叠的图像块,每一块投影成维度C的隐层，也就是一个二维真值输入表， X ∈ R S × C X \in \mathbb{R}^{S \times C} X∈RS×C。 S维度就代表空间，C代表同一空间位置的不同特征。
  2. Mixer 包括同一尺寸的多层，每层包含两个MLP块。第一个是token-mixing MLP：作用于X的列（通过将X转置 X T X^T XT）。第二个是channel-mixing MLP：作用于行。
  3. 每一个模块包含两个全连接层和一个非线性层。
    在这里插入图片描述
    在这里插入图片描述

Code

[NIPS2021]MLP-Mixer: An all-MLP Architecture for Vision
shenlanshenyanai的博客
02-10 1891
卷积神经网络（CNN）是计算机视觉的首选模型。最近，基于注意力的网络（例如ViT）也变得很流行。在本文中，我们表明，尽管卷积和注意力都足以获得良好的性能，但它们都不是必需的。文章介绍了MLP-Mixer，这是一种仅基于多层感知机（MLP）的体系结构。MLP-Mixer包含两种类型的层：一种具有独立应用于图像patches的MLP（即“混合”每个位置特征），另一种具有跨patches应用的MLP（即“混合”空间信息）。 论文地址：https://arxiv.org/pdf/2105.01601.pdf ..
论文翻译--MLP-Mixer: An all-MLP Architecture for Vision
Bolly_He的博客
06-11 910
MLP-Mixer: An all-MLP Architecture for Vision MLP-Mixer:一个全MLP的视觉架构 Google Research, Brain Team paper: https://arxiv.org/abs/2105.01601 code: https://github.com/google-research/vision_transformer(暂未开源) 摘要 CNNs是CV的首选模型。最近，attention-based networks.
MLP-Mixer: An all-MLP Architecture for Vision
HHzdh的博客
10-16 3329
摘要 卷积神经网络(cnn)是计算机视觉的首选模型。最近，以注意力为基础的网络，如Vision Transformer也开始流行起来。在本文中，我们证明卷积和注意力对于良好的性能都是足够的，但它们都不是必要的。我们提出了MLP-Mixer，一个专门基于多层感知器(MLPs)的架构。MLP-Mixer包含两种类型的层:一种是独立应用于图像斑块的MLPs(即“混合”每个位置的特征)，另一种是跨斑块应用的mlp(即“混合”空间信息)。在大数据集上或使用现代正则化方案进行训练时，MLP-Mixer...
1 MLP-Mixer: An all-MLP Architecture for Vision
Drug discovery
12-20 7191
论文地址： MLP-Mixer: An all-MLP Architecture for Vision​arxiv.org/abs/2105.01601 1.1 MLP-Mixer原理分析 1.1.1 仅仅靠着MLP就真的无法解决复杂数据集的分类任务吗？ 神经网络主要有三个基本要素：权重、偏置和激活函数。 权重：神经元之间的连接强度由权重表示，权重的大小表示可能性的大小 偏置：偏置的设置是为了正确分类样本，是模型中一个重要的参数，即保证通过输入算出的输出值能不能随便激活。 激活函数：起非线
《MLP-Mixer: An all-MLP Architecture for Vision》2021
u010087277的博客
05-11 1727
摘要：卷积网络CNN是计算机视觉中的必用模型。最近，基于注意力机制的网络结构，比如视觉Transformer，也越来越流行。在这篇文章中我们将展示，虽然卷积和注意力机制是获得优良性能的必要结构，但它们都不是必须的。我们提出MLP-Mixer，一个仅仅基于多层感知机(MLPs)的结构。MLP-Mixer包含两种类型的网络层：一种是独立应用于图像patch的多层感知机MLPs(比如 "混合"每个局部特征)。另一个是应用于交叉patches的多层感知机（比如 “混合”空间信息）。当MLP-Mixer在大的数据集上
mlp-mixer: an all-mlp architecture for vision
06-28
mlp-mixer是一种全MLP架构，用于视觉任务。它使用多层感知机（MLP）来代替传统的卷积神经网络（CNN）来处理图像。这种架构的优点是可以更好地处理不同尺度和方向的特征，同时减少了计算和内存消耗。它在许多视觉任务...
论文阅读2：简短总结MLP-Mixer: An all-MLP Architecture for Vision
weixin_44320615的博客
01-26 360
总结 作者提出了用于图像分类任务的 MLP-Mixer，仅基于多层感知器 (MLP)。 MLP-Mixer 在流行的benchmarks中获得了具有竞争力的结果，其预训练和inference成本与最先进的方法相当。 MLP-Mixer 将一系列图像patches作为输入，并将每个patch投影到一维向量（一共维度为 CCC 的 SSS个 向量）。然后有 N 个大小相同的混合器层，每一层由一个token-mixing MLP（应用于维度 SSS）和一个channel-mixing MLP（应用于维度 CCC）
新坑来了！谷歌提出MLP-Mixer：一种用于视觉的全MLP架构
阿木寺的博客
05-05 784
一种仅基于多层感知机（MLP）的体系结构！可比肩并旨在超越成熟的CNN和大火的视觉Transformer的阵营工作，代码即将开源！ PS：这个能引爆一波视觉MLP工作么？也许之后是CNN、Transformer、MLP几大阵营了…谷歌继续挖坑，太强了！ 注1：文末附【Transformer】交流群 注2：整理不易，欢迎点赞，支持分享！ 想看更多CVPR 2021论文和开源项目可以点击： CVPR2021-Papers-with-Code ​ MLP-Mixer: An all-MLP Archi
附代码 MLP-Mixer: An all-MLP Architecture for Vision论文解读
weixin_44543648的博客
04-09 2194
MLP-Mixer: An all-MLP Architecture for Vision论文解读 参考连接：https://blog.youkuaiyun.com/weixin_44855366/article/details/120796804 摘要： 在不使用卷积或自我注意情况下，我们提出了MLP-Mixer，一个专门基于多层感知器(MLPs)的架构。MLP-Mixer包含两种类型的层：一种是将MLPs独立应用于image patch（即“混合”位置特征），另一种是跨patch应用的MLPs（即“混合”空间信息）
《MLP-Mixer: An all-MLP Architecture for Vision》的讲解
qq_42178122的博客
05-24 642
MLP-Mixer: An all-MLP Architecture for Vision 论文地址： https://arxiv.org/abs/2105.01601 可以不使用CNN和transformer，仅仅依靠MLP来解决复杂数据集的分类任务吗？ 《MLP-Mixer: An all-MLP Architecture for Vision》为了解决上诉问题，它仅仅依赖于基础矩阵乘法运算和数据的布局变换 (reshapes and transpositions) ，以及非线性层。结果表明，尽管Mix
MLP-Mixer:面向视觉的全mlp架构
最新发布
qq_45745941的博客
07-26 805
卷积神经网络(cnn)是计算机视觉的首选模型。最近，基于注意力的网络，如VIT，也变得流行起来。在本文中，我们证明了虽然卷积和注意力对于良好的性能都是足够的，但它们都不是必需的。我们提出了MLP-Mixer，一种完全基于多层感知器(mlp)的架构。MLP-Mixer包含两种类型的层:一种是独立应用于图像补丁的mlp(即“混合”每个位置的特征)，另一种是跨补丁应用的mlp(即“混合”空间信息)。
MLP-Mixer：An all-MLP Architecture for Vision
陈泊舟的博客
07-04 181
文章转自个人服务器：http://bbit.vip/service/main.php?version=2&type=article&id=ZXfHil488162l5G04QGd024K59
Day 3: MLP-Mixer: An all-MLP Architecture for Vision
ttppss的博客
05-08 326
本文是关于最新出来的多层感知机的文章，文章的主要贡献如下 作者霸气地说：“尽管卷积和注意力机制目前都取得了足够好的表现，但他们都是没有必要的”，也就是常说的“在座的各位都是XX”。原文：“In this paper we show that while convolutions and attention are both sufficient for good performance, neither of them are necessary.” MLP-Mixer主要是基于古老的多层感知机(MLP)
5分钟就能学会的简单结构 | MLP-Mixer: An all-MLP Architecture for Vision | CVPR2021
忽逢桃林的博客
06-07 568
文章转自：微信公众号「机器学习炼丹术」 作者：炼丹兄（欢迎交流，共同进步） 联系方式：微信cyx645016617 论文名称：「MLP-Mixer: An all-MLP Architecture for Vision」 论文链接：https://arxiv.org/pdf/2105.01601v1.pdf 「前沿」：最近忙各种各样的事情，更新慢了。抽空写一点。这一篇内容很简单，只需要5min就可以学完。 正文开始 我们提供了MLP-Mixer架构，之后简称Mixer。这是一个有竞争力，但是概念和技术都.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

BlueagleAI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值