阿木寺的博客

本文提出了Fast Language-Image Pre-training (FLIP)，这是一种简单且更有效的训练CLIP的方法。

本文提出了Fast Language-Image Pre-training (FLIP)，这是一种简单且更有效的训练CLIP的方法。

Pix2Seq：一个简单而通用的目标检测新框架， 其将目标检测转换为语言建模任务，大大简化了pipeline，性能可比肩Faster R-CNN和DETR！还可扩展到其他任务。注1：有点像去年看到DETR的感觉，都是没有对标sota，而是跟milestone比较。所以这一两年都要把CV看成NLP来搞么，或者说大统一注2：文末附【Transformer】和【目标检测】交流群Pix2seqPix2seq: A Language Modeling Framework for Object Detectio

Pix2Seq：一个简单而通用的目标检测新框架， 其将目标检测转换为语言建模任务，大大简化了pipeline，性能可比肩Faster R-CNN和DETR！还可扩展到其他任务。注1：有点像去年看到DETR的感觉，都是没有对标sota，而是跟milestone比较。所以这一两年都要把CV看成NLP来搞么，或者说大统一注2：文末附【Transformer】和【目标检测】交流群Pix2seqPix2seq: A Language Modeling Framework for Object Detectio

非常期待YOLOv6（YOLOv4/v5已发布一年了），白嫖真香！其中YOLOX-L版本以 68.9 FPS 的速度在 COCO 上实现了 50.0% AP，比 YOLOv5-L 高出 1.8% AP！还提供了支持 ONNX、TensorRT、NCNN 和 Openvino 的部署版本。代码刚刚开源！YOLOXYOLOX: Exceeding YOLO Series in 2021作者单位：旷视科技代码：https://github.com/Megvii-BaseDetection/YOLO

非常期待YOLOv6（YOLOv4/v5已发布一年了），白嫖真香！其中YOLOX-L版本以 68.9 FPS 的速度在 COCO 上实现了 50.0% AP，比 YOLOv5-L 高出 1.8% AP！还提供了支持 ONNX、TensorRT、NCNN 和 Openvino 的部署版本。代码刚刚开源！YOLOXYOLOX: Exceeding YOLO Series in 2021作者单位：旷视科技代码：https://github.com/Megvii-BaseDetection/YOLO

前言一共搜集了65篇2D目标检测论文，涉及：通用目标检测、旋转目标检测、Few-shot/自监督/半监督/无监督目标检测等方向。作者：Amusi | 来源：CVerCVer 正式盘点CVPR 2021上各个方向的工作，本篇是热度依然很高的2D目标检测论文大盘点，之前已分享：最新！CVPR 2021 视觉Transformer论文大盘点（43篇）最新！CVPR 2021 OCR领域论文大盘点（22篇）关于更多CVPR 2021的论文和开源代码，可见下面链接：CVPR2021 Papers wit

本文系统调研了CNN和Transformer的特性，并将两者结合提出新的家族式网络：CoAtNet，无额外数据时高达86%准确率，在JFT加持下，高达89.77%！性能优于CvT、BotNet和Swin等网络。谷歌两天祭出两大Backbone，昨天的ViT-G，今天的CoAtNet…注：别老收藏呀，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​CoAtNetCoAtNet: Marrying Convolution a

本文系统调研了CNN和Transformer的特性，并将两者结合提出新的家族式网络：CoAtNet，无额外数据时高达86%准确率，在JFT加持下，高达89.77%！性能优于CvT、BotNet和Swin等网络。谷歌两天祭出两大Backbone，昨天的ViT-G，今天的CoAtNet…注：别老收藏呀，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​CoAtNetCoAtNet: Marrying Convolution a

本文改进了ViT的架构和训练，减少了内存消耗并提高了模型的准确性！最终成功训练了一个具有20亿参数的ViT模型：ViT-G，在ImageNet上达到了90.45%的 top-1准确率。注1：文末附【视觉Transformer】交流群想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​ViT-GScaling Vision Transformers作者单位：谷歌大脑（苏黎世），有原ViT一作和二作论文：https://arxiv.org/a

本文改进了ViT的架构和训练，减少了内存消耗并提高了模型的准确性！最终成功训练了一个具有20亿参数的ViT模型：ViT-G，在ImageNet上达到了90.45%的 top-1准确率。注1：文末附【视觉Transformer】交流群想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​ViT-GScaling Vision Transformers作者单位：谷歌大脑（苏黎世），有原ViT一作和二作论文：https://arxiv.org/a

前言将 Transformer 与轻量级多层感知 (MLP) 解码器相结合，表现SOTA！性能优于SETR、Auto-Deeplab和OCRNet等网络，代码即将开源！注1：文末附【视觉Transformer】交流群想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​SegFormerSegFormer: Simple and Efficient Design for Semantic Segmentation with Transformer

前言将 Transformer 与轻量级多层感知 (MLP) 解码器相结合，表现SOTA！性能优于SETR、Auto-Deeplab和OCRNet等网络，代码即将开源！注1：文末附【视觉Transformer】交流群想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​SegFormerSegFormer: Simple and Efficient Design for Semantic Segmentation with Transformer

研究表明：自注意力对于视觉Transformer并不重要，因为gMLP可以达到相同的精度，性能优于ResMLP、MLP-Mixer等网络，可比肩DeiT等，在视觉和语言任务中通吃！可媲美Transformer！注1：文末附【视觉Transformer】交流群注2：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-CodegMLPPay Attention to MLPs作者单位：谷歌大脑（Quoc V. Le）论文下

研究表明：自注意力对于视觉Transformer并不重要，因为gMLP可以达到相同的精度，性能优于ResMLP、MLP-Mixer等网络，可比肩DeiT等，在视觉和语言任务中通吃！可媲美Transformer！注1：文末附【视觉Transformer】交流群注2：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-CodegMLPPay Attention to MLPs作者单位：谷歌大脑（Quoc V. Le）论文下

本文提出MLP 视觉新方法，构建了一个超级简单的残差架构，其残差块由一个隐藏层的前馈网络和一个线性patch交互层组成！当采用现代的训练方法，则可以在ImageNet上实现意想不到的高性能！代码即将开源！这一周MLP真热闹啊，看看近期的新工作：注1：文末附【视觉Transformer】交流群注2：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​ResMLP: Feedforward networks for i

本文提出MLP 视觉新方法，构建了一个超级简单的残差架构，其残差块由一个隐藏层的前馈网络和一个线性patch交互层组成！当采用现代的训练方法，则可以在ImageNet上实现意想不到的高性能！代码即将开源！这一周MLP真热闹啊，看看近期的新工作：注1：文末附【视觉Transformer】交流群注2：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​ResMLP: Feedforward networks for i

一种仅基于多层感知机（MLP）的体系结构！可比肩并旨在超越成熟的CNN和大火的视觉Transformer的阵营工作，代码即将开源！PS：这个能引爆一波视觉MLP工作么？也许之后是CNN、Transformer、MLP几大阵营了…谷歌继续挖坑，太强了！注1：文末附【Transformer】交流群注2：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​MLP-Mixer: An all-MLP Archi

一种仅基于多层感知机（MLP）的体系结构！可比肩并旨在超越成熟的CNN和大火的视觉Transformer的阵营工作，代码即将开源！PS：这个能引爆一波视觉MLP工作么？也许之后是CNN、Transformer、MLP几大阵营了…谷歌继续挖坑，太强了！注1：文末附【Transformer】交流群注2：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​MLP-Mixer: An all-MLP Archi

没有用JFT自家数据，在ImageNet刷到87.3％的top-1精度！训练速度比最先进的模型快得多，并缩小了6.8倍！性能超越ViT、BotNet和ResNeSt等网络，代码即将开源！注：Backbone哪家强？先杀一杀Transformer的锐气注：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​EfficientNetV2: Smaller Models and Faster Training作者单

没有用JFT自家数据，在ImageNet刷到87.3％的top-1精度！训练速度比最先进的模型快得多，并缩小了6.8倍！性能超越ViT、BotNet和ResNeSt等网络，代码即将开源！注：Backbone哪家强？先杀一杀Transformer的锐气注：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​EfficientNetV2: Smaller Models and Faster Training作者单

目标检测刷到58.7 AP（目前第一）！实例分割刷到51.1 Mask AP（目前第一）！语义分割在ADE20K上刷到53.5 mIoU（目前第一）！性能优于DeiT、ViT和EfficientNet等主干网络，代码即将开源！注1：文末附【Transformer】交流群注2：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：https://github.com/amusi/CVPR2021-Papers-with-CodeSwin Transformer: Hi

目标检测刷到58.7 AP（目前第一）！实例分割刷到51.1 Mask AP（目前第一）！语义分割在ADE20K上刷到53.5 mIoU（目前第一）！性能优于DeiT、ViT和EfficientNet等主干网络，代码即将开源！注1：文末附【Transformer】交流群注2：整理不易，欢迎点赞，支持分享！想看更多CVPR 2021论文和开源项目可以点击：https://github.com/amusi/CVPR2021-Papers-with-CodeSwin Transformer: Hi

点击上方“CVer”，选择加"星标"置顶重磅干货，第一时间送达本文转载自：AI人工智能初学者本文提出一种空洞卷积的新变体：Inception卷积，并提出一种基于统计优化的...

没有FPN！更快更强，性能优于YOLOv4、DETR等网络，其中一版本性能44.3 mAP / 60 FPS，代码于12个小时前刚刚开源！注：文末附【目标检测】交流群想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​You Only Look One-level Feature作者单位：中科院, 国科大, 旷视科技代码：https://github.com/megvii-model/YOLOF论文下载链接：https://arxiv.org

没有FPN！更快更强，性能优于YOLOv4、DETR等网络，其中一版本性能44.3 mAP / 60 FPS，代码于12个小时前刚刚开源！注：文末附【目标检测】交流群想看更多CVPR 2021论文和开源项目可以点击：CVPR2021-Papers-with-Code​You Only Look One-level Feature作者单位：中科院, 国科大, 旷视科技代码：https://github.com/megvii-model/YOLOF论文下载链接：https://arxiv.org

VQ-VAE + Transformer真香！其中用到了Performer模型，表现SOTA！性能优于AE等网络。Unsupervised Brain Anomaly Detection and Segmentation with Transformers作者单位：伦敦国王学院, 伦敦大学学院论文下载链接：https://arxiv.org/abs/2102.11650病理性脑部外观可能如此异质，以致仅可理解为异常，异常是由其偏离正常状态而不是任何特定病理特征定义的。在医学成像中最艰

VQ-VAE + Transformer真香！其中用到了Performer模型，表现SOTA！性能优于AE等网络。Unsupervised Brain Anomaly Detection and Segmentation with Transformers作者单位：伦敦国王学院, 伦敦大学学院论文下载链接：https://arxiv.org/abs/2102.11650病理性脑部外观可能如此异质，以致仅可理解为异常，异常是由其偏离正常状态而不是任何特定病理特征定义的。在医学成像中最艰

表现SOTA！并提出局部-全局训练策略(LoGo)，进一步提高性能，优于Res-UNet、U-Net++等网络，代码刚刚开源！Medical Transformer: Gated Axial-Attention for Medical Image Segmentation作者单位：JHU, 新泽西州立大学代码：https://github.com/jeya-maria-jose/Medical-Transformer论文下载链接：https://arxiv.org/abs/2102.10662

表现SOTA！并提出局部-全局训练策略(LoGo)，进一步提高性能，优于Res-UNet、U-Net++等网络，代码刚刚开源！Medical Transformer: Gated Axial-Attention for Medical Image Segmentation作者单位：JHU, 新泽西州立大学代码：https://github.com/jeya-maria-jose/Medical-Transformer论文下载链接：https://arxiv.org/abs/2102.10662

本文提出UniT：统一的Transformer编码器-解码器体系结构，能够在单个模型中连接和学习多个任务和领域，均能达到SOTA！代码即将开源！Transformer is All You Need: Multimodal Multitask Learning with a Unified Transformer作者单位：Facebook(FAIR)主页：https://mmf.sh/论文下载链接：https://arxiv.org/abs/2102.10772我们提出UniT：统一Tran

本文提出UniT：统一的Transformer编码器-解码器体系结构，能够在单个模型中连接和学习多个任务和领域，均能达到SOTA！代码即将开源！Transformer is All You Need: Multimodal Multitask Learning with a Unified Transformer作者单位：Facebook(FAIR)主页：https://mmf.sh/论文下载链接：https://arxiv.org/abs/2102.10772我们提出UniT：统一Tran

本文提出CPVT：条件Position encoding视觉Transformer，可以自然地处理任意长度的输入序列，其中PEG模块可以无缝集成到现有框架中，性能优于DeiT、ViT等网络Do We Really Need Explicit Position Encodings for Vision Transformers?代码：https://github.com/Meituan-AutoML/CPVT论文下载链接：https://arxiv.org/abs/2102.10882作者单位：美团

本文提出CPVT：条件Position encoding视觉Transformer，可以自然地处理任意长度的输入序列，其中PEG模块可以无缝集成到现有框架中，性能优于DeiT、ViT等网络Do We Really Need Explicit Position Encodings for Vision Transformers?代码：https://github.com/Meituan-AutoML/CPVT论文下载链接：https://arxiv.org/abs/2102.10882作者单位：美团

在息肉分割任务上表现SOTA！性能优于SETR、PraNet和ResUNet++等，速度高达98.7 FPS！注1：文末附【Transformer】和【医疗影像】交流群注2：整理不易，欢迎点赞，支持分享！TransFuse: Fusing Transformers and CNNs for Medical Image Segmentation作者单位：Rayicer, 佐治亚理工学院论文：https://arxiv.org/abs/2102.08005具有深度特征表示和跳跃连接的基于U-N

在息肉分割任务上表现SOTA！性能优于SETR、PraNet和ResUNet++等，速度高达98.7 FPS！注1：文末附【Transformer】和【医疗影像】交流群注2：整理不易，欢迎点赞，支持分享！TransFuse: Fusing Transformers and CNNs for Medical Image Segmentation作者单位：Rayicer, 佐治亚理工学院论文：https://arxiv.org/abs/2102.08005具有深度特征表示和跳跃连接的基于U-N

两个Transformers可变成一个强GAN！表现SOTA，性能优于AUTOGAN、SN-GAN等网络，部分代码刚刚开源！注1：文末附【Transformer】和【GAN】交流群注2：整理不易，欢迎点赞，支持分享！TransGAN: Two Transformers Can Make One Strong GAN作者单位：UT-Austin, IBM研究院代码：https://github.com/VITA-Group/TransGAN论文：https://arxiv.org/abs/21

两个Transformers可变成一个强GAN！表现SOTA，性能优于AUTOGAN、SN-GAN等网络，部分代码刚刚开源！注1：文末附【Transformer】和【GAN】交流群注2：整理不易，欢迎点赞，支持分享！TransGAN: Two Transformers Can Make One Strong GAN作者单位：UT-Austin, IBM研究院代码：https://github.com/VITA-Group/TransGAN论文：https://arxiv.org/abs/21

本文提出了Normalizer-Free ResNets家族，简称NFNets，表现SOTA！其中小版本与EfficientNet-B7的精度相同，但训练速度却快了8.7倍，最高达89.2%准确率！代码刚刚开源！-注1：文末附【计算机视觉细分垂直方向】交流群（含检测、分割、跟踪、医疗、GAN、Transformer等）注2：整理不易，欢迎点赞，支持分享！High-Performance Large-Scale Image Recognition Without Normalization作者单位

表现SOTA！性能优于ProxyNCA++、XBM等网络，结果表明，与基于卷积的方法相比，transformer具有一致且显著的改进！Transformer杀疯了！近期又有一波视觉Transformer的工作（大都来自大厂和Top高校）。注2：整理不易，欢迎点赞，支持分享！Training Vision Transformers for Image Retrieval作者单位：Facebook, ENS/Inria论文：https://arxiv.org/abs/2102.05644Tra