DINOv2: A Self-supervised Vision Transformer Model

最新推荐文章于 2025-10-20 14:38:19 发布
原创 最新推荐文章于 2025-10-20 14:38:19 发布 · 1.8k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#transformer #深度学习 #计算机视觉

DINOv2是Meta新发布的无监督学习模型，通过类似NLP领域的预训练方法，使用142M图像数据和DINO、iBOT损失函数，训练出可应用于多种任务的通用视觉特征。模型包含两个ResNet网络，借助动量更新和数据增强技术，无需微调即可在ImageNet上取得SOTA性能，显示了无监督学习在计算机视觉领域的潜力。

论文地址：[2304.07193] DINOv2: Learning Robust Visual Features without Supervision (arxiv.org)

演示地址：DINOv2 by Meta AI

Meta 在开源了Segment Anything （参见我的另外两篇文章：北方的郎：Meta:segment anything， 北方的郎：Meta Segment Anything 测试效果）之后又开源了一组DINOv2模型。这次的功能更多了，包括分类、分割、图像检索、深度估计等。

作者指出：自然语言处理领域近期在大规模数据的模型预训练方面取得的突破为计算机视觉领域的类似基础模型铺平了道路。这些模型可以通过产生通用的视觉

最低0.47元/天 解锁文章
【论文精读】DINOv2
weixin_44934783的博客
02-29 4647
DINOv2
使用DINOv2进行深度估计
l_kiki_l的博客
04-06 1993
新建py，粘贴代码，试调运行，缺失的文件会在运行时自动下载，如有其他错误，跟着往常一样调试就行。Meta AI团队开源的大模型，可用于分类、分割、图像检索、深度估计等下游任务，且效果优异。通过输入RGB图像，深度学习模型对该图像进行深度估计并输出深度图。点击"Depth estimation"，进入作者的代码。在README.md中找到“Notebooks”从下载前面网址进入下载DINOv2。
DINOv1/v2/v3简明理解
最新发布
Thomas_Cai的记忆殿堂
10-20 1254
DINO是一种自监督视觉表征学习方法，通过教师-学生框架实现无标签学习。其核心机制包括：教师模型通过EMA（指数移动平均）从学生模型逐步演化，提供稳定目标；多视角一致性约束使模型学习高层语义；centering和sharpening技术防止特征坍塌。相比对比学习，DINO仅需正样本对，训练更简单。DINOv2进一步扩展了数据规模（1.42亿图像）和模型能力，引入Patch级目标等优化。DINOv3则致力于更大规模（170亿图像）和多任务通用性提升。
视觉大模型DINOv2:自我监督学习的新领域
十年以上架构设计经验，专注于软件架构和人工智能领域，对机器视觉、NLP、音视频等领域都有涉猎
11-12 9523
DINOv2的开源，无疑将进一步推动人工智能领域的发展。借助这个工具，科研人员可以更深入地研究图像和视频的理解机理，开发出更为先进的AI应用。同时，广大开发者和企业也将从这项技术中获益，加速各类智能化应用的落地。DINOv2 作为一种无需 fine-tuning 的自监督方法，在提取图像特征方面表现出色，适用于许多不同的视觉任务。它的开源也为广大研究者和工程师提供了一种新的选择，有望为计算机视觉领域带来更多的突破，可以期待更多基于 DINOv2 的研究工作出现。
DINOv2
whaosoft143ai的博客
04-18 3386
值得一提的是，在效果更好的情况下，DINOv2运行的速度也比iBOT更快，相同硬件下只需三分之一的内存，运行速度就能比DINOv2快上2倍多。这是DINOv2在8个视觉任务上的表现，包括语义分割、分类、深度估计等，其中橙色是自监督方法的效果，深粉色是弱监督方法的效果。实际效果也不错，即便在一系列照片中，相同物体的画风并不相似，DINOv2也能准确识别它们的特征，并分到相似的列表中。可以看见，经过自监督学习的视觉模型，表现上已经与经过弱监督学习的模型性能相当。 whaosoft aiot http://143
SiT : Self-supervised vision Transformer
qq_47896523的博客
06-03 1429
自监督预训练可以显著提高下游任务的性能 [1]，[16]。在语音识别 [17] 和计算机视觉应用 [18]、[19]、[20]、[21] 中也观察到了类似的趋势。自监督预训练，特别是与 Transformer [22] 结合使用，是 NLP [1]、[16] 的首选模型。SSL 的成功是以海量数据集和大容量模型为代价的。视觉 Transformer 的预训练主要使用监督学习的超大规模数据集，例如由数亿个标记样本组成的数据集 [3]。
Transformer自监督学习(2021) - SiT: Self-supervised vIsion Transformer
要相信光
12-13 6699
文章目录原文地址初识相知回顾 原文地址 https://arxiv.org/pdf/2104.03602.pdf【萨里大学】 初识 采用ViT进行在无标注数据集上进行自监督学习，降低ViT对大数据量训练的依赖，为视觉Transformer学习一个好的表征，用于下游任务。 为达到这个目的，文中提出了SiT(Self-supervised vIsion Transformer)，网络结构如下图所示，包括三个pretext task：重建任务、旋转方向预测以及对比学习。 相知 网络架构： SiT的网络结构如上图
（DINO） Emerging Properties in Self-Supervised Vision Transformers——自监督ViT的新属性和几点思考
MengYa_Dream的博客
10-17 4655
（DINO） Emerging Properties in Self-Supervised Vision Transformers——自监督ViT的新属性 Self-distillation with no labels 、student-teacher network 概念、知识蒸馏
Semi-supervised Vision Transformers at Scale【论文速读】
kganamg的博客
04-26 1573
在这篇文章中，我们介绍了一种名为Semi-ViT的半监督学习方法，用于提高视觉转换器在计算机视觉任务中的性能。首先，我们简要介绍了视觉转换器（Visual Transformer）这种基于Transformer架构的深度学习模型。它已经在很多计算机视觉任务中取得了显著的效果，比如图像分类、目标检测和语义分割等。然后，我们提出了Semi-ViT这个方法。
Dinov2(浅薄理解)
Ethan_Rich的博客
09-25 6296
论文刚出来不久，也没有深入了解，但可以利用dinov2的预训练模型，搭建自己所需的图像分类、分割网络等。本文原创，如有错误请大家指正。
【计算机视觉】DINOv2（Facebook自监督视觉学习）的环境部署和使用代码示范（含源代码）
热门推荐
wzk4869的博客
07-15 1万+
【计算机视觉】DINOv2（Facebook自监督视觉学习）的环境部署和使用代码示范（含源代码）
【免费下载】 DINOv2 使用教程
gitblog_00679的博客
08-08 3178
DINOv2 使用教程 【免费下载链接】dinov2 PyTorch code and models for the DINOv2 self-supervised learning method. 项目地址: https://gi...
【GitHub开源项目实战】DINOv2 自监督视觉模型深度解构：多任务零微调性能与多分辨率表征架构解析
努力分享一些人工智能、计算机视觉、影像等相关的知识干货！
05-13 3125
DINOv2 是由 Meta AI Research 推出的下一代自监督视觉基础模型，在保持不依赖人工标签的前提下，显著提升了多任务性能，尤其在语义分割、图像分类、深度估计等下游任务中超越了 OpenCLIP 和其他监督式方法。该项目采用基于 ViT 架构的多分辨率训练机制，可高效捕捉图像中的局部与全局视觉信息，实现泛化能力与推理速度的协同提升。DINOv2 支持多种主流分辨率输入，并提供了强大的 Zero-shot 能力，适用于自然图像、农业监测、医学成像等多样场景。本文将围绕其架构组成、预训练策略、性能
dinov2（Facebook自监督视觉学习）的使用
Helloorld_1的博客
04-19 1万+
配置环境命令（本文只针对anconda来使用，纯python环境请自行尝试单独下载）会遇到报错，用记事本打开conda.yml将红色部分先删除。meta的dinov2的发布；进行按照，完成后会显示done。先下载code ->zip。这样环境就配置完成了。的Meta视觉大模型！
DINOv2！计算机视觉领域的基础模型终于出现
CV_Autobot的博客
11-01 2476
作者|数源AI 编辑| 自动驾驶之心原文链接：https://zhuanlan.zhihu.com/p/2147759445点击下方卡片，关注“自动驾驶之心”公众号戳我-> 领取自动驾驶近15个方向学习路线>>点击进入→自动驾驶之心『基础模型』技术交流群本文只做学术分享，如有侵权，联系删文使用 DINOv2 进行语义分割的示例（图1-1）DINOv2 是 Meta AI ...
基于 DINOv2 模型实现图搜图相似度检索任务
小毕超博客
12-28 2389
DINOv2是由Meta AI开发的第二代自监督视觉变换器模型，采用 Vision Transformer (ViT) 架构 。其核心特点是在无需人工标签的情况下，通过自监督学习技术，从海量无标注图像中学习有意义的视觉特征表示，类似于 NLP 领域的自监督 Base 模型，DINOv2 已经具有了对图像的理解能力，和强大的图像特征提取能力，因此它可以作为几乎所有计算机视觉任务的骨干模型。
DINO / DINOv2 论文+代码深度解析
weixin_40849121的博客
05-04 8379
DINO 是一种用于自监督视觉学习的深度学习模型，于 2021 年由 Facebook AI 提出。DINO 是最先探讨基于 Transformer 架构的自监督学习代表作之一，其通过在无标签图像上进行自监督训练来学习视觉特征表示。
计算机视觉算法 DINOV2 论文解读
m0_74347437的博客
04-20 1579
DINOV2论文核心观点总结
Context-aware network fusing transformer and V-Net for semi-supervised
12-31
### 融合Transformer和V-Net的半监督情境感知网络 在医疗图像分割领域，融合 Transformer 和 V-Net 的架构展示了显著的优势。这种组合旨在利用两者各自的特点来提升模型性能。 #### 半监督学习背景 半监督学习方法通过结合少量标注数据和大量未标注数据来进行训练，在减少人工标注成本的同时保持较高的预测精度。对于医学影像分析而言，获取高质量的手动标注非常耗时且昂贵，因此半监督技术显得尤为重要[^1]。 #### 架构设计原理 该类网络通常采用编码器-解码器结构，其中编码部分基于多层卷积操作提取特征图谱；而解码阶段则负责逐步恢复空间分辨率并最终生成像素级分类结果。为了增强上下文理解能力以及捕捉全局依赖关系，引入了自注意力机制作为补充模块嵌入到传统 CNN 层之间形成混合型框架。 具体来说： - **编码路径 (Encoder Path)** 使用类似于 V-Net 或 U-Net 中的标准下采样过程； - **中间桥接组件 (Bridging Component)** 将低维表示传递给后续处理单元之前应用 Transformer 编码器堆栈对其进行转换，从而更好地建模远程交互模式； - **解码路径 (Decoder Path)** 则遵循上采样的原则重建原始输入尺寸，并可能再次融入局部细节信息以提高边界定义准确性。 ```python import torch.nn as nn from transformers import ViTModel class TransUNet(nn.Module): def __init__(self, config): super(TransUNet, self).__init__() # Define the encoder part using a pre-trained Vision Transformer model self.encoder = ViTModel.from_pretrained('google/vit-224-in21k') # Decoder layers can be implemented similarly to UNet architecture self.decoder_blocks = ... # Implement decoder blocks here def forward(self, x): encoded_features = self.encoder(x).last_hidden_state output = self.decoder_blocks(encoded_features) return output ``` 此代码片段展示了一个简化版的 TransUNet 实现方式，它集成了预训练好的视觉变换器(Vision Transformer)用于特征抽取，并在其基础上构建了解码器部分完成端到端的任务需求。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值