摘要： DINOv2是一种自监督视觉模型，基于DINOv1改进，融合了iBOT的掩码图像建模思想。其核心创新包括：1）使用LVD-142M数据集，通过PCA哈希和SSCD流程进行严格去重；2）结合DINOv1的全局对齐损失、iBOT的局部掩码预测损失和KoLeo特征正则化损失；3）采用解耦的检测头（CLS token与patch token独立处理）和Sinkhorn-Knopp中心化提升稳定性；4）支持多分辨率训练（224×224预训练后切换至518×518）。模型通过teacher-student框架实
2025-12-04 23:47:22
997
本文总结了四种重要的深度学习模型机制： Attention机制：包括self-attention、multi-head-attention和cross-attention，分别用于捕捉序列内部依赖、增强关注模式和序列间交互。 ViT（Vision Transformer）：将图像切分为小块编码后输入Transformer，使用可学习位置编码和DropPath正则化。 CLIP：对比学习模型，通过联合训练图像和文本编码器实现零样本分类，依赖Prompt Engineering和可学习温度系数。 DINO：自监
2025-11-23 00:49:10
775
moco系列，SimLR和BEiT算法整理汇总
2025-11-09 22:47:37
628
【漫漫转码路】Day 46 Python中进程和线程
2023-04-18 18:43:18
277
梯度下降算法，SGD， BGD， MBGD
2023-02-09 16:31:25
375
线性回归算法，似然函数，最大似然估计，多项式拓展，惩罚项，Lasso, Ridge, ElasticNet
2023-02-07 16:54:10
639
KNN
2023-01-10 23:18:50
264
KNN，ROC曲线，K-D树
2023-01-03 20:51:33
667
机器学习，机器学习分类，机器学习过程，数据处理方式
2022-12-14 21:45:22
286
虚函数、纯虚函数，虚析构函数、虚函数的应用、构造函数调outout
2022-12-13 22:37:00
239
单例模型，继承，私有继承，保护继承，私有继承，保护继承，多重继承，菱形继承，私有继承应用
2022-12-13 17:52:14
386
分组操作，表连接，表合并，存储及加载
2022-12-12 21:54:18
243
面向对象，类定义，构造函数和析构函数，拷贝构造函数，运算符的重载，静态函数，友元函数，友元类
2022-12-10 21:19:00
304
宏，命名空间，数学库，头文件，全局变量，memcpy,memset
2022-12-08 23:09:05
191
链表，内存特点，深拷贝，链表释放，文件操作，文件读写，宏定义
2022-12-07 13:09:39
328
pandas，Series，DataFrame，常用统计函数
2022-12-06 22:36:39
450
数据结构，struct，union,链表结构，内存分配， malloc
2022-12-06 00:55:39
157
函数、字符串、字符串函数
2022-12-03 00:47:04
387
指针，引用，函数，递归
2022-12-01 23:46:41
546
数组，四舍五入，选择法，冒泡法（石沉法），插入法
2022-12-01 00:24:59
172
for循环，while循环，do...while循环，goto语句，break语句，continue语句，双重循环及三重循环
2022-11-29 22:44:26
384
C++环境搭建，Hello World输出，变量，常量，运算符，组合运算符，输入输出，条件语句
2022-11-29 09:41:04
243
【漫漫转码路】Python Day 27
2022-11-25 23:43:20
1531
【漫漫转码路】Python Day 26
2022-11-24 00:36:14
715
【漫漫转码路】Python Day 25
2022-11-22 22:25:17
421
【漫漫转码路】Python Day 24
2022-11-21 22:12:23
212
【漫漫转码路】Python Day 23
2022-11-20 21:17:04
257
【漫漫转码路】Python Day 22
2022-11-17 23:00:49
299
【漫漫转码路】Python Day 21
2022-11-17 01:00:23
155
【漫漫转码路】Python Day 20
2022-11-16 01:30:53
141
【漫漫转码路】Python Day 19
2022-11-14 23:45:59
307
【漫漫转码路】Python Day 18
2022-11-14 00:34:28
218
【漫漫转码路】Python Day 17
2022-11-10 20:58:52
809
【漫漫转码路】Python Day 16
2022-11-10 01:00:02
325
【漫漫转码路】Python Day 15
2022-11-08 22:48:45
284
【漫漫转码路】Python Day 14
2022-11-07 20:37:01
201
【漫漫转码路】Python Day 13
2022-11-04 23:32:34
157
【漫漫转码路】Python Day 12
2022-11-04 01:41:53
317
【漫漫转码路】Python Day 11
2022-11-02 20:02:13
411
【漫漫转码路】Python Day 10
2022-11-02 01:09:41
141
RSS订阅