【论文研读】Self-supervised：AMDIM， DIM

最新推荐文章于 2025-03-08 21:10:44 发布
原创 最新推荐文章于 2025-03-08 21:10:44 发布 · 3.9k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #互信息 #自监督 #无监督学习

本文深入探讨了两种自监督学习方法——DIM（Deep InfoMAX）和AMDIM。DIM通过最大化互信息来学习深度表示，强调同一图像的局部与全局特征的相关性。AMDIM则在DIM基础上引入多尺度特征，增强了模型的表现。研究表明，这些方法在无监督和半监督图像分类任务中表现出色。

一、DIM（Deep InfoMAX）

Title：Learning deep representations by mutual information estimation and maximization（2019ICLR）

Author：R Devon Hjelm（MSR Montreal）

Method：

主要使用最大化互信息的思想，同一张图的局部特征和全局特征应高度相关，另一张的局部特征不相关。采用NCEloss得到score

实际操作中的两种方法：

           

 

二、AMDIM

Title：Learning Re

最低0.47元/天 解锁文章
2.特定领域知识图谱(Domain-specific KnowledgeGraph:DKG)融合方案：技术知识前置【一】文本匹配算法、知识融合学术界方案、知识融合业界落地方案、算法测评KG生产质量保障
丨汀、的博客
01-17 2741
本项目主要围绕着特定领域知识图谱(Domain-specific KnowledgeGraph:DKG)融合方案：技术知识前置【一】-文本匹配算法、知识融合学术界方案、知识融合业界落地方案、算法测评KG生产质量保障讲解了文本匹配算法的综述，从经典的传统模型到孪生神经网络“双塔模型”再到预训练模型以及有监督无监督联合模型，期间也涉及了近几年前沿的对比学习模型，之后提出了文本匹配技巧提升方案，最终给出了DKG的落地方案。这边主要以原理讲解和技术方案阐述为主，之后会慢慢把项目开源出来，一起共建KG，从知识抽取到知
【Graph vs Transformer】Transformer是GNN的一种特例
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
01-15 870
最近研读Transformer后，发现和GNN极其相似，于是开始调研他们之间的关系(对Transformer熟悉的可以直接跳过这一部分阅读)(对GNN熟悉的可以直接跳过这一部分阅读)
【论文笔记——AMDIM】Learning Representations by Maximizing Mutual Information Across Views
Lethe's Blog
11-21 4453
arxiv：https://arxiv.org/abs/1906.00910 code：https://github.com/Philip-Bachman/amdim-public 1 Introduction 这篇文章是对 DIM 进行的一个扩展研究（主要是Local DIM），主要是在 DIM 的基础上引入了 mutiple views ，也就是最大化一个共享 context 中不同视图(views)之间互信息（Across Views）。 什么是 mutiple views 呢？例如，我们观察一个事
Learning deep representations by mutual information estimation and maximization
qq_36616268的博客
01-25 4878
ICLR18的文章，reference100多，算贡献比较大的文章了。 首先介绍一下本文的预备知识点： 本文主要是涉及了一种数据表征方法，无监督的提取出图片中的高维表征。不进行具体任务的训练。 比如我们进行训练之后，固定好训练完的网络，进行分类，聚类等工作的训练。 创新点： 1：利用了互信息最大化输入与高维表征的关联程度。 2：互信息包含了局部互信息，以及全局互信息。 3：使用对抗网...
【读论文】DIM: Deep InfoMax
BohnLee的博客
11-23 2925
本文来自ICLR 2019 的论文Learning Deep Representatios By Mutual Information Estimation And Maximization.[链接] 本文揭示了表达式的无监督学习过程：通过最大化深度神经网络编码器输入和输出层之间的互信息。作者还提到结构很重要：讲输入中的局部性知识纳入目标可以极大提升表达式对下游任务的适应性。 背景知识 ...
探索深度学习的未来：AMDIM——一种基于多视角最大互信息的自监督表示学习方法
gitblog_00013的博客
06-07 367
探索深度学习的未来：AMDIM——一种基于多视角最大互信息的自监督表示学习方法 amdim-publicPublic repo for Augmented Multiscale Deep InfoMax representation learning项目地址:https://gitcode.com/gh_mirrors/am/amdim-public 项目简介 AMDIM（Augmented M...
【对比自监督学习】SimCLR、CPC、AMDIM并无本质差异
idol24的博客
09-16 2102
点击上方“机器学习与生成对抗网络”，关注"星标"获取有趣、好玩的前沿干货！来源 | towardsdatascience转自 | 新智元 编辑 | QJP、小...
Self-Supervised Vision Transformers with DINO-代码研读
MengYa_Dream的博客
11-22 3587
Code，仅作学习交流 1 main_dino.py import 机制可以导入我们需要使用的库，避免代码重复 pytorch框架下常用的torchvisiongongjuk from torchvision import transforms import argparse import os import sys import datetime import time import math import json from pathlib import Path import .
WS_DAN算法代码研读之wsdan.py（三）
weixin_37718439的博客
02-23 3005
近期在学习See Better Before Looking Closer: Weakly Supervised Data Augmentation Network for Fine-Grained Visual Classification的pytorch版本代码地址 本文对wsdan.py进行解读，由于本人是小白，理解错误的地方请批评指正。主要功能是选择一种骨干网络，加载对应的参数，返回预测的...
【论文笔记——DIM】Learning Deep Representations By Mutual Information Estimation and Maximization
Lethe's Blog
11-07 5131
arxiv：https://arxiv.org/abs/1808.06670 code：https://github.com/rdevon/DIM report video：https://www.youtube.com/watch?v=o1HIkn8LEsw&t=256s 1 Introduction 无监督学习一个重要的问题就是学习有用的 representation，本文的目的就是训练一个 representation learning 函数（即编码器encoder） ，其通过最大编码器输入和
对PyTorch的dim的理解
qq_39686950的博客
03-30 1819
文章目录前言多维张量的维度torch.max()torch.argmax()torch.softmax()torch.stack()总结 前言   做深度学习的项目，离不开对tensor的操作，tensor中文名称是张量，以PyTorch框架为例，张量是PyTorch的基本数据类型，初学者对张量操作时，常常会被dim这个参数困扰，本文测试了torch.max()、torch.argmax()、torch.softmax()、torch.stack()四个函数的dim值，以利于初学者对dim和张量的理解。
深度学习的一些小记录
SimpleZihao的博客
05-31 342
里面有一部分是摘录 1. dim函数的部分理解 tf.nn.functional.softmax(x,dim = -1)中的参数dim是指维度的意思 dim = 0, 对每一维度相同位置的数值进行softmax运算 dim = 1, 对某一维度的列进行softmax运算 dim = 2, 对某一维度的行进行softmax运算 dim = -1, 对某一维度的行进行softmax运算 2. enumerate的使用： 将可迭代对象如字符串、列表、元组、字典、集合，组合成索引+数据格式输出，第一个参数为可迭代
LEARNING DEEP REPRESENTATIONS BY MUTUAL IN FORMATION ESTIMATION AND MAXIMIZATION（通过互信息估计与最大化来学习深度表征）
最新发布
qq_54991537的博客
03-08 731
作者这篇文章是为了通过最大化输入与深度神经网络编码器输出之间的互信息，来研究表征无监督学习。作者发下将输入局部知识通入目标函数时，可以先祖提高表征对下游任务的实用性。作者提出了深度信息最大化（DIM）：（就是通过对抗性地匹配先验分布，进一步控制表征的特性），DIM比当时流行的无监督学习方法效果要好多的，甚至可以和全监督方法去进行对比。
DIM（Learning deep representations by mutual information estimation and maximization）
林小川的博客
09-17 7298
论文：https://arxiv.org/pdf/1808.06670.pdf 摘要： 许多表示学习只使用已探索过的数据空间（称为像素级别），当一小部分数据十分关心语义级别时，该表示学习将不利于训练。论文提出了无监督表示学习，直接学习和估计信息内容，统计或结构约束。论文最大化输入信息和高级特征向量之间的互信息与通过对抗匹配先验分布来控制表示学习的特征。 介绍： 人工智能单元在预测和规划时不...
自监督论文阅读笔记 Self-supervised Learning in Remote Sensing: A Review
YoooooL_的博客
06-30 3229
深度神经网络对大量数据的丰富结构进行建模的优势已经导致了计算机视觉、自然语言处理、自动语音识别和时间序列分析的重大突破。然而，深度神经网络的性能对训练数据的大小和质量非常敏感。因此，在过去十年中，已经为监督训练生成了多个带注释的数据集(例如ImageNet [2])，推动了许多领域的进步。不幸的是，标注大规模数据集是一个极其费力、耗时且昂贵的过程。监督学习范式的这种限制严重阻碍了深度学习在现实世界场景中的适用性。 事实上，已经研究了许多普通监督学习的替代方法，例如无监督学习[3]，半监督学习[
Deep InfoMax (DIM)
连理o的博客
08-11 1270
deep infomax
Deep InfoMax
yhblog的博客
11-20 186
参考 https://www.jiqizhixin.com/articles/2018-09-06-8
conv2d函数_Deep InfoMax损失函数小记
weixin_28810315的博客
11-30 625
无监督表示学习随着深度学习的迅猛发展，近年来呈现出百花齐放之态。19年ICLR会议中收录的Learning Deep Representations by Mutual Information Estimation and Maximization这篇Bengio组大作，从互信息的视角给出了一种新的思路。关于Deep InfoMax(DIM)的解读已有珠玉在前， 只是多数分析的博客更关注本文的理论...
Deep Mutual Learning论文阅读笔记
Jadelyw的博客
06-22 7383
摘要模型蒸馏是将知识从教师模型传给学生模型有效且被广泛使用的技术，典型的应用就是将一个很大并且能力很强的网络中集成到一个比较小的网络中，因为小的网络更加满足低存储和高效率的要求。在本文中，我们提出一种深度相互学习策略，在训练的过程中学生网络和教师网络可以相互合作学习，而不是单方向的学生从教师那里学习。我们的实验表明各种网络架构都能够从相互学习策略中受益，并且在CIFAR-100和行人重识别数据集M...
mljar-supervised：Python自动化机器学习工具
- **压缩包子文件的文件名称列表**：列表中包含的文件名称 "mljar-supervised-master" 表示 mljar-supervised 的源代码和文档。用户可以通过安装这个软件包来开始使用 AutoML 工具，这可能包含使用 pip 安装命令和...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值