多视角聚类学习(一)An overview of recent multi-view clustering

最新推荐文章于 2025-01-23 07:06:41 发布
原创 最新推荐文章于 2025-01-23 07:06:41 发布 · 2.2k 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文概述了近期多视图聚类领域的进展，包括基于图的模型、基于空间学习的模型及基于二进制编码学习的模型。重点介绍了AMGL、SwMC和MLAN等算法，探讨了当前挑战与未来方向。

An overview of recent multi-view clustering

原文链接

1.Introduction

随着多媒体技术的发展，数据的获取不像以前那么紧张了多视角数据开始大量出现，多视角数据在最终的数据表现形式上可能不同，但他们都代表着相同的东西。多视图学习在聚类问题上的应用产生了许多新颖的多视角聚类算法。
最原始的多视角聚类是简单地缝合所有地数据特征，然后使用它们进行聚类，这种方式没有利用不同观点之间的信息互补性，也没有任何可解释性。随后。一种基于混合模型和期望最大化算法的方法被提出，其核心思想是为每个集群学习一个模型，并将它们集成到一个统一的模型中。目前研究的多视角聚类算法大多从谱聚类和其他基于图的方法中导出，他们的目标不是致力于获得统一的相似矩阵，而是学习最终的指标矩阵，直接用于聚类。子空间聚类可以有效地降低数据的维数，在多视点聚类领域也得到了人们的关注。

2.Recent multi-view clustering algorithms

2.1Graph-based model

基于图的聚类算法以构建数据的相似度矩阵的目标，采用典型的谱聚类算法或其他一些方法进行最终的标签分配。

2.1.1AMGL无参数自动加权多重图学习

它通过修改传统的谱聚类模型来实现权值的自动分配，不需要任何超参数。

AMGL目标函数：
在这里插入图片描述
构造目标函数的拉格朗日函数，求出F的偏导数并令导数为零，将权重因子 w v w^v

最低0.47元/天 解锁文章
Demon果
关注
多视图聚类概念
Tc、zyh的博客
03-31 5230
文章目录一、多视图聚类方法分类1.1区分方法（基于相似性）的方法二、多视图聚类半监督多视图学习多视图聚类(MVC)的两个重要原则，互补性和共识原则 一、多视图聚类方法分类 生成(基于模型)的方法 目的：试图了解数据的基本分布，并使用生成模型表示数据，每个模型表示一个集群。 区分(基于相似性)的方法 目的：直接优化包括相似性的目标函数，以最小化簇内的平均相似性并最大化簇间的平均相似性。 根据如何组合多视图信息，可以分为以下五类： 公共特征向量矩阵（多视图谱聚类） 公共系数矩阵（多视图子空间聚类） 公
多视角聚类论文笔记(二)Multi-level Feature Learning for Contrastive Multi-view Clustering（MFLVC）
m0_56840294的博客
05-10 1791
现有的MVC工作在同一个特征空间中惩罚多个目标，他们忽略了学习一致的公共语义和重建不一致的视图私有信息之间的冲突。本文以不融合的方式从原始特征中学习不同层次的特征，包括低级特征、高级特征和语义标签/特征，从而有效地实现不同特征空间的重建目标和一致性目标。具体来说，重建目标是在底层特征上进行的。基于对比学习的两个一致性目标分别在高级特征和语义标签上进行。它们使高级特征有效地挖掘公共语义，使语义标签实现多视图聚类。因此，所提出的框架可以减少视图私有信息的不利影响。
多视图学习 (Multi-View Learning)
热门推荐
CarpeDiem
03-08 3万+
多视角/多视图学习（Multi-view learning）是陶大成提出的一个研究方向。我们都知道，在机器学习中样本可以用不同的特征（如图片可以用LBP、SIFT等特征）来表示，或者从不同的角度进行观察（如从前后左右观察一个对象），甚至是采用不同的传感器来观测（如RGB摄像头，Depth摄像头），这些不同的观测手段、角度或特征在多视角学习中称为“视角”。多视角学习通过对不同的视角进行统一分析和研究，希望能够得到更好的分类或聚类等等的效果。
[机器学习]多视角谱聚类(Ncut matlab代码)
Blue_carrot_的博客
06-05 2885
一、多视角 多视角聚类是伴随着信息时代发展过程中人们获取信息的途径日益增加，而逐渐出现的新聚类研究方向。通过多种途径获得的数据其实是对同件事物的不同描述，如电影的图片以及音频都是对这个电影的描述，反映了电影不同角度的信息，充分提取不同视角数据中的互补信息是多视角聚类研究的重点。 比如对于同一件新闻新华社、人民日报、和美国华盛顿日报等的表述都是不一样的，那么从这多个方向去解释分析数据能够得到很好的结果。 当然，需要注意的是，并不是所有的不同方法都可以称之为多视角，有的仅可以称之为多方法，这个关键在于对于当前数
基于图模型的多视图学习——多图聚类方法（Multi-Graph Clustering）
...
07-10 1697
多图聚类方法（Multi-Graph Clustering）是一种高级的聚类技术，用于处理包含多个图结构的数据集。在这些数据集中，每个图（或视图）可能代表数据的不同方面或来源。多图聚类旨在从这些不同的图中找出一致的聚类结构，以获得更全面和更准确的聚类结果。
【多视图学习】显式视图-标签问题：多视图聚类的多方面互补性研究
weixin_44184852的博客
01-23 1574
摘要-一致性和互补性是促进多视图聚类（MVC）的两个关键因素。最近，随着流行的对比学习的引入，视图的一致性学习在MVC中得到了进一步的增强，导致了有希望的性能。然而，相比之下，除了在特征方面之外，互补性没有得到足够的关注，在特征方面，通常采用Hilbert Schmidt独立性准则项或独立编码器-解码器网络来捕获视图特定的信息。这促使我们在保持视图一致性的同时，从特征、视图标签和对比等多个方面全面重新考虑视图的互补性学习。
目标检测经典论文——R-CNN论文翻译：Rich feature hierarchies for accurate object detection and semantic segmentation
bigcindy的博客
07-27 5791
Rich feature hierarchies for accurate object detection and semantic segmentation——Tech report (v5) 用于精确物体定位和语义分割的丰富特征层次结构——技术报告（第5版） Ross Girshick Jeff Donahue Trevor Darrell Jitendra Malik UC Berkeley 加州大学伯克利分校 {frbg,jdonahue,trevor,malikg}@...
Paper翻译：《A Novel Convolutional Neural Network Based Model for Recognition and Classification of App》
JasonYangQ的博客
08-08 2032
论文名称：《A Novel Convolutional Neural Network Based Model for Recognition and Classification of Apple Leaf Diseases》 论文作者：Yadav, D. , Akanksha, and A. K. Yadav . 发表期刊：Traitement du Signal 37.6(2020):1093-1101. 论文总结： Research Gap: 数据增强与CNN对苹果叶部病害进行检测 Im..
需要Caltech101数据集的多视图处理数据 Caltech101/ view1_fc7.mat ← DECAF FC7 (4096D) view2_vgg19.mat ← VGG19 FC7 (4096D) labels.mat
最新发布
11-28
根据我们掌握的信息，一个可能的来源是论文《Multi-view learning overview: Recent progress and new challenges》或相关的多视图学习论文。但是，用户引用的[2]中提到了多个数据集，但并未直接提供Caltech101的...
多视角聚类学习（二）-Dual Shared-Specific Multiview Subspace Clustering
weixin_48898700的博客
11-02 1653
一.问题聚焦 现在的聚类算法大多只关注了视角间的相关性而可能忽略了每个视角的独特性，这可能会丢失一些有效信息。很小有方法在聚类的过程中既整合了多个视角又保留了特定视角的独特性。 二.主要方法 1.基于自表示的子空间聚类（Self-representation-based subspace clustering） 假设每个数据点能够被它们原始数据的线性组合所表示。那么自表示模型的公式可以表示为： L表示特征维度，N表示样本个数。Z是自表示矩阵且里面每个元素zi是从原始数据X中的数据点xi编码得到
【多视图聚类】【MFLVC】Multi-level Feature Learning for Contrastive Multi-view Clustering
weixin_44184852的博客
10-08 2221
多视图聚类可以从多个视图中探索共同的语义，受到越来越多的关注。然而，现有的工作惩罚了同一特征空间中的多个目标，它们忽略了学习一致的公共语义和重建不一致的视图私有信息之间的冲突。在本文中，我们提出了一种新的多级特征学习框架，用于对比多视图聚类来解决上述问题。我们的方法以无融合的方式从原始特征中学习不同层次的特征，包括低级特征、高级特征和语义标签/特征，从而可以有效地实现不同特征空间中的重建目标和一致性目标。具体地，重建目标是在低级特征上进行的。基于对比学习的两个一致性目标分别在高级特征和语义标签上进行。
鲁棒多视图谱聚类方法
...
07-20 712
同时考虑每个视图的误差矩阵，这种方法能够准确地识别数据点的聚类结构，即使在数据质量参差不齐的情况下也能表现良好。在数据科学领域，多视图谱聚类方法是一种处理多源异构数据的强大工具，这类数据可以从不同的角度或“视图”观察到。鲁棒多视图谱聚类的目标是，即使在某些视图受到噪声或异常值的影响下，也能找到数据点在所有视图中共享的聚类结构。鲁棒多视图谱聚类方法是一种强大的数据聚类工具，它能够从多个视图中抽取共同的信息，并对噪声和异常值具有鲁棒性。，接下来的步骤是使用谱聚类算法对数据点进行聚类。我们的目标是找到一个。
什么是自适应近邻图学习的多视角聚类方法？
...
05-31 889
自适应近邻图学习的多视角聚类方法是一种高级的机器学习技术，旨在处理含有（或称为“视角”）的数据集，每个视角提供关于数据的不同侧面或特征信息。这种方法通过整合多个视角下的信息来改善聚类效果，特别是在数据具有复杂结构和高维度的情况下更为有效。核心思想是利用自适应机制来优化邻近关系的建模，以及跨视角的相似性融合，从而达到更准确的聚类。
多视角谱聚类的一些笔记
徐夏夏夏HsuHsia的博客
05-11 1159
** 单视角 ** 单视角谱聚类可写成如下优化形式： 多视角 Pairwise: 在Co-regularized multi-view spectral clustering文章中，用如下函数作为衡量不同视角之间的差异 ...
基于图学习的多视图聚类
weixin_47038252的博客
09-14 1861
1.Intrinsic Graph Learning With Discrete Constrained Diffusion–Fusion（2021IEEE 第一项是用来捕获关于目标图g的结构信息通过挖掘数据的潜在流形结构（对于给定的一组图） 第二项是融合关于G的先验信息并且防止过拟合，D是一个约束项 改进difusion-fusion： k是最近邻的数量 添加L=n-c的约束：优化后的图就可以被划分成c个子图（簇） （8）引入了权重，自适应调整权重，包括两部分：一在扩散...
Contrastive Multiview Coding（多视角的对比学习编码）
winycg的博客
04-21 7861
原文题目为：Contrastive Multiview Coding 代码链接：https://github.com/HobbitLong/CMC 引言 本文主要提出了Multiview 的contrastive learning。motivation是现实世界中看待同一个物体具有多个视角，每一个视角都是有噪声和不完整的，但是一些对于该物体很重要的元素，例如physics（物理）, geometr...
【论文阅读】MLGCL：Multi-Level Graph Contrastive Learning
cziun的博客
08-09 1610
目录摘要 摘要 在本文中，我们提出了一个多层次图对比学习(MLGCL)框架，通过对比图的空间视图来学习图数据的鲁棒表示。具体地说，我们引入了一种新的对比视图-拓扑和特征空间视图。原始图为一阶近似结构，包含不确定性或误差，而由编码特征生成的kNN图保持了高阶近似性。因此，通过编码特征生成的kNN图不仅提供了一个互补的视图，而且更适合GNN编码器提取判别表示。此外，我们还开发了一种多层次的对比模式来同时保持图结构数据的局部相似性和语义相似性。大量实验表明，与现有的最先进的图表示学习方法相比，在7个数据集上，ML
论文笔记：Reciprocal Multi-Layer Subspace Learning for Multi-View Clustering
GYY8023的博客
03-04 957
加粗样式Reciprocal Multi-Layer Subspace Learning for Multi-View Clustering 1 摘要 文章提出的算法：用于多视图聚类的交互多层子空间学习算法。有两个主要组成部分：分层自表示层 Hierarchical Self-Representative Layers (HSRL)和反向编码网络Backward Encoding Networks...
【GNN】2021 NIPS Multi-view Contrastive Graph Clustering
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
02-17 1631
目录 简介 提纲 任务 已有的相关工作 新的方法 三个模块 为什么需要图滤波？ 实验结果 相关指标对比和消融实验 总结 优势 局限性 未来改进方向 创新 补充（对比表示学习必知的几种训练目标-损失） Contrastive Loss TripletLoss Lifted StructuredLoss N-pair Loss NCE InfoNCE Soft-Nearest Neighbors Loss 参考 简介 随着信息时代的蓬勃发展，产生了大量..
深度学习多视图聚类 (deep multi-view clustering)
10-29
深度学习多视图聚类是近年来多视图聚类研究中的热点，结合了深度学习技术与多视图聚类方法，旨在处理具有多个不同视图数据的聚类问题。 ### 原理 近年来，深度学习技术在多视图聚类中的应用成为研究热点。深度嵌入式聚类（DEC）利用自动编码器从原始特征中提取低维潜在表示，然后优化学生的t - 分布和特征表示的目标分布，以实现聚类。相比之下，传统的多视图聚类算法大多使用线性和浅层嵌入来学习多视图数据的潜在结构 [^2]。 多视图子空间聚类（MVSC）的目标是通过学习多视图数据的融合表示，寻找到一个统一的子空间，然后在相应的子空间中分离数据。不过现有方法存在高时间和空间复杂度的问题，而基于锚点的多视图子空间聚类方法能够在显著减少存储和计算时间的同时，取得良好的聚类性能。通常，锚点图是等权重的，并融合为共识图，然后进行谱聚类以获得聚类结果 [^3]。 ### 应用场景 虽然给定引用未提及具体应用场景，但多视图聚类一般可应用于计算机视觉领域，例如图像分类，不同视图可以是图像的颜色、纹理、形状等特征；在生物信息学中，不同视图可以是基因表达数据、蛋白质相互作用数据等，用于对生物样本进行聚类分析；在社交网络分析中，不同视图可以是用户的行为数据、社交关系数据等，以发现用户群体。 ### 算法实现 给定引用未提供具体算法实现代码，但可以参考一般的深度学习多视图聚类的实现思路。以下是一个简单的伪代码示例，展示了基于深度嵌入式聚类（DEC）的基本流程： ```python import torch import torch.nn as nn import torch.optim as optim # 定义自动编码器模型 class Autoencoder(nn.Module): def __init__(self, input_dim, hidden_dim): super(Autoencoder, self).__init__() self.encoder = nn.Sequential( nn.Linear(input_dim, hidden_dim), nn.ReLU() ) self.decoder = nn.Sequential( nn.Linear(hidden_dim, input_dim), nn.Sigmoid() ) def forward(self, x): x = self.encoder(x) x = self.decoder(x) return x # 初始化模型、损失函数和优化器 input_dim = 100 hidden_dim = 20 model = Autoencoder(input_dim, hidden_dim) criterion = nn.MSELoss() optimizer = optim.Adam(model.parameters(), lr=0.001) # 训练自动编码器 def train_autoencoder(data, epochs): for epoch in range(epochs): outputs = model(data) loss = criterion(outputs, data) optimizer.zero_grad() loss.backward() optimizer.step() if (epoch + 1) % 10 == 0: print(f'Epoch [{epoch+1}/{epochs}], Loss: {loss.item():.4f}') # 假设 data 是多视图数据 data = torch.randn(1000, input_dim) train_autoencoder(data, epochs=100) # 提取低维潜在表示 latent_representation = model.encoder(data) # 后续步骤：优化学生的t - 分布和特征表示的目标分布以实现聚类 # 这里省略具体代码，因为这部分涉及更复杂的数学和算法 ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值