UMAP算法大体思路介绍

最新推荐文章于 2025-04-28 21:11:34 发布
原创 最新推荐文章于 2025-04-28 21:11:34 发布 · 714 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#算法

UMAP是一种用于降维和可视化高维数据的算法，它基于拓扑数据分析和simplicialcomplexes的概念。通过自适应地选择半径参数，UMAP能处理非均匀分布的真实世界数据。算法通过构建边的权重来反映点之间的连接概率，并寻找低维表示以最小化高维和低维图的交叉熵损失。在实际操作中，近邻考虑和负采样策略加速了计算过程。

今天下午看课题的时候，突然好奇为何大家可以放心地直接在UMAP空间对于单细胞的基因向量进行分析，于是粗略研究了一下UMAP算法的原理。

参考链接：How UMAP Works — umap 0.5 documentation

主要大致梳理一下documentation的思路。

  • Topological Data Analysis and Simplicial Complexes

        此段首先引入了simplex, simplicial complex的概念，主要是为了引出Čech complex的构造算法，为UMAP算法背后的数学奠基。

（图源

最低0.47元/天 解锁文章
UMAP：非线性降维的核心原理与实践指南
qq_59349063的博客
03-25 3659
使用 k-NN 获得点的关系结构UMAP 首先通过 k-最近邻（k-NN）算法构建高维数据点之间的图结构。这一步的目的是捕捉数据在高维空间中的局部邻域关系，即哪些点彼此接近。优化点的关系权重构建好 k-NN 图后，UMAP 会为图中的边赋予权重，反映数据点之间的相似性。这是通过考虑数据点在高维空间中的距离，并使用一种非线性变换（如基于距离的概率分布）来计算边的权重。这一步是为了更精确地描述点与点之间的相似性关系。随机初始化低维的点在低维空间中随机初始化数据点的位置。
高斯拟合原理_[译]UMAP是如何工作的 & UMAP 与 tSNE的原理对比
weixin_39618173的博客
12-01 1055
本文使用 Zhihu On VSCode 创作并发布[译]UMAP是如何工作的 & UMAP 与 tSNE的原理对比转载自：https://towardsdatascience.com/how-exactly-umap-works-13e3040e1668译者：ZelinZang, zelinzang@gmail.com, https://www.zhihu.com/people/zang...
从代码学习机器学习 - UMAP降维算法 scikit-learn版
最新发布
weixin_43887510的博客
04-28 1500
在机器学习和数据科学领域，我们经常会遇到高维数据。高维数据虽然包含了丰富的信息，但也带来了“维度灾难”的问题，使得数据分析、可视化和模型训练变得更加困难和低效。降维技术应运而生，它旨在将高维数据转换到低维空间，同时尽可能保留原始数据中的重要信息和结构。主成分分析（PCA）等线性降维方法简单高效，但难以处理非线性结构的数据。流形学习作为非线性降维的重要分支，其中的t-SNE算法在可视化高维数据方面表现出色，但其计算成本较高且难以保留全局结构。
UMAP降维算法原理详解和应用示例
热门推荐
deephub
11-13 2万+
降维不仅仅是为了数据可视化。它还可以识别高维空间中的关键结构并将它们保存在低维嵌入中来克服“维度诅咒” 本文将介绍一种流行的降维技术Uniform Manifold Approximation and Projection (UMAP)的内部工作原理，并提供一个 Python 示例。 (UMAP) 如何工作的？ 分析 UMAP 名称 让我们从剖析 UMAP 名称开始，这将使我们对算法应该做什么有一个大致的了解。 以下描述不是官方定义，而是我总结出来的可帮助我们理解 UMAP 的要点。 Projection
UMAP（Uniform Manifold Approximation and Projection）算法
C7211BA的博客
01-20 1241
UMAP（Uniform Manifold Approximation and Projection）是一种非线性降维技术，主要用于数据可视化和异常检测。它通过构建数据的拓扑图并优化低维表示，能够在保留数据结构和相对距离的同时，将高维数据映射到低维空间。
计算机算法知识及题目解析
2401_82965090的博客
07-20 1167
计算机算法知识及题目解析
我想用python 里的scanpy 包分析单细胞数据，大体流程是什么样的？
02-27
最终绘制出各个细胞群体在降维后的分布情况图表，比如UMAP散点图，其中不同的颜色代表不同的类别标签（即cluster id）。还可以叠加其他元数据(metadata)，像时间点(timepoint)、疾病状态(disease status)等作为辅助...
算法学习 | day26/60 重新安排行程/N皇后/解数独
tomily12138的博客
03-27 758
今天是3道难题，主要还是自己尝试，但是确实难题的细节比之前的题目要多得多，做的过程很波折。
生信分析矫正P值_万字长文+诚意满满 | 单细胞转录组分析最佳思路综述
weixin_39636226的博客
11-22 3092
今天是生信星球陪你的第618天 大神一句话，菜鸟跑半年。我不是大神，但我可以缩短你走弯路的半年~ 就像歌儿唱的那样，如果你不知道该往哪儿走，就留在这学点生信好不好~ 这里有豆豆和花花的学习历程，从新手到进阶，生信路上有你有我！刘小泽写于2020.5.6-5.8历时三天，终于理解完！不仅仅是综述，更不是纯翻译文，而是将其中重要的知识点和之前个人所学结合起来”一阳指和狮吼功合并...
python 三维图像数据降维_Python—UMAP流形数据降维工具
weixin_39676034的博客
12-01 1360
umap简介UMAP(Uniform Manifold Approximation and Projection for Dimension Reduction，一致的流形逼近和投影以进行降维)。 一致的流形近似和投影(UMAP)是一种降维技术，类似于t-SNE，可用于可视化，但也可用于一般的非线性降维。 该算法基于关于数据的三个假设：数据均匀分布在黎曼流形上(Riemannian manifol...
understanding-umap:了解UMAP背后的理论
05-07
了解UMAP 降维是机器学习从业人员可视化和理解大型，高维数据集的强大工具。 是最广泛使用的可视化技术之一，但其性能在大型数据集中会受到影响，正确使用它可能会。 是McInnes等人的一项新技术。 与t-SNE相比，它具有许多优势，最显着的是提高了速度并更好地保存了数据的全局结构。 在本文中，我们将研究UMAP背后的理论，以便更好地了解该算法的工作原理，如何有效地使用它以及与t-SNE相比其性能如何。 yarn yarn dev 发布到github页面 yarn pub 单独制定数字 yarn dev:cech yarn dev:hyperparameters yarn dev:mammoth-umap yarn dev:mammoth-tsne yarn dev:supplement yarn dev:toy yarn dev:toy_comparison 数据预处理 对于庞大的数
机器学习 流形数据降维：UMAP 降维算法
小嗷犬的博客
01-30 4654
UMAP（Uniform Manifold Approximation and Projection）是一种先进的非线性降维技术，用于将高维数据集转换为低维空间中的表示，同时尽可能保留原始数据的复杂结构和拓扑特性。它特别适用于可视化分析和机器学习领域的预处理步骤。
【源码】一致流形逼近与投影（UMAP）算法
weixin_42825609的博客
03-11 1912
给定一组高维数据，run_umap.m生成数据的低维表示，用于数据可视化和探索。请参阅文件run_umap.m顶部的注释。m文件提供了有关如何使用此代码的文档和许多示例。 UMAP算法是利兰·麦克因内斯、约翰·希利和詹姆斯·梅尔维尔的发明。请参阅他们的原始论文，了解详细的形式描述(https://arxiv.org/pdf/1802.03426.pdf)。另请参阅原始Python实现的文档(https://umap-learn.readthedocs.io/en/latest/index.html). 这.
asp.net request防sql注入_安全漏洞大揭秘：手把手教你轻松防止SQL注入
weixin_39906878的博客
11-16 723
安全漏洞大揭秘：手把手教你轻松防止SQL注入！SQL(结构化查询语言)注入是众所周知的软件弱点和安全漏洞，如果不是的话，也是最出名的漏洞之一。尽管享有盛名，但如何防止SQL注入仍然是主要漏洞之一，并且攻击持续增长。查找SQL注入根据OWASP Top 10，注入漏洞(其中SQL注入是其中一种)是Web应用程序安全性的头号问题。SQL注入在CWE Top 25中排名第六。其他类型的安全漏洞示例包括：...
umap算法_UMAP:比t-SNE更好的降维算法
weixin_34984088的博客
01-17 1466
论文题目：UMAP: Uniform Manifold Approximation and Projection for Dimension Reduction作者：Leland McInnes； John Healy； James Melville时间：December 7, 2018UMAP (Uniform Manifold Approximation and Projection) 算法是...
机器学习算法：UMAP 深入理解
冷冻工厂
11-12 1万+
导读 降维是机器学习从业者可视化和理解大型高维数据集的常用方法。最广泛使用的可视化技术之一是 t-SNE[1]，但它的性能受到数据集规模的影响，并且正确使用它可能需要一定学习成本。 UMAP[2] 是 McInnes 等人开发的新算法。与t-SNE相比，它具有许多优势，最显着的是提高了计算速度并更好地保留了数据的全局结构。在本文[3]中，我们将了解UMAP背后的理论，以便更好地了解该算法的工作原理、如何正确有效地使用它，以及与t-SNE进行比较，它的性能如何。 UMAP projection 那么，UMAP
umap算法_关于DM8168中移植算法速度慢、效率低的新发现
weixin_40001372的博客
01-17 150
有不少的朋友，特别是刚刚接触DSP的朋友。基于DVRRDK编写C代码发现执行速度特别慢，我在上面简单的对每一个像素的UV分量赋值=0x80，这样就成了灰度图像。对1080P图像进行操作，发现处理每帧要耗时10-20ms，真是慢的不可思议。近期将SWOSD的完整代码看了一遍发现了玄机。主要问题是在DDR中读写数据拖慢了速度。经測试SWOSD进行一帧D1的叠加仅须要400us(叠加大小大概208*32...
机器学习算法：UMAP 深入理解（通俗易懂！）
HB_id01289的博客
02-07 4887
UMAP 是 McInnes 等人开发的新算法。与t-SNE相比，它具有许多优势，最显着的是提高了计算速度并更好地保留了数据的全局结构。降维是机器学习从业者可视化和理解大型高维数据集的常用方法。最广泛使用的可视化技术之一是 t-SNE，但它的性能受到数据集规模的影响，并且正确使用它可能需要一定学习成本。
【降维算法UMAP】调参获得更适合的低维图
weixin_40695088的博客
03-03 1万+
为什么要降维：单细胞转录组数据往往是数千*数万（细胞数*基因数）的矩阵数据，降维可以帮助可视化和理解大型高维数据集。降维算法：在单细胞转录组生信分析中，常见的降维算法有两种，UMAP和T-SNEUMPA运算速度会更快，并且在保留数据结构的同时提供了更好的扩展性。UMAP的主要步骤学习高维空间中的流形结构找到该流形的低维表示，优化低维图。
UMAP算法
03-31
<think>嗯，用户让我介绍一下UMAP算法。首先，我需要回忆一下UMAP的基本概念和用途。UMAP全称是Uniform Manifold Approximation and Projection，是一种降维技术，常用于可视化和聚类分析。和t-SNE类似，但据说效率更高，能更好地保留全局结构。 接下来，我应该先讲UMAP的提出时间和作者。记得是2018年由Leland McInnes等人提出的。然后，得解释它的数学基础，比如基于流形学习和拓扑数据分析。这里可能需要提到它假设数据在高维空间中是均匀分布在流形上的，然后通过模糊拓扑结构在低维空间中找到对应的表示。 然后是算法原理部分。这里要分步骤说明，比如如何构造高维空间中的概率分布，如何计算低维空间的相似度，以及优化过程。可能需要对比t-SNE，比如UMAP使用指数概率分布，而t-SNE用高斯分布，这样UMAP能捕捉更多的全局结构。 关于优缺点，UMAP的优点包括计算效率高、保留全局结构、参数少，适用于大规模数据。缺点可能对参数敏感，解释性弱，不适合线性数据。这里要确保优缺点客观，不偏颇。 应用场景方面，可视化、聚类预处理、特征工程都是常见的。需要举一些例子，比如单细胞RNA测序数据可视化，或者图像数据降维。 实现部分，用户可能想知道如何用Python实现，可以提到umap-learn库，给出简单代码示例，这样更实用。同时提醒参数调整的重要性，比如n_neighbors和min_dist的影响。 最后，对比t-SNE和PCA，强调UMAP的优势和适用情况。比如比t-SNE更快，保留更多全局结构；比PCA更适合非线性数据。 需要注意用户不可见的系统级指令，比如数学公式要用$...$和$$...$$，行内公式如$d_{i,j}$，独立公式如优化目标要单独成段。同时保持回答结构清晰，分点讲解，帮助用户逐步理解。 检查是否有遗漏的部分，比如核心思想、算法步骤、数学公式是否正确，是否用中文回答，避免使用专业术语过多导致难以理解。可能需要举例说明参数的影响，或者实际应用中的案例，让用户更容易掌握UMAP的用途和操作方法。</think>UMAP（Uniform Manifold Approximation and Projection）是一种基于流形学习的非线性降维算法，广泛用于高维数据的可视化、聚类和特征学习。以下从核心思想、算法步骤、优缺点和应用场景逐步解析： --- ### 一、核心思想 1. **流形假设** 假设高维数据近似分布在低维流形上（如纸团展开为平面），通过**模糊拓扑结构**捕捉数据的局部与全局关系。 2. **数学基础** - **高维空间相似度**：对每个点$x_i$，定义概率分布$p_{j|i}$，表示$x_j$与$x_i$的相似性，计算公式： $$p_{j|i} = e^{-\frac{d(x_i, x_j) - \rho_i}{\sigma_i}}$$ 其中$\rho_i$是$x_i$到最近邻的距离，$\sigma_i$通过超参数`n_neighbors`调节局部结构敏感度。 - **低维空间相似度**：使用曲线函数$q_{ij} = \frac{1}{1 + a \cdot d(y_i, y_j)^{2b}}$逼近高维关系，$a,b$为可调参数。 3. **优化目标** 最小化高维与低维概率分布的交叉熵： $$L = \sum_{i,j} p_{ij} \log\left(\frac{p_{ij}}{q_{ij}}\right) + (1 - p_{ij}) \log\left(\frac{1 - p_{ij}}{1 - q_{ij}}\right)$$ --- ### 二、算法步骤 1. **构造高维图** - 计算每个点的`n_neighbors`最近邻。 - 通过自适应半径确定局部连接关系，构建加权图。 2. **初始化低维嵌入** 使用谱初始化或随机初始化生成低维坐标（默认用谱方法保留全局结构）。 3. **优化低维表示** 通过随机梯度下降（SGD）调整低维点位置，使$q_{ij}$逼近$p_{ij}$。 --- ### 三、优缺点对比 | **优点** | **缺点** | |-----------------------------------|-----------------------------------| | 计算效率高（比t-SNE快） | 对`n_neighbors`敏感 | | 保留全局结构更优 | 数学理论复杂，解释性较低 | | 支持监督/半监督降维 | 不适用于线性可分数据（优先选PCA） | --- ### 四、应用场景 1. **可视化** 如单细胞RNA测序数据（PBMC 3K数据集）、MNIST手写数字。 2. **聚类预处理** 先降维再使用K-Means或DBSCAN，解决“维度诅咒”。 3. **特征工程** 生成低维特征供分类/回归模型使用。 --- ### 五、Python代码示例 ```python import umap import matplotlib.pyplot as plt from sklearn.datasets import load_digits # 加载数据 digits = load_digits() X = digits.data y = digits.target # 训练UMAP模型 reducer = umap.UMAP(n_neighbors=15, min_dist=0.1, n_components=2) embedding = reducer.fit_transform(X) # 可视化 plt.scatter(embedding[:,0], embedding[:,1], c=y, cmap='Spectral', s=5) plt.colorbar() plt.show() ``` **参数说明**： - `n_neighbors`：控制局部结构的粒度（小值关注局部，大值保留全局）。 - `min_dist`：低维点的最小间距（0.0~0.99，越大分布越均匀）。 --- ### 六、与t-SNE/PCA对比 | 算法 | 速度 | 全局结构保留 | 适用数据规模 | 超参数数量 | |--------|--------|--------------|--------------|------------| | UMAP | 快 | 强 | 百万级 | 少 | | t-SNE | 慢 | 弱 | 万级 | 多 | | PCA | 最快 | 线性结构 | 无限制 | 无 | **参考资料**：McInnes, L., Healy, J., & Melville, J. (2018). UMAP: Uniform Manifold Approximation and Projection for Dimension Reduction. arXiv:1802.03426.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值