机器学习最强通用降维:UMAP 超通俗完整版

UMAP:非线性降维的核心原理与实践指南 使用 k-NN 获得点的关系结构UMAP 首先通过 k-最近邻(k-NN)算法构建高维数据点之间的图结构。这一步的目的是捕捉数据在高维空间中的局部邻域关系,即哪些点彼此接近。优化点的关系权重构建好 k-NN 图后,UMAP 会为图中的边赋予权重,反映数据点之间的相似性。这是通过考虑数据点在高维空间中的距离,并使用一种非线性变换(如基于距离的概率分布)来计算边的权重。这一步是为了更精确地描述点与点之间的相似性关系。随机初始化低维的点在低维空间中随机初始化数据点的位置。 阅读详情

机器学习最强通用降维:UMAP 超通俗完整版

UMAP 是目前工业界、科研圈最火的降维 & 可视化算法,它完美结合了 t-SNE 的聚类效果 + PCA 的速度 + 全局结构保留,既能画漂亮图,又能直接当模型输入特征。

这篇文章用大白话 + 原理拆解 + 完整代码 + 参数调优 + 面试总结,本科生、研究生都能轻松看懂。


一、先看懂:UMAP 到底是什么?

1. 一句话理解 UMAP

UMAP = 速度快、效果好、既能可视化又能做降维的全能流形学习算法
它能把高维数据(图像、文本、特征向量)压成 2D/3D,同时:

  • 相似点聚在一起
  • 不同类别分得开
  • 保留全局结构
  • 跑得比 t-SNE 快很多

2. 超通俗例子

你有 7 万张手写数字(784 维):

  • PCA:糊成一团
  • t-SNE:分得清楚,但跑得巨慢
  • UMAP:分得清楚 + 速度快 + 全局结构不乱

3. UMAP 最牛的地方

✅ 比 t-SNE 快 5~20 倍
✅ 同时保留局部聚类 + 全局结构
✅ 支持大数据、高维数据
✅ 既能画图,又能直接当模型特征
✅ 支持各种距离(余弦、欧氏、曼哈顿…)


二、UMAP 核心思想(极简版)

UMAP 基于拓扑学 + 流形假设,只做三件事:

  1. 建邻域图
    每个点只连附近的邻居,保留局部结构。

  2. 测相似度
    用高斯核计算点之间的连接强度。

  3. 优化低维布局
    在 2D/3D 空间里重新摆放点,让高维结构 = 低维结构。

一句话总结:
UMAP 先看懂数据的拓扑结构,再把它平整地展开到低维。


三、UMAP 最重要的两个参数(必懂)

1. n_neighbors(邻居数)

  • 控制看多大范围
  • 小:更关注局部,聚类更碎
  • 大:更关注全局,结构更整体
  • 常用:5 ~ 50,图像推荐 10~30

2. min_dist(最小距离)

  • 控制点挤得多密
  • 小:点挤在一起,聚类明显
  • 大:点更分散,结构更舒展
  • 常用:0.05 ~ 0.3

四、实战代码:MNIST 手写数字 UMAP 降维(可直接运行)

import numpy as np
import matplotlib.pyplot as plt
import umap
from sklearn.datasets import fetch_openml
from sklearn.preprocessing import StandardScaler
from sklearn.decomposition import PCA
import time

# ====================== 1. 加载数据 ======================
print("加载 MNIST 数据...")
mnist = fetch_openml('mnist_784', version=1, parser='auto')
X = mnist.data
y = mnist.target.astype(int)

# 抽样加速(可注释掉用全量)
# idx = np.random.choice(len(X), 20000, replace=False)
# X = X.iloc[idx]
# y = y.iloc[idx]

# ====================== 2. 标准化 + PCA 预降维 ======================
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# 高维数据先 PCA 降到 50 维,速度大幅提升
pca = PCA(n_components=50, random_state=42)
X_pca = pca.fit_transform(X_scaled)
print("PCA 完成,形状:", X_pca.shape)

# ====================== 3. UMAP 降维 ======================
start = time.time()

umap_model = umap.UMAP(
    n_components=2,
    n_neighbors=15,
    min_dist=0.1,
    metric='cosine',
    random_state=42,
    n_jobs=-1
)

X_umap = umap_model.fit_transform(X_pca)
end = time.time()
print(f"UMAP 完成!耗时:{end-start:.2f}s")

# ====================== 4. 可视化 ======================
plt.figure(figsize=(14, 10))
scatter = plt.scatter(
    X_umap[:, 0], X_umap[:, 1],
    c=y, cmap='Spectral', s=1, alpha=0.7
)
plt.colorbar(scatter, ticks=range(10), label='Digit')
plt.title('UMAP 手写数字可视化', fontsize=16)
plt.xlabel('UMAP 1')
plt.ylabel('UMAP 2')
plt.tight_layout()
plt.show()

效果说明

  • 0~9 每个数字形成清晰团簇
  • 全局结构完整,相似数字(如 4/9)靠近但不混淆
  • 几万样本也能快速跑完

五、UMAP 优缺点(面试高频)

✅ 优点

  1. 速度极快:远快于 t-SNE
  2. 局部 + 全局结构都保留(吊打 t-SNE)
  3. 支持大数据
  4. 支持各种距离与数据类型
  5. 可直接作为模型输入(不像 t-SNE 只能画图)
  6. 可视化效果顶尖

❌ 缺点

  1. 对参数敏感(n_neighbors、min_dist)
  2. 可解释性一般
  3. 高维超大数据仍占内存
  4. 仍是线性化流形,不适合极端复杂结构

六、UMAP vs PCA vs t-SNE(最清晰对比)

算法全局结构局部聚类速度用途
PCA好差极快降维、去噪
t-SNE差极好慢仅可视化
UMAP极好极好快可视化 + 降维 + 特征提取

七、什么时候用 UMAP?(90% 场景首选)

✅ 推荐使用

  • 高维数据可视化(图像、文本、 embedding)
  • 需要同时看局部聚类 + 全局结构
  • 数据量大(>1 万样本)
  • 降维后要输入模型训练
  • 论文绘图、报告展示

❌ 不推荐使用

  • 只需要极快的线性降维 → 用 PCA
  • 完全不在乎全局结构 → 用 t-SNE
  • 超小数据(<500)→ 用 t-SNE 也可以

八、UMAP 实战调参技巧(直接照抄)

  1. 先 PCA 预降维到 50~100 维,速度提升巨大
  2. n_neighbors:数据量大设大一点(15~50)
  3. min_dist:想聚类清晰设 0.05~0.1
  4. metric:图像用欧氏,文本/特征用余弦
  5. 一定要标准化数据

九、总结(一句话记住 UMAP)

UMAP 是目前最全能的降维可视化算法,速度快、效果好,既保留局部聚类,又保留全局结构,是机器学习、深度学习、数据分析的首选降维工具。

机器学习算法:UMAP 深入理解(通俗易懂!) UMAP 是 McInnes 等人开发的新算法。与t-SNE相比,它具有许多优势,最显着的是提高了计算速度并更好地保留了数据的全局结构。降维是机器学习从业者可视化和理解大型高维数据集的常用方法。最广泛使用的可视化技术之一是 t-SNE,但它的性能受到数据集规模的影响,并且正确使用它可能需要一定学习成本。 阅读详情

相关推荐

机器学习算法:UMAP 深入理解

导读 降维是机器学习从业者可视化和理解大型高维数据集的常用方法。最广泛使用的可视化技术之一是 t-SNE[1],但它的性能受到数据集规模的影响,并且正确使用它可能需要一定学习成本。 UMAP[2] 是 McInnes 等人开发的新算法。与t-SNE相比,它具有许多优势,最显着的是提高了计算速度并更好地保留了数据的全局结构。在本文[3]中,我们将了解UMAP背后的理论,以便更好地了解该算法的工作原理、如何正确有效地使用它,以及与t-SNE进行比较,它的性能如何。 UMAP projection 那么,UMAP

冷冻工厂 1万+

小学生都能懂的 UMAP(Uniform Manifold Approximation and Projection)说明

小学生都能懂的 UMAP(Uniform Manifold Approximation and Projection)说明

engchina的专栏 2641

【降维算法UMAP】调参获得更适合的低维图

为什么要降维:单细胞转录组数据往往是数千*数万(细胞数*基因数)的矩阵数据,降维可以帮助可视化和理解大型高维数据集。降维算法:在单细胞转录组生信分析中,常见的降维算法有两种,UMAP和T-SNEUMPA运算速度会更快,并且在保留数据结构的同时提供了更好的扩展性。UMAP的主要步骤学习高维空间中的流形结构找到该流形的低维表示,优化低维图。

weixin_40695088的博客 1万+

什么是UMAP:高维数据的非线性降维算法

UMAP(均匀流形逼近与投影,Uniform Manifold Approximation and Projection) 是一种 降维算法,用于 数据可视化、特征提取,特别适用于 高维数据的非线性降维,与 t-SNE 类似,但计算速度更快,保留全局结构更好。比 t-SNE 更快,适用于大规模数据集,并且能更好地保留全局和局部结构。广泛用于 NLP(BERT)、计算机视觉(MNIST)和聚类任务。可调整超参数 n_neighbors 和 min_dist 以优化降维效果。

彬彬侠的博客 4737

词嵌入的真正起源:从香农信息论到PMI-SVD的数学演进

词嵌入本质上是语言共现统计的几何表达,其理论根基可追溯至香农1948年提出的信息论——信息量定义为不确定性的减少,而语义关联则由点互信息(PMI)量化。PMI矩阵刻画了词对超越随机性的共现强度,再经奇异值分解(SVD)降维,自然生成保距的低维向量空间。这一‘统计→矩阵→降维→向量’路径,构成了Word2Vec、GloVe等模型的数学本质,也解释了为何调整window_size实为调控共现上下文、negative_sampling实为近似稀疏PMI。理解该原理,能穿透大模型黑箱,在RAG检索失效、语义漂移或术

weixin_30292745的博客 327

机器学习笔记 - 什么是UMAP?

统一流形逼近和投影 (UMAP) 是一种降维技术,可用于类似于 t-SNE 的可视化,但也可用于一般的非线性降维。UMAP 是一种基于流形学习技术和拓扑数据分析思想的降维算法。它为处理流形学习和降维提供了一个非常通用的框架,但也可以提供具体的具体实现。   该算法基于对数据的三个假设:   数据均匀分布在黎曼流形上;   黎曼度量是局部常数(或可以近似);   歧管是本地连接的。   根据这些假设,可以用模糊拓扑结构对流形进行建模。通过搜索具有最接近的等效模糊拓扑结构的数据的低维投影来

学以致用 知行合一 2万+

MachineLearning 13. 机器学习之降维方法UMAP及可视化 (umap)

最佳降维方法之一 UMAP,并实现在多个数据集上的应用,尤其是单细胞测序数据

weixin_41368414的博客 5080

零基础教程:用Python给试卷照片自动切题(有道OCR+PIL完整流程)

本文为零基础用户提供了一套完整的Python自动化切题方案。通过调用有道OCR API识别试卷照片中的题目坐标,并利用PIL库进行精准裁剪,将杂乱的试卷图片自动分割为独立的题目图像。教程详细涵盖了环境搭建、图像预处理、API调用、坐标解析与批量处理全流程,帮助教育工作者和技术爱好者高效处理大量试卷,实现工作流程自动化。

grpc6streamer的博客 1178

机器学习最强可视化降维:t-SNE 超通俗完整版

本文全面介绍了t-SNE这一强大的可视化降维算法。t-SNE通过高斯分布计算高维相似度,用t分布优化低维布局,能生成同类相聚、异类分离的清晰聚类图。文章详细解析了t-SNE的核心思想、数学原理、参数调优(特别是困惑度perplexity),并提供了MNIST手写数字的可视化实战代码。同时对比了t-SNE与PCA、UMAP的优缺点,指出t-SNE最适合高维数据可视化,但不适合作为模型输入或处理大规模数据。最后总结了t-SNE的使用技巧:先PCA降维、标准化数据、设置合适困惑度等。t-SNE凭借其出色的局部聚类

DeepModel的博客 1036

模仿学习与强化学习结合(IL+RL)有没有代表性论文?未来发展趋势如何?

IL与RL的结合正成为AI研究热点,尤其在机器人控制、复杂博弈等需要边学边练的场景。经典方法如Dagger(2010)和GAIL(2016)开创了先用模仿学习预热、再用强化学习微调的模式。近期工作如IN-RIL(2024)提出交替训练策略,显著提升样本效率。开源项目RoboSchool和StableBaselines3为相关研究提供支持。未来趋势包括:1)混合式智能体结合人类经验与自主探索;2)突破小样本学习、自然语言交互等方向;3)提升安全性、样本效率和可解释性。

CyberSoma的博客 2250

pyautogui库详细教程,逐行注释(附项目实战:基于图像识别实现崩坏星穹铁道自动化测试)

本文包含了pyautogui的使用方法与常见问题指南,随文附带对游戏实现的自动化项目源码与说明文档

m0_53043024的博客 1万+

10X单细胞(10X空间转录组)降维分析之UMAP

10X单细胞(10X空间转录组)降维分析之UMAP

weixin_53637133的博客 2828

告别裸机:在FreeRTOS上为STM32移植SOEM EtherCAT主站的思路与实战

本文详细介绍了在FreeRTOS环境下为STM32移植SOEM EtherCAT主站的工程实践。通过重构任务调度模型、优化内存管理和中断响应,成功将通信周期抖动控制在±100ns以内,满足工业控制系统的严苛实时性要求。文章包含完整的移植策略、性能优化方法和实测数据,为开发者提供了一套可靠的EtherCAT主站解决方案。

weixin_30342363的博客 389

umap入门

umap定义和聚类使用

weixin_47517341的博客 4748

别再对着ACF/PACF图发懵了!用R语言实战教你一眼分清AR、MA和ARMA模型

本文通过R语言实战详细解析了时间序列分析中AR、MA和ARMA模型的特征图识别技巧。重点讲解了如何通过ACF和PACF图的截尾与拖尾特征快速判断模型类型,帮助数据分析师建立从图形到模型的直觉映射,提升时间序列分析的效率和准确性。

weixin_28706923的博客 359

数字信号的艺术演绎:用FPGA+DAC实现音乐合成器的核心原理

本文深入探讨了如何利用FPGA和DAC技术实现数字音乐合成器的核心原理,涵盖DDS架构、多波形合成、MIDI协议解析及动态包络控制等关键技术。通过详细的Verilog代码示例和硬件实现方案,展示了数字信号处理在音乐合成中的艺术演绎,为电子音乐创作提供了强大的硬件支持。

weixin_28256233的博客 391

PCA / t-SNE / UMAP:三大主流降维方法详解与应用实战

在数据挖掘任务中,面对高维稀疏数据结构时,降维技术是提升模型性能、增强可视化表达、改善聚类与分类稳定性的核心手段。PCA(主成分分析)、t-SNE(分布保持降维)与 UMAP(流形学习降维)是当前最主流的三种方法,分别适用于不同的数据类型与任务目标。本篇以工程实践为核心,全面对比三者的原理逻辑、参数控制、适用边界与可视化能力,辅以结构化的代码实现与真实样例,构建一套可复用的降维流程模板,用于特征压缩、聚类预处理与高维数据分析中的实际落地。

努力分享一些人工智能、计算机视觉、影像等相关的知识干货! 2960

网神 SecGate 3600 防火墙 app_av_import_save文件上传漏洞(含批量验证poc)

网神 SecGate 3600 防火墙 app_av_import_save文件上传漏洞(含批量验证poc)

weixin_43567873的博客 299

机器学习 流形数据降维:UMAP 降维算法

UMAP(Uniform Manifold Approximation and Projection)是一种先进的非线性降维技术,用于将高维数据集转换为低维空间中的表示,同时尽可能保留原始数据的复杂结构和拓扑特性。它特别适用于可视化分析和机器学习领域的预处理步骤。

小嗷犬的博客 5413

基于DRU-HVDC的构网型海上风电场环流机理仿真复现

本文介绍了基于DRU-HVDC的构网型海上风电场环流机理仿真模型的构建方法。主要内容包括: 完整的Simulink模型结构,包含主模型文件GFM_DRU_Main.slx和配置脚本GFM_DRU_Setup.m 系统参数设置,包括基础频率(20Hz)、电压基准值(690V)、功率基准值(2MVA)等 四种仿真场景配置:电压不平衡、相位不平衡、阻抗不平衡和频率不平衡 风力发电机(WT)子系统的详细构建步骤,包含电压源、输出阻抗和测量模块 变压器和DRU整流器的参数设置 该模型可用于研究构网型风电场的环流机理。

huanghm88的专栏 262

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

别再懵圈!一文30秒搞懂 UMAP 图,快看

宝子们,科研绘图、数据分析老遇到 UMAP 图?却总感觉一知半解?今天就来彻底搞懂它!

weixin_55387919的博客 3290

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

UMAP降维算法原理详解和应用示例

降维不仅仅是为了数据可视化。它还可以识别高维空间中的关键结构并将它们保存在低维嵌入中来克服“维度诅咒” 本文将介绍一种流行的降维技术Uniform Manifold Approximation and Projection (UMAP)的内部工作原理,并提供一个 Python 示例。 (UMAP) 如何工作的? 分析 UMAP 名称 让我们从剖析 UMAP 名称开始,这将使我们对算法应该做什么有一个大致的了解。 以下描述不是官方定义,而是我总结出来的可帮助我们理解 UMAP 的要点。 Projection

deephub 3万+

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

单细胞基因可视化之UMAP图修饰

更多精彩请至《KS科研分享与服务公众号》 除了之前说过的三种常见单细胞基因可视化方法外,还有一种最常用的就是直接在UMAP或者TSNE降维图上显示表达某基因的细胞,这种方式更加直观,但是只能显示一个基因,一般用于标记重要的基因。 1、降维可视化 降维可视化一般用Dimplot函数,如果使用的是UMAP方法,可以直接使用UMAPPlot函数,但是感觉效果不好或者很混乱,可以考虑使用PCAPlot函数。可以看到,聚类效果不错,PCA不同细胞群还是分开了。 plot1 <- UMAPPlot(sc

qq_42090739的博客 1万+

UMAP:强大的可视化&异常检测工具

数据降维最为重要的是降低数据的维度的同时尽可能保有大量的原始信息,而其中最为大家熟知的是PCA和tSNE,但是这二者都存在一些问题, PCA的速度相对很快,但代价是数据缩减后会丢很多底层的结构信息; tSNE可以保留数据的底层结构,但速度非常慢; UMAP是2018年被提出的降维和可视化算法,它使用Uniform流形近似和投影(UMAP),既可以获得PCA的速度优势,同时还可以保留尽可能多的数据信息,而且其可视化效果也非常美观,如下: UMAP 在其当前的化身中取得了一些重大胜利。 Umap介绍 统一..

优快云 精品推荐 3645

读文献先读图:UMAP图怎么看?

UMAP(Uniform Manifold Approximation and Projection)是一种非线性降维算法。通过降维,将高维数据分布在一个低维空间中,使得具有相似基因表达模式的细胞在图中聚集在一起,形成不同的聚类。既保留了数据的局部结构,也在一定程度上保留了全局结构。

Yokily的博客 1452

单细胞RNA降维之UMAP

单细胞RNA降维之UMAP UMAP 首先,UMAP是一种非线性降维的算法,相对于t-SNE,UMAP算法更加快速 该方法的原理是利用流形学和投影技术,达到降维目的 首先计算高维空间中的点之间的距离,将它们投影到低维空间,并计算该低维空间中的点之间的距离。然后,它使用随机梯度下降来最小化这些距离之间的差异。 比方说,图中两个黑点,若考虑直线距离,那么这两个黑点之间距离很相近 如果放到流形学上,那么这两个点距离就得沿着图中曲线绕两圈 那么UMAP先计算高维的流形结构特征,将其中各...

wangprince2017 6603
上一篇: 机器学习最强可视化降维:t-SNE 超通俗完整版
下一篇: 机器学习降维与信号分离:独立成分分析 ICA
「已注销」
博客等级 码龄1年 312粉丝 132原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

「已注销」

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值