机器学习笔记 - 什么是t-SNE？

坐望云起

已于 2023-09-09 12:06:18 修改

阅读量6.1k

点赞数 5

CC 4.0 BY-SA版权

分类专栏：深度学习从入门到精通文章标签： t-SNE TSNE 降维 perplexity 可视化

于 2022-04-24 22:29:11 首次发布

本文链接：https://blog.youkuaiyun.com/bashendixie5/article/details/124392127

深度学习从入门到精通专栏收录该内容

797 篇文章 ¥99.90 ¥299.90

订阅专栏

t-SNE是一种非线性降维技术，适用于高维数据的可视化和探索。与PCA不同，t-SNE侧重保留局部相似性而非最大化方差，尤其适合非线性数据结构。在sklearn中，t-SNE的perplexity参数对结果影响显著，不同的设置会产生不同的可视化效果。示例展示了t-SNE在MNIST和人脸识别数据集上的应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1、t-SNE概述

t-Distributed Stochastic Neighbor Embedding (t-SNE) 是一种无监督的非线性技术，主要用于数据探索和高维数据的可视化。简单来说，t-SNE 让您对数据在高维空间中的排列方式有一种感觉或直觉。它由 Laurens van der Maatens 和 Geoffrey Hinton 于 2008 年提出。

2、t-SNE 与 PCA

PCA 是在1933年出现的，而t-SNE是在2008年出现的。
PCA 是一种线性降维技术，旨在最大化方差并保持较大的成对距离。换句话说，不同的事物最终会相距甚远。这会导致可视化效果不佳，尤其是在处理非线性流形结构时。将流形结构视为任何几何形状，例如：圆柱体、球体、曲线等。
t-SNE 与 PCA 的不同之处在于仅保留小的成对距离或局部相似性，而 PCA 关注的是保留大的成对距离以最大化方差。Laurens 使用图1 中的 Swiss Roll 数据集很好地说明了 PCA 和 t-SNE 方法。您可以看到，由于这个玩具数据集（流形）的非线性和保留较大的距离，PCA 会错误地保留数据的结构。
使用 t-SNE（实线）与最大化方差 PCA保持小距离