T.SNE vs PCA

最新推荐文章于 2025-05-06 18:06:29 发布

原创

最新推荐文章于 2025-05-06 18:06:29 发布 · 945 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#python #机器学习

本文比较了t-SNE和PCA在蘑菇分类任务中的性能。t-SNE展现出优于PCA的聚类能力，能将有毒和可食用蘑菇清晰区分开，而PCA的分类效果不佳。通过调整t-SNE的困惑度和n_iter参数，如困惑度为30，n_iter为5000，可获得稳定的聚类形状。结论是t-SNE在处理线性和非线性数据集时提供更优的可视化和聚类结果，但可能不保留数据的全局结构。

import pandas as pd 
import numpy as np 
import matplotlib.pyplot as plt 
import seaborn as sns 
 
df= pd.read_csv(r'C:\Users\Vikipedia\Downloads\mushrooms.csv') 
df.head()

Calculate the unique number of each category of each column:

X = df.drop('class', axis=1) 
y = df['class'] 
y = y.map({'p':'Posionous','e': 'Edible'})
 
cat_cols= X.select_dtypes(include='object').columns.tolist()
for col in cat_cols: 
    print (f" col name : {col}, N Unique : {X[col].nunique()}")

Compute and generate a table:

for col in cat_cols: 
    X[col]=X[col].astype('category') 
    X[col]=X[col].cat.codes 
X.head()

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Vicki Wang

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

【人工智能机器学习基础篇】——深入详解无监督学习之降维：PCA与t-SNE的关键概念与核心原理

编程技术探索者，分享C/C++、C#、Java、数据库等开发经验，聚焦实战技巧与AI兴趣，助力编程爱好者成长。

12-31

3757

【人工智能机器学习基础篇】——深入详解无监督学习之降维：PCA与t-SNE的关键概念与核心原理

数据处理和分析之数据降维：t-SNE与PCA原理及应用

2401_87715305的博客

10-22

978

在数据处理和分析领域，数据降维是一种关键的技术，用于减少数据集的复杂性，同时保留其核心特征。选择合适的数据降维技术取决于多个因素，包括数据的性质、分析的目标以及降维后的数据用途。主成分分析（PCA）适用场景：适用于数据集中的特征高度相关或存在线性关系的情况。PCA通过构建数据的线性组合来减少维度，同时最大化数据的方差。示例代码# 加载数据# 创建PCA实例# 拟合数据并转换# 输出降维后的数据t-分布随机邻域嵌入（t-SNE）适用场景。

参与评论您还未登录，请先登录后发表或查看评论

t-SNE和PCA进行数据降维和聚类的比较

WuKai1207的博客

09-03

3772

t-SNE（t-distributed stochastic neighbor embedding）是一种非线性的数据降维方法，它将数据点之间的空间距离转化为相似度的概率分布（高维空间中使用高斯分布，低维空间中使用t-分布），通过最小化高维空间和低维空间概率分布的KL散度，获得数据在低维空间中的近似。可以看到经t-SNE降维后的数据，实现非常好的分离。PCA（主成分分析）通过对原始数据特征的线性组合，在尽可能保留样本之间差异性（样本方差）的情况下，形成新的特征，是最常见的数据降维手段。

ML Note 3.4 - 数据降维算法 PCA / t-SNE

LutingWang的博客

03-28

2129

1957年，数学家 Richard Bellman 在研究动态规划问题时首次提出了维数灾难（curse of dimensionality）的概念，用于描述高维空间中的一系列数学现象。本文介绍了维数灾难在机器学习中的概念以及常用的数据降维方法原理。

pca 因子分析 lda tsne做数据降维效果比较

weixin_41044499的博客

07-28

787

用鸢尾花的4维数据，尝试不同的降维方式，观察变为两维数据后的效果 #!/usr/bin/python # -*- coding:utf-8 -*- import numpy as np import matplotlib as mpl import matplotlib.pyplot as plt import pandas as pd from sklearn.decomposition i...

数据可视化PCA与t-SNE

二十年蝉电子学习博客

11-08

3251

PCA（主成分分析）和t-SNE（t分布随机近邻嵌入）都是降维技术，可以用于数据的可视化和特征提取。降维主要可以分为线性降维和非线性降维PCA（Principle Components Analysis，主成分分析）SNE（Stochastic Neighbor Embedding，随机近邻嵌入），t-SNE是基于SNE的。

主成分分析（PCA）与t-SNE

qq_33578950的博客

04-09

3352

主成分分析（PCA）和t-SNE是两种非常有用的数据降维和可视化技术。PCA通过线性变换将高维数据投影到低维空间，而t-SNE则是一种非线性降维技术，可以将高维数据嵌入到二维或三维空间中进行可视化。选择PCA还是t-SNE取决于数据类型、目标和计算资源的可用性。无论哪种技术，它们都是处理高维数据的重要工具，有助于我们理解数据集的结构和特征，并支持进一步分析和机器学习应用。

数据降维技术：主成分分析（PCA）与 t - SNE 的应用

数字魔方操控师的博客

05-06

982

随着数据量的爆炸式增长，数据降维技术在数据分析和机器学习领域中变得愈发重要。本文详细介绍了两种常用的数据降维技术：主成分分析（PCA）和 t - 分布随机邻域嵌入（t - SNE）。首先阐述了数据降维的背景和意义，然后深入探讨了 PCA 和 t - SNE 的基本原理、算法步骤、应用场景以及各自的优缺点。通过实际案例分析，展示了这两种技术在不同领域中的应用效果，最后对数据降维技术的未来发展进行了展望。

程序.zip_pca_pca降维

07-15

PCA（主成分分析）是一种广泛应用于数据分析和机器学习领域的统计方法，主要用于高维数据的降维。...不过，需要注意的是，PCA假设数据的线性结构，对于非线性数据，可能需要考虑其他的降维方法，如t-SNE、LLE等。

PCA vs. t-SNE

09-11

854

t-SNE (t-distributed Stochastic Neighbor Embedding) 和 PCA (Principal Component Analysis) 都是数据降维技术，它们在机器学习和数据科学中用于减少数据的维度，以便于可视化和进一步分析。

降维算法--PCA 与 t-SNE

openslide的基本操作

03-26

3252

PCA是大家所熟知的降维算法，但是线性降维虽然简单，其局限性也很明显，难以实现高维数据在低维空间的可视化。t-SNE是非线性的降维算法，能实现高维到低维的可视化映射，但因为涉及大量的条件概率、梯度下降等计算，时间和空间复杂度是平方级的，比较耗资源。t-SNE几乎可用于所有高维数据集，广泛应用于图像处理，自然语言处理，基因组数据和语音处理。实例有：面部表情识别[2]、识别肿瘤亚群[3]、使用word...

可视化语音分析：深度对比Wavenet、t-SNE和PCA等算法

机器之心

12-13

3963

这篇文章基于 GitHub 中探索音频数据集的项目。本文列举并对比了一些有趣的算法，例如 Wavenet、UMAP、t-SNE、MFCCs 以及 PCA。此外，本文还展示了如何在 Python 中使用 Librosa 和 Tensorflow 来实现它们，并用 HTML、Javascript 和 CCS 展示可视化结果。

维度降低技术详解：PCA与t-SNE

2401_86968005的博客

02-26

1323

PCA和t-SNE是两种常用的维度降低技术，各有优缺点。PCA适合线性数据和特征提取，而t-SNE适合非线性数据和高维数据可视化。根据具体任务需求选择合适的降维方法，能够有效提升数据分析效果。

PCA与t-SNE降维数据

winycg的博客

11-24

5206

主成分分析(Principal Component Analysis，简称PCA )，是常用的降维方法。PCA是一种线性的降维方法，线性变换的直观表示为：其中，x\bm{x}x是原始的样本，y\bm{y}y是降维后的样本，W\mathbf{W}W是转换矩阵。PCA的主要目标就是求解转换矩阵，我们需要预先定义目标函数，在PCA中，有以下两个优化目标： (1)最小化重构误差 (2)最大化投影后的方...

t-SNE和PCA算法介绍(原作者写得很好.推荐一下)

zhe_csdn的博客

12-17

2062

从SNE到t-SNE再到LargeVis http://bindog.github.io/blog/2016/06/04/from-sne-to-tsne-to-largevis/ t-SNE和PCA介绍 https://www.jianshu.com/p/8c20b975a174

最强降维模型t-SNE vs 最常用降维模型PCA（下）

ABin_203的博客

05-25

2347

异常点检测前文讲到tsne在高维度数据有着绝对的优势，能够碾压其余降维模型，在低维度的数据也毫不逊色任何一种。但是缺点也很明显，性能的代价往往是时间，它的时间复杂度过高。 tsne降维完分块的特点很明显，但也有一些飘来飘去的点，这些点叫做异常点，异常点的剔除在日常生活中非常常见。比如机器零件的异常，食品，饮料等部分指标异常等。 t-SNE和PCA降维后都有异常点，我们试着来分析分析，这些异常点如何检测以及通过这些点来判断降维的效果。常见的检测异常点有4种异常点检测方法，One-Class SVM（一分类

PCA和t-SNE

qiao_yx的博客

09-26

2109

特性PCAt-SNE类型线性降维非线性降维目标最大化投影后的方差，保留全局结构保留数据局部邻域结构计算复杂度低，适合大规模数据高，适合中小规模数据结果的可解释性强，线性主成分弱，非线性嵌入稳定性稳定对超参数敏感，结果不稳定保留结构全局结构局部结构应用场景降维、特征提取、数据压缩数据可视化，展示聚类趋势超参数只需指定降维目标维度多个关键超参数需要调节适用数据类型线性或接近线性数据高维复杂数据，可视化PCA适合用于线性降维和解释数据的全局结构，特别是在特征提取、降维和数据压缩时表现良好。

掌握特征提取：机器学习中的 PCA、t-SNE 和 LDA模型

gongdiwudu的专栏

12-16

1362

与 PCA（主成分分析）相比，这是一种更好的降维技术。t-SNE，即 t 分布随机邻域嵌入，是一种通过将高维数据降低到低维空间（通常是二维或三维）来实现可视化的统计方法。这使得数据的可视化和解释变得更加容易，特别是在处理机器学习和数据科学等复杂数据集时。

t-SNE降维与pca区别

cuisidong1997的博客

11-13

734

这意味着，如果数据点（）和（）在这个高斯圆下具有相等的值，那么它们的比例和相似性是相等的，因此在这个高维空间的结构中具有局部相似性。首先要注意的是，PCA是在1933年开发的，而t-SNE是在2008年开发的。从可视化的结果可以看出，基于PCA降维的结果会产生重叠，这是因为主成分降维无法维护数据的局部结构而导致的，而基于t-SNE降维的结果分类更加清晰，基本没有类别之间的重叠，这就是t-SNE算法在降维过程中很好的保留了数据局部特征而产生的结果，所以，t-SNE算法可以很好的用来进行数据降维和可视化展示。

t-SNE和PCA

最新发布

07-15

### t-SNE vs PCA 降维算法区别、原理与应用场景 t-SNE（t-分布随机邻域嵌入）和PCA（主成分分析）是两种常用的降维技术，但它们在原理、特点及适用场景上有显著差异。 #### 原理上的区别 PCA是一种**线性降维方法**，其核心思想是通过正交变换将原始数据投影到一个新的坐标系中，使得投影后的数据在前几个维度上具有最大的方差。具体来说，PCA计算数据的协方差矩阵，并找到其特征值和特征向量，其中特征值较大的特征向量对应的方向即为保留的主要成分。这种方法能够有效降低数据维度，同时尽可能保留原始数据的全局结构[^3]。相比之下，t-SNE是一种**非线性降维方法**，特别适用于高维数据的可视化。它通过构建一个概率分布来表示数据点之间的相似性，在高维空间中使用高斯分布，在低维空间中使用t分布，并通过最小化这两个分布之间的KL散度来优化低维表示。t-SNE更关注于保持数据点之间的局部关系，因此在可视化聚类结构时表现尤为出色[^2]。 #### 特性对比 | 特性 | PCA | t-SNE | |--------------|----------------------------------|-----------------------------------| | 类型 | 线性 | 非线性 | | 计算复杂度 | 较低 | 较高 | | 结果可解释性 | 可以提供明确的主成分含义 | 结果通常难以直接解释 | | 保持结构 | 全局结构 | 局部结构 | | 应用方向 | 数据压缩、去噪 | 数据可视化、聚类 | #### 应用场景比较 PCA由于其计算效率高且能保留数据的全局结构，常用于以下场景： - **数据预处理**：在进行机器学习建模之前，通过PCA去除噪声或冗余信息，提高模型训练效率。 - **图像压缩**：在计算机视觉领域，PCA可用于减少图像数据的维度，从而节省存储空间。 - **金融数据分析**：在金融市场分析中，PCA可以用来识别资产价格变动的主要驱动因素[^3]。而t-SNE因其擅长捕捉数据的局部结构和复杂的非线性关系，广泛应用于： - **生物信息学**：用于基因表达数据的可视化，帮助研究人员发现潜在的生物学模式。 - **自然语言处理**：词向量的可视化，理解词语间的语义关系。 - **手写数字识别**：MNIST数据集的可视化，展示不同数字之间的分布情况[^2]。 ### 示例代码：使用Python实现PCA与t-SNE ```python import numpy as np from sklearn.decomposition import PCA from sklearn.manifold import TSNE from sklearn.datasets import load_digits import matplotlib.pyplot as plt # 加载数据集 digits = load_digits() X, y = digits.data, digits.target # PCA降维 pca = PCA(n_components=2) X_pca = pca.fit_transform(X) # t-SNE降维 tsne = TSNE(n_components=2, perplexity=30, n_iter=300) X_tsne = tsne.fit_transform(X) # 可视化结果 plt.figure(figsize=(12, 5)) plt.subplot(1, 2, 1) plt.scatter(X_pca[:, 0], X_pca[:, 1], c=y, cmap='tab10', s=10) plt.title('PCA') plt.subplot(1, 2, 2) plt.scatter(X_tsne[:, 0], X_tsne[:, 1], c=y, cmap='tab10', s=10) plt.title('t-SNE') plt.show() ``` 上述代码展示了如何使用`sklearn`库中的PCA和t-SNE对MNIST手写数字数据集进行降维，并绘制出二维空间中的分布图。可以看到，t-SNE生成的图更能清晰地反映出不同数字之间的聚类情况。