sklearn专题四：降维算法

最新推荐文章于 2025-05-09 22:04:18 发布

Colorfully_lu

最新推荐文章于 2025-05-09 22:04:18 发布

阅读量3.4k

点赞数 1

CC 4.0 BY-SA版权

文章标签： sklearn 算法机器学习

本文链接：https://blog.youkuaiyun.com/Colorfully_lu/article/details/121968806

本文深入探讨PCA（主成分分析）和SVD（奇异值分解）在降维中的应用。PCA利用方差作为信息量指标，通过特征值分解找到新特征空间，而SVD通过奇异值分解衡量特征信息。文章讨论了重要参数`n_components`的选择，包括可视化数据时的取值、最大似然估计和信息量占比。同时，介绍了PCA中的SVD，包括`svd_solver`参数的影响，以及PCA的不可逆性。通过案例展示了PCA在手写数字数据集降维中的应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

2.3.2 重要参数svd_solver 与 random_state

2.3.3 重要属性components_

2.4 重要接口inverse_transform

2.4.1 迷你案例：用人脸识别看PCA降维后的信息保存量

概述

1.1 从什么叫“维度”说开来

在过去的三周里，我们已经带大家认识了两个算法和数据预处理过程。期间，我们不断提到一些语言，比如说：随机森林是通过随机抽取特征来建树，以避免高维计算；再比如说， sklearn中导入特征矩阵，必须是至少二维；上周我们讲解特征工程，还特地提到了，特征选择的目的是通过降维来降低算法的计算成本 ……这些语言都很正常地被我用来使用，直到有一天，一个小伙伴问了我， ” 维度 “ 到底是什么？

对于 数组和 Series 来说， 维度就是功能 shape 返回的结果， shape 中返回了几个数字，就是几维。索引以外的数据，不分行列的叫一维（此时 shape 返回唯一的维度上的数据个数），有行列之分叫二维（ shape 返回行 x列），也称为表。一张表最多二维，复数的表构成了更高的维度。当一个数组中存在 2 张 3 行 4 列的表时， shape 返回的是 (更高维，行，列 ) 。当数组中存在 2 组 2 张 3 行 4 列的表时，数据就是 4 维， shape 返回 (2,2,3,4) 。

数组中的每一张表，都可以是一个 特征矩阵 或一个 DataFrame，这些结构永远只有一张表，所以一定有行列，其中行是样本，列是特征。针对每一张表， 维度指的是样本的数量或特征的数量，一般无特别说明，指的都是特征的数 量。除了索引之外，一个特征是一维，两个特征是二维， n 个特征是 n 维。

对图像来说，维度就是图像中特征向量的数量。特征向量可以理解为是坐标轴，一个特征向量定义一条直线，是一维，两个相互垂直的特征向量定义一个平面，即一个直角坐标系，就是二维，三个相互垂直的特征向量定义一个空间，即一个立体直角坐标系，就是三维。三个以上的特征向量相互垂直，定义人眼无法看见，也无法想象的高维空间。

降维算法中的 ” 降维 “ ，指的是降低特征矩阵中特征的数量。 上周的课中我们说过，降维的目的是为了让 算法运算更 快，效果更好，但其实还有另一种需求：数据可视化。从上面的图我们其实可以看得出，图像和特征矩阵的维度是可以相互对应的，即一个特征对应一个特征向量，对应一条坐标轴。所以，三维及以下的特征矩阵，是可以被可视化的，这可以帮助我们很快地理解数据的分布，而三维以上特征矩阵的则不能被可视化，数据的性质也就比较难理解。

1.2 sklearn 中的降维算法

sklearn 中降维算法都被包括在模块decomposition中，这个模块本质是一个矩阵分解模块。在过去的十年中，如果要讨论算法进步的先锋，矩阵分解可以说是独树一帜。矩阵分解可以用在降维，深度学习，聚类分析，数据预处理，低纬度特征学习，推荐系统，大数据分析等领域。在 2006 年， Netflflix 曾经举办了一个奖金为 100万美元的推荐系统算法比赛，最后的获奖者就使用了矩阵分解中的明星：奇异值分解 SVD 。 ( ～ o ￣ 3 ￣ ) ～菊安酱会讲 SVD在推荐系统中的应用，大家不要错过！

SVD和主成分分析PCA都属于矩阵分解算法中的入门算法，都是通过分解特征矩阵来进行降维.

2 PCA与SVD

在降维过程中，我们会减少特征的数量，这意味着删除数据，数据量变少则表示模型可以获取的信息会变少，模型的表现可能会因此受影响。同时，在高维数据中，必然有一些特征是不带有有效的信息的（比如噪音），或者有一些特征带有的信息和其他一些特征是重复的（比如一些特征可能会线性相关）。我们希望能够找出一种办法来帮助我们衡量特征上所带的信息量，让我们在降维的过程中，能够 即减少特征的数量，又保留大部分有效信息 ——将那些带有重复信息的特征合并，并删除那些带无效信息的特征等等 ——逐渐创造出能够代表原特征矩阵大部分信息的，特征更少的，新特征矩阵。

上周的特征工程课中，我们提到过一种重要的特征选择方法：方差过滤。如果一个特征的方差很小，则意味着这个特征上很可能有大量取值都相同（比如 90% 都是 1 ，只有 10% 是 0 ，甚至 100% 是1），那这一个特征的取值对样本而言就没有区分度，这种特征就不带有有效信息。从方差的这种应用就可以推断出，如果一个特征的方差很大，则说明这个特征上带有大量的信息。因此，在降维中， PCA 使用的信息量衡量指标，就是样本方差，又称可解释性方 差，方差越大，特征所带的信息量越多 。

Var 代表一个特征的方差， n 代表样本量， xi 代表一个特征中的每个样本取值， xhat 代表这一列样本的均值。

2.1 降维究竟是怎样实现？

class sklearn.decomposition.PCA ( n_components=None , copy=True , whiten=False , svd_solver=’auto’ , tol=0.0,iterated_power=’auto’ , random_state=None )

PCA作为矩阵分解算法的核心算法，其实没有太多参数，但不幸的是每个参数的意义和运用都很难，因为几乎每个参数都涉及到高深的数学原理。为了参数的运用和意义变得明朗，我们来看一组简单的二维数据的降维。

我们现在有一组简单的数据，有特征x1和x2，三个样本数据的坐标点分别为(1,1)，(2,2)，(3,3)。我们可以让x1和x2分别作为两个特征向量，很轻松地用一个二维平面来描述这组数据。这组数据现在每个特征的均值都为2，方差则等于：

每个特征的数据一模一样，因此方差也都为1，数据的方差总和是2。

现在我们的目标是：只用一个特征向量来描述这组数据，即将二维数据降为一维数据，并且尽可能地保留信息量，即让数据的总方差尽量靠近2。于是，我们将原本的直角坐标系逆时针旋转45°，形成了新的特征向量x1*和x2*组成的新平面，在这个新平面中，三个样本数据的坐标点可以表示为

可以注意到， x2*上的数值此时都变成了0，因此x2*明显不带有任何有效信息了（此时x2*的方差也为0了）。此时，x1*特征上的数据均值是，而方差则可表示成：

x1*上的数据均值为0，方差也为0。

此时，我们根据信息含量的排序，取信息含量最大的一个特征，因为我们想要的是一维数据。所以我们可以将x2* 删除，同时也删除图中的x2*特征向量，剩下的x1*就代表了曾经需要两个特征来代表的三个样本点。通过旋转原有特征向量组成的坐标轴来找到新特征向量和新坐标平面，我们将三个样本点的信息压缩到了一条直线上，实现了二维变一维，并且尽量保留原始数据的信息。一个成功的降维，就实现了。