机器学习降维之主成分分析法（PCA）

最新推荐文章于 2025-07-08 15:19:12 发布
原创 最新推荐文章于 2025-07-08 15:19:12 发布 · 4.9k 阅读 · 10 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

主成分分析（PCA）是一种降维技术，通过将数据投影到新空间来减少特征数量。PCA的主要步骤包括数据均值化、计算协方差矩阵、获取特征值和特征向量，然后选择最大特征值对应的特征向量进行降维。在PCA实践中，选择合适的主成分数量通常是依据保持原始数据信息的比例，如99%或95%。错误使用PCA可能包括将其用于减少过拟合，或默认作为学习过程的一部分而不首先尝试原始特征。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

主成分分析（principal component analysis）也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标（即主成分），其中每个主成分都能够反映原始变量的大部分信息，且所含信息互不重复。

PCA主要思想

PCA的基本原理就是将一个矩阵中的样本数据投影到一个新的空间中去。当把所有的数据 都投射到该新空间时，我们希望平均方误差能尽可地小。

PCA主要步骤

  1. 将原始数据按行排列组成矩阵X

  2. 对X进行数据均值化得到X'

  3. 求X'的协方差矩阵C

  4. 求协方差矩阵C的特征值和特征向量，并将特征向量按特征值由大到小排列，取前k个按行组成矩阵P（原因：对于一个矩阵来说，将其对角化即产生特征根及特征向量的过程，也是将其在标准正交基上投影的过程，而特征值对应的即为该特征向量方向上的投影长度，因此该方向上携带的原有数据的信息越多。）

  5. 通过计算Y = PX'，得到降维后数据Y

PCA实例 m=5

（2）、对X进行数据均值

最低0.47元/天 解锁文章

200万优质内容无限畅学
【机器学习】主成分分析法（PCA）
在记录自己编程工作与编程生活的同时，给那些困于无法入门编程世界的朋友提供一点帮助，在有限的生命中给有需要的人尽一点绵薄之力。
03-12 2183
本文主要讲述了主成分分析法（PCA）的原理和应用。PCA通过选择最重要的特征，将高维数据映射到低维空间，同时保持数据间的关系，实现降维和去噪。通过具体的例子和图示解释了PCA的原理，并比较了两种降维方案，解释了为什么选择将数据映射到x轴上可以得到更好的分类效果。最后强调了在PCA之前需要对所有样本的均值进行归零处理。通过这篇文章，读者可以深入了解PCA的原理和应用，并掌握如何使用PCA进行数据降维和去噪，提高分类效果。
主成分分析（降维）
LLLTTS
08-02 1万+
数据量太大时往往会有相关性较高的维度，给建模计算带来不必要的开支。 算法步骤： 输入：n维样本集，要降维到的维数n'. 　　　　输出：降维后的样本集D' 　　　　1) 对所有的样本进行中心化：  　　　　2) 计算样本的协方差矩阵 　　　　3) 对矩阵进行特征值分解 　　　　4）取出最大的n'个特征值对应的特征向量 将所有的特征向量标准化后，组成特征向量矩阵W。 　　　　5）对样...
机器学习系列1 PCA（主成分分析法）
zhengmingzhang的博客
10-04 768
1.PCA的应用    1.降维    2.去除数据相关性，对数据特征进行抽取 2.主成分选择原则   (1)主成分是原来变量的线性组合;   (2)各主成分之间互不相关;   (3)主成分分析的实质就是找到一个正交变换,即有正交阵U,使得一个
主成分分析（PCA）
最新发布
m0_54570435的博客
07-08 925
PCA是一种强大且广泛使用的。
机器学习之主成分分析
m0_72946768的博客
06-16 1353
主成分分析（Principal Component Analysis, 简称PCA）是一种常见的统计方法，用于数据降维和特征提取。它通过线性变换将原始数据投影到一个由各主成分组成的新坐标系中，这些主成分是原始数据中方差最大的方向。这样做可以减少数据的维度，去除数据中的噪声和冗余信息，帮助发现数据中的模式和结构。主成分分析的目标是找到一组正交的新变量（主成分），使得数据在这些新变量上的方差最大。通过对数据的协方差矩阵进行特征值分解，可以得到主成分的方向和相对重要性，并根据这些主成分对数据进行投影和降维。
机器学习笔记（九）——数据降维：主成分分析法（PCA）
热门推荐
weixin_43312354的博客
04-22 9万+
一、主成分分析法（PCA）思想及原理 （一） 什么是主成分分析法 PCA(Principal Component Analysis)，即主成分分析方法，是一种使用最广泛的数据降维算法（非监督的机器学习方法）。 其最主要的用途在于“降维”，通过析取主成分显出的最大的个别差异，发现更便于人类理解的特征。也可以用来削减回归分析和聚类分析中变量的数目。 （二）为什么要做主成分分析 在很多场景中需要对多变量...
机器学习--主成分分析(PCA)
m0_73531849的博客
06-18 1306
PCA 是 （Principal Component Analysis ）的缩写，中文称为主成分分析法。它是一种维数约减（Dimensionality Reduction）算法，即把高维度数据在损失最小的情况下转换为低维度数据的算法。显然，PCA 可以用来对数据进行压缩，可以在可控的失真范围内提高运算速度，提高机器学习的效率，使较为复杂的数据简单化。所谓损失最小就是从高维向低维映射的时候误差最小，低维空间的描述是向量组，k维空间就用k个向量来描述这个空间。
机器学习课程笔记（第八周-2）降维问题 主成分分析法PCA
盲人摸象
11-05 1149
课程链接https://www.coursera.org/learn/machine-learning 部分内容整理摘自https://www.cnblogs.com/maxiaodoubao/p/10217672.html 维数约简dimensionality reduction 原因： 1.数据压缩 Data Compression 数据压缩不仅通过压缩数据使得数据，占用更少的计算机内存和...
【机器学习】特征降维 - 主成分分析PCA_主成分分析法 特征降维(1)
2401_84520377的博客
05-13 692
还有兄弟不知道网络安全面试可以提前刷题吗？费时一周整理的160+网络安全面试题，金九银十，做网络安全面试里的显眼包！王岚嵚工程师面试题（附答案），只能帮兄弟们到这儿了！如果你能答对70%，找一个安全工作，问题不大。对于有1-3年工作经验，想要跳槽的朋友来说，也是很好的温习资料！【完整版领取方式在文末！！内容实在太多，不一一截图了。
主成分分析（PCA）降维
m0_62501000的博客
12-31 8494
在机器学习和数据分析领域，主成分分析（PCA）是一种常用的降维技术，旨在减少数据维度并保留主要信息。通过将高维数据映射到低维空间，PCA使得数据更易于可视化、理解和处理。本文将深入探讨PCA的原理、应用和实现。通过去除冗余信息，减少数据的维度，提高计算效率和模型训练速度。选择主成分相当于选择了原始特征中最具代表性的信息，有助于提取关键特征。PCA可以帮助去除数据中的噪音，提高模型的鲁棒性。PCA基于线性变换，可能无法很好地处理非线性关系。对异常值敏感，可能受到极端值的影响。
PCA降维-MATLAB程序
04-01
MATLAB程序-PCA降维，程序已经进行封装，替换自己的数据就可以使用，需要的可以进行参考使用。
PCA降维MATLAB程序
11-05
PCA降维MATLAB程序,主要用于光谱的降维PCA降维MATLAB程序,主要用于光谱的降维
matlab利用PCA函数进行降维
10-31
由于本人最近需要处理的数据特征太多，导致分类不准确，特此学习了两天的PCA，找了许多资料。整理了各位博主的伪代码，并写成matlab程序，然后自己利用matlab自带的pca函数进行计算，两种方法进行比较，程序已全副武装，只需要导入自己数据就能运行。
理解主成分分析法
06-26
主成分分析法 (PCA) 是一种常用的数据分析手段。对于一组不同维度 之间可能存在线性相关关系的数据，PCA 能够把这组数据通过正交变换变 成各个维度之间线性无关的数据。经过 PCA 处理的数据中的各个样本之间 的关系往往更直观，所以它是一种非常常用的数据分析和预处理工具。PCA处理之后的数据各个维度之间是线性无关的，通过剔除方差较小的那些维度上的数据我们可以达到数据降维的目的。在本文中，SIGAI将介绍PCA 的原理、应用以及缺陷。
matlab利用PCA函数进行降维.zip
05-07
整理了各位博主的伪代码，并写成matlab程序，然后自己利用matlab自带的pca函数进行计算，两种方法进行比较，程序只需要导入自己数据就能运行。
机器学习一一主成分分析法
weixin_30302609的博客
01-07 179
下面是python2版本的程序: 对鸢尾花数据进行主成分分析法的操作,并画图: import matplotlib.pyplot as plt #加载matplotlib用于数据的可视化from sklearn.decomposition import PCA #加载pca算法包from sklearn.datasets import load_...
降维-主成分分析
zyy848877920的博客
01-10 976
一、降维动机： 1.1、数据压缩：占内存小，可加快学习算法 下面举个小例子： 将数据从二维降至一维: 假使我们要采用两种不同的仪器来测量一些东西的尺寸，其中一个仪器测量结果的单位是英寸，另一个仪器测量的结果是厘米，我们希望将测量的结果作为我们机器学习的特征。现在的问题的是，两种仪器对同一个东西测量的结果不完全相等(由于误差、精度等)，而将两者都作为 特征有些重复，因而，我们希望将这个二维的数
matlab pca降维
qigeyonghuming_1的博客
11-26 671
参考博客 https://www.cnblogs.com/kailugaji/p/11594507.html 函数 pcafeatures.m function [featuresTrainpca,featuresTestpca]=pcafeatures(featuresTrain,featuresTest,yuzhi) % load featuresTrain; % load featuresTest; numTrain=size(featuresTrain,1);%参数1代表取行数就是样本数 numTe
主成分分析法PCA函数：快速封装程序应用
主成分分析法（PCA）的核心在于通过数据变换，寻找数据中最大的方差方向。这些方向被称为主成分，它们代表了数据方差的主要构成部分。在实际应用中，PCA可以用于数据的降噪、可视化、以及提取最有代表性的特征，进而...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值