22降维算法-PCA主成分分析

最新推荐文章于 2025-06-03 20:27:29 发布
原创 最新推荐文章于 2025-06-03 20:27:29 发布 · 475 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#算法 #python #机器学习 #数据分析

本文介绍了PCA主成分分析的算法原理，强调了降维过程中保持方差最大化和协方差为0的目标。通过实例展示了PCA在数据标准化、特征分解、投影矩阵构建和效果验证的过程，证实PCA能增强数据的分辨能力。

唐宇迪《python数据分析与机器学习实战》学习笔记
22降维算法-PCA主成分分析

一、算法讲解

在这里插入图片描述
在这里插入图片描述
比如（3,2）是建立在我的基上，一旦改变就不能这么表达那个点了。

在这里插入图片描述
在这里插入图片描述
线性无关，X轴Y轴的数据不相互影响。
在这里插入图片描述
在这里插入图片描述
做事要有依据，既然映射到基，那就要 找最合适的基
一堆密集的点希望投影后得到一堆比较分散的点，因此方差越大越好，方差代表一个特征的分散程度，协方差代表两个变量之间的关系，如果A、B的变化趋势类似则协方差越大，协方差的值在-1到1之间。
协方差计算：第一列减去第一列均值，第二列减去第二列均值，本来应该是（ai-μa）（bi-μb）这里假设均值为0所以直接aibi
在这里插入图片描述
之所以要引入协方差是因为：比如10维-2维选方差最大的当轴，第一个轴方差最大，第二个轴次大，两个轴肯定接近重合，即使多个轴也会大部分接近重合，不利于建模。
在这里插入图片描述
优化目标
在这里插入图片描述
使方差尽可能大、使协方差为0。对角线上是各自的方差（默认μ为0），非对角线上就是两个字段的协方差

最低0.47元/天 解锁文章
小食青年
关注
Sklearn——PCA主成分分析
m0_37634594的博客
12-28 2964
Sklearn——PCA主成分分析1.特征降维2.特征选择和特征降维的区别3.常用降维算法4.sklearn中PCA算法函数主成分分析 (PCA)不同主成分个数对应的可解释方差分析(Explained Variance)5 sklearn中的其他降维算法函数6 sklearn中的fit、transform、fit_transform、inverse_transform1. 数据预处理中方法2. 各种算法的方法 1.特征降维 降维实际上就是把高维空间的数据转换映射到低维空间中，从而达到降低数据维度的目的，降维
Python28-7.1 降维算法之PCA主成分分析
Argulo的博客
07-03 1839
方差最大化：第一主成分（PC1）是原始数据线性组合后方差最大的方向。第二主成分（PC2）是在正交于第一主成分的方向上方差最大的方向，以此类推。正交性：所有主成分之间都是正交的，即彼此独立不相关。这保证了主成分可以有效地表示原始数据的变化。降维效果：通过选取前几个主成分，可以在很大程度上保留原始数据的变异性，从而实现数据的降维。
使用PCA对特征进行降维
APTX459770648的博客
01-24 4882
文章目录一、PCA是什么？二、使用方法1.引入库2.数据处理3.运用PCA进行降维总结 一、PCA是什么？ 在大量数据中，很多特征之间可能都存在着一定的相关性。再者，特征划分的越细，特征数量越多还可能导致过拟合的情况出现。因此，在特征数量众多的情况下，可以采取一定的手段对特征进行降维。主成分分析（Principal Component Analysis，简称PCA）是最常用的一种降维方法。该方法可以尽可能的保留大量特征中的主要信息，对特征数量进行简化，从而简化模型的计算。 接下来用Kaggle中的Ins.
机器学习——降维算法PCA
Clichong
02-25 1314
文章目录1、导入数据2、展示数据特征3、数据标准化4、计算协方差矩阵5、求特征值与特征向量6、按照特征值大小进行排序7、计算累积结果8、完成PCA降维9、可视化对比降维前后数据的分布 以下是使用PCA算法处理实际问题的例子，同样使用鸢尾花数据集，目的依旧是完成降维任务 基本的流程如下： 1.数据预处理，只有数值数据才可以进行PCA降维 2.计算样本数据的协方差方阵 3.求解协方差矩阵的特征值和特征向量 4.将特征值按照从大到小的顺序排列，选择其中较大的K个，然后将其对应的K个特征向量组成投影
数据降维：主成分分析法（PCA）
weixin_53972936的博客
03-06 1万+
主成分分析是一种最常用的无监督降维方法，通过降维技术把多个变量化为少数几个主成分的统计分析方法。这些主成分能够反映原始变量的绝大部分信息，它们通常表示为原始变量的某种线性组合。
PCA（主成分分析法）使用情景及排序企业综合实力示例
精神小伙钟钟的博客
11-23 4259
我们在研究多个研究变量时往往会出现多个变量具有相关相关性的情况，这个时候，我们就可以将多个具有多个相关性的变量综合为几个代表性的变量，这些变量既能够代表原始变量的绝大数信息又互不相关。 PCA步骤： （1）对原始数据进行标准化处理 （2）计算样本相关系数矩阵 （3）计算相关系数矩阵R的特征值和相应的特征向量 （4）选择重要的主成分，写出主成分表达式 我们这里用企业排序实例来说明 下面是使用mat...
精选资源
matlab鸢尾花降维代码-PCA:主成分分析
06-19
PCA（主成分分析，Principal Component Analysis）是一种广泛应用的数据分析技术，尤其在高维数据的处理中，用于降低数据的维度并保留最重要的信息。在本案例中，“matlab鸢尾花降维代码”是使用MATLAB编程语言实现...
降维算法----主成分分析（PCA）
weixin_53963979的博客
11-08 1598
1.概述 1.1维度 通俗来说，对于一个数组，维度就是函数shape返回的结果，而shape函数返回的数字是几就是几维，不分行列是一维，分行列是二维...而数组中的每一张表，都可以是一个特征矩阵。矩阵的行是样本，列是特征，而维度就是样本的数量亦或是特征的数量（一般来说是特征）。除索引外，几个特征就代表着几维。而对图像来说，维度就是图像中特征向量的数量。这就不得不提到接下来要讲述的降维算法了。降维算法中的”降维“，指的是降低特征矩阵中特征的数量，它可以使算法运算更快，运算更好。 1.2简介 ...
数据降维——PCA：主成分分析法
lili_lak的博客
06-17 1851
目录 一、PCA相关概念 1. 什么是PCA？ 1.1 概念阐释 1.2 为什么要做PCA 2. 特征维度约减的概念与目的 3. 主成分分析的主要步骤 3.1 求出所有值的均值，然后将所有案例都减去该均值 3.2求样本的协方差矩阵 3.3 求得特征值和特征向量 3.4 将特征值按照从大到小的顺序排序，选择其中最大的k个,及其对应特征向量 3.5 将原始数据投影到选取的特征向量上 3.6 输出投影后的数据集 二、PCA的简单实现 1. 导入库 2. 选取一个二维数据 3. 查看
降维的艺术——主成分分析（PCA）
零度°C的博客
07-26 2174
在数据科学和机器学习领域，数据降维是一个至关重要的步骤，尤其是在处理具有大量特征的高维数据集时。主成分分析（PCA）作为一种经典的线性降维方法，能够有效地减少数据的维度，同时保留数据集中最重要的信息。本文将从PCA的基本原理出发，探讨其在数据分析中的应用，并提供Python实现的 示例。
机器学习——PCA降维（我至今为止遇见的最好的博文）
邹小驴
09-07 5万+
参考文章：https://zhuanlan.zhihu.com/p/77151308 PCA（Principal Component Analysis） 是一种常见的数据分析方式，常用于高维数据的降维，可用于提取数据的主要特征分量。 PCA 的数学推导可以从最大可分型和最大重构性两方面进行，前者的优化条件为划分后方差最大，后者的优化条件为点到划分平面距离最小。由于基于最大重构性的 PCA 其与...
PCA详解
chenjunheaixuexi的博客
06-04 1万+
PCA，即主成分分析，通常用于数据的降维、去噪，可以有效地解决过拟合问题，提高训练效率
主成分分析（PCA）原理详解
热门推荐
李春春的专栏
03-04 46万+
机器学习中有关特征选择的问题，其实就是要剔除和类标签无关的特征，去除噪声或者冗余。在这种情况下，需要一种特征降维的方法来减少特征数，减少噪音和冗余，减少过度拟合的可能性。PCA的思想是将n维特征映射到k维上（k<n），这k维是全新的正交特征。这k维特征称为主成分，是重新构造出来的k维特征，而不是简单地从n维特征中去除其余n-k维特征。现在的问题是，对于很高维数据，你能想象其分布吗？就算能描述分布，如何精确地找到这些主成分的轴？如何衡量你提取的主成分到底占了整个数据的多少信息？所以，我们就要用到主成分分析的处
主成分分析（PCA）详解
weixin_60737527的博客
06-06 9万+
主成分分析（PCA）原理与应用
PCA：详解主成分分析
wfengzi5的博客
04-08 8436
主成分分析算法（PCA）是最常用的线性降维方法，它的目标是通过某种线性投影，将高维的数据映射到低维的空间中，并期望在所投影的维度上数据的信息量最大（方差最大），以此使用较少的数据维度，同时保留住较多的原数据点的特性。
机器学习——主成分分析（PCA）
最新发布
2301_80841566的博客
06-03 3514
成功地将高维数据投影到二维空间，并通过可视化展示了数据的分布情况通过PCA重建的图像在保留主要特征的同时实现了数据压缩较高的解释方差比表明选择的主成分能够有效地捕捉数据的主要变化这些结果表明PCA是一种有效的降维和特征提取方法，可以用于图像处理和模式识别等领域。然而，需要注意的是，尽管PCA能够保留数据的主要特征，但在某些情况下可能会丢失一些细节信息，因此在实际应用中需要根据具体需求权衡降维的效果和信息损失Xx_%7Bi%7Du_%7Bi%7Dx_%7Bi%7DX%5Csumn%5Csumd。
PCA算法详解——化繁为简
weixin_44167798的博客
08-30 1万+
一、pandas是什么？ 二、使用步骤 1.引入库 2.读入数据 总结 一、前言 老鹰是一个三维立体实物，而图片是二维的，但我们能一眼识别出上图是一只老鹰而非鹌鹑，可见对于某些高维的数据，我们可以在低维空间下识其概貌，对其有个清晰的认知。然而，当我们沿老鹰翅尖拍摄一张照片，我们可能并不能很容易地看出这是一只老鹰。归其原因，拍摄的角度不同，导致最终的结果不同，在第一种情况下，图片保留...
PCA （主成分分析）详解 （写给初学者） 结合matlab
saishangxue123的专栏
01-19 2万+
本文转自：http://hi.baidu.com/ifengzh/item/8851b6387aebefc4382ffa60 PCA （主成分分析）详解 （写给初学者） 结合matlab 一、简介         PCA（Principal Components Analysis）即主成分分析，是图像处理中经常用到的降维方法，大家知道，我们在处理有关数字图像处理方面的问题
PCA（principal component analysis主成分分析）概括（原因、步骤、主成分得分、特征值表重要性的原因、图像的特征分解）
weixin_42442855的博客
11-19 9236
PCA降维的原因 主成分的个数（数据量）远小于原数据量   主成分可以反映原有变量的绝大部分信息 主成分之间互不相关（正交），并且可以得到有效解释 （在主成分有意义的情况下）     总之主成分分析就是原本多维度的数据转成只包含少数几个维度、各维度所含数据量高度稠密且互不相关的精简数据，同时降维删除掉的部分维度大多是缺乏贡献的噪音数据，对减少预测干扰有一定的好处。 ...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值