PCA 基本原理

最新推荐文章于 2025-04-09 23:28:36 发布
最新推荐文章于 2025-04-09 23:28:36 发布
阅读量1k 收藏 2
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_23966071/article/details/78122737
版权

特征降维：特征选择和特征抽取，特征选择是一个从高纬度的特征中选择其中的一个子集作为新的特征；特征抽取从高纬度特征经过某个函数映射至低纬度作为新的特征pca是一种特征抽取的方式。接下来简单介绍pca的基本原理。

对于一个矩阵X，用X乘以X的转置，并乘上系数1/m，矩阵对角线上的两个元素分别是两个字段的方差，而其他元素是a和b的协方差，两者 被统一到一个矩阵当中。

优化目标变成了一个寻找一个矩阵p，满足PCP‘是一个对角矩阵，并且对角元素从大到小一次排列，那么p的前k行就是要寻找的基，用p的前k行组成的矩阵乘以X就使得X从N维降到了k维并满足上述优化条件。

pca算法

将原始数据按列组成n行m列矩阵x

将x的每一行（代表一个属性字段）进行零均值化，即减去这一行的均值。

求出协方差矩阵C=1/mXX'

求出协方差矩阵的特征值及对应的特征向量

将特征向量按对应特征值大小从上到下排成矩阵，取前k行组成矩阵p

y=pX即为降维到k维后的数据


一篇小paper
关注
串糖葫芦了： 矩阵乘法/线性变换 + 特征分解/奇异值分解（SVD） + PCA（请假设中间串了一根棍儿O(∩_∩)O）
Abandon_first的博客
06-01 348
降维 拆解 还有 深度学习中降维
【机器学习】【PCA-1】PCA基本原理和原理推导 + PCA计算步骤讲解 + PCA实例展示数学求解过程
蔚蓝的天空Tom
05-26 3万+
1.PCA主成分分析原理2.PCA流程3.PCA实例讲解(end)
矩阵乘以本身的转置
weixin_42610010的博客
01-08 4347
矩阵乘以本身的转置可以得到一个称为协方差矩阵的矩阵。协方差矩阵是一个对称矩阵，它用于表示一个多元随机变量中各个维度之间的相关性。它的对角线上的元素表示各个维度的方差，而其他元素则表示两个维度之间的协方差。例如，如果我们有一个表示某个地区人口的矩阵，其中一列表示男性人口，另一列表示女性人口，那么协方差矩阵可以用来表示男女人口之间的相关性。 具体来说，如果我们有一个由m个n维向量组成的矩阵A，其中第i...
机器学习之PCA主成分分析详解
最新发布
zdx2585503940的博客
04-09 1905
将原始数据按列组成n行m列矩阵X将X的每一行（代表一个属性字段）进行零均值化（去平均值），即减去这一行的均值求出协方差矩阵 C= 1/mXXT求出协方差矩阵的特征值及对应的特征向量将特征向量按对应特征值大小从上到下按行排列成矩阵，取前k行组成矩阵P（保留最大的k各特征向量）Y=PX 即为降维到K维后的数据PCA作为一种经典且强大的降维工具，在机器学习领域有着广泛的应用。理解其数学原理和实现细节，能够帮助我们在实际项目中更好地使用它。
矩阵运算_矩阵的协方差矩阵/两个矩阵的协方差矩阵_求解详细步骤示例
惊鸿一博
11-19 8757
在统计学中，方差是用来度量单个随机变量的离散程度，而协方差则一般用来刻画两个随机变量的相似程度。
PCA 算法详解
我要一步一步向前走
01-08 6582
PCA算法步骤： 设有m条n维数据。 1）将原始数据按列组成n行m列矩阵X 2）将X的每一行（代表一个属性字段）进行零均值化，即减去这一行的均值 3）求出协方差矩阵 4）求出协方差矩阵的特征值及对应的特征向量 5）将特征向量按对应特征值大小从上到下按行排列成矩阵，取前k行组成矩阵P 6）即为降维到k维后的数据 实例： 用PCA方法将这组二维数据其降到一维。 因为这个矩阵的每行已经是零均值...
数学基础：函数求导、矩阵运算、方差
毛毛雨的博客
06-01 5820
求导法则： 三角函数运算 指数和对数函数相关运算 隐函数求导 参数方程求导 幂指函数求导 复杂表达式函数求导
主成分分析（PCA）原理详解
热门推荐
Microstrong
06-09 66万+
“微信公众号”本文同步更新在我的微信公众号里，地址：https://mp.weixin.qq.com/s/Xt1vLQfB20rTmtLjiLsmww本文同步更新在我的知乎专栏里面：主成分分析（PCA）原理详解 - Microstrong的文章 - 知乎https://zhuanlan.zhihu.com/p/377770741.相关背景在许多领域的研究与应用中，通常需要对含有多个变量的数据进行观...
PCA(主成分分析)原理、代码详解
xfysq_的博客
05-05 2127
PCA(主成分分析)原理、代码详解
PCA算法原理
qq_28483731的博客
06-29 2914
PCA算法原理参考网址： http://blog.youkuaiyun.com/liulina603/article/details/7912950 http://blog.youkuaiyun.com/panhao762/article/details/55273789一. PCA算法简介：主成分分析（PCA）是多元统计分析中用来分析数据的一种方法，它是用一种较少数量的特征对样本进行描述以达到降低特征空间维数的方法，
主成分分析PCA算法：为什么去均值以后的高维矩阵乘以其协方差矩阵的特征向量矩阵就是“投影”？
天下对手教会少林武僧
11-14 8393
这是从网上看到的PCA算法的步骤： 第一步，分别求每列的平均值，然后对于所有的样例，都减去对应的均值。 第二步，求特征协方差矩阵。 第三步，求协方差的特征值…显示全部 关注者 1,218 被浏览 78,113 关注问题写回答 ​添加评论 ​分享 ​邀请回答 ​ 22 个回答 默认排序​ 史博 数据科学家 | 自然语言处理Ph.D | 公众号：AI2ML 收录于编辑推...
PCA详解
qq_36575363的博客
10-07 2291
1.相关背景 在许多领域的研究与应用中，通常需要对含有多个变量的数据进行观测，收集大量数据后进行分析寻找规律。多变量大数据集无疑会为研究和应用提供丰富的信息，但是也在一定程度上增加了数据采集的工作量。更重要的是在很多情形下，许多变量之间可能存在相关性，从而增加了问题分析的复杂性。如果分别对每个指标进行分析，分析往往是孤立的，不能完全利用数据中的信息，因此盲目减少指标会损失很多有用的信息，从而产生错误的结论。 因此需要找到一种合理的方法，在减少需要分析的指标同时，尽量减少原指标包含信息的损失，以达到对所收
降维算法之PCA(主成分分析)
SKIp121whats112的博客
02-08 5796
降维算法之PCA(主成分分析)
协方差、协方差矩阵
babychrislee3的博客
12-24 4548
在机器学习中，理解协方差矩阵的关键在于牢记它计算的是同一个样本不同特征维度之间的协方差，而不是不同样本之间。 拿到样本矩阵之后，我们首先要明确一行是样本还是特征维度。 一般来说，样本矩阵中一行是一个样本，一列为一个特征维度。所以要按列计算均值（期望），再按行计算出协方差矩阵，把每一行的协方差矩阵相加再除以行数（即样本数），得到样本矩阵的协方差矩阵 一、协方差 从公式上看，协方差是两个变量与自身...
主成分分析法（PCA）
weixin_45142381的博客
10-03 3万+
主成分分析（Principal components analysis，以下简称PCA）是最重要的降维方法之一。在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用。一般我们提到降维最容易想到的算法就是PCA，下面我们就对PCA的原理做一个总结。
主成分分析（PCA）原理
python收藏家的博客
03-09 2086
主成分分析（PCA）原理学习记录
pca的基本原理
03-22
### 主成分分析（PCA）基本原理 主成分分析是一种常用的降维技术，通过线性变换将原始数据转换到一个新的坐标系中，使得新坐标轴的方向能够最大程度地保留数据的方差特性[^1]。具体来说，PCA 的核心思想是寻找一组...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值