PCA学习过程（一、原理）

最新推荐文章于 2025-06-07 00:09:41 发布
最新推荐文章于 2025-06-07 00:09:41 发布
阅读量367 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： matlab 文章标签： pca 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sduvec/article/details/106563301
本文介绍了PCA（主成分分析）的学习心得，包括PCA的求解步骤：数据零均值化、计算协方差矩阵、求解特征值与特征向量、选择主成分等。讨论了使用协方差矩阵的特征向量作为投影矩阵的原因，以及去均值的必要性，强调了数学在PCA中的关键作用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

从SVM过来发现在选择特征的时候需要用到PCA，这样选的特征就有很好的区分度，更容易进行预测工作。
摸索了好几天，其实是拖延了好几天。
终于认为我行了。。写一下理解后的心得
首先膜拜下大神，看一下这个链接
https://zhuanlan.zhihu.com/p/77151308
上面写的很全面了，从基变换到协方差矩阵对角化说的很清楚。
我再捋一遍PCA求解步骤：
设有 m 条 n 维数据。
1、将原始数据按列组成 n 行 m 列矩阵 X；
2、将 X 的每一行进行零均值化，即减去这一行的均值；
3、求出协方差矩阵 C=1mXXTC=\frac{1}{m}XX^TC=

最低0.47元/天 解锁文章

200万优质内容无限畅学
[机器学习] PCA理论
kuang_liu的专栏
10-22 1573
1. PCA综述 主成分析法（Principal Component Analysis, PCA）的思想就是 降维。 主成分析法可以  ① 降低整个数据集合的维度（单独每组数据维度不变）                               ② 提取数据集合中的主要成分，移除数据冗余，便于识别数据集中的一些规律(pattern) 用途有： 图像压缩，人脸识别。 2.
PCA 学习
u012809610的专栏
05-16 827
基础 　　假设X是一个m*n的矩阵，是由样本数据构成的矩阵。其中m表示样本的属性维数，n表示样本的个数。现在要对X进行线性变换变成另一个矩阵Y，使得Y的协方差矩阵为对角矩阵，这样的Y就认为是对原始矩阵X提取主成分后的矩阵，实际过程中只需取Y的前面主要的行即可。 　　X变换到Y的线性变换公式为: 　　 　　X和Y的协方差计算方法为： 　　 　　 　　从下面的
机器学习——主成分分析（PCA）
最新发布
2302_81076207的博客
06-07 734
PCA 是一种无监督线性降维方法，它将原始高维特征空间的数据，通过线性变换映射到低维空间，新的维度（主成分）是原始特征的线性组合，且各主成分间正交（互不相关），按对数据方差的解释能力排序，第一主成分方差最大，后续主成分方差依次递减。PCA 以 “提取主成分、降维保留关键信息” 为核心，通过标准化、协方差矩阵分解、投影等步骤，实现高维数据的高效处理。结合人脸数据集的实践，从原理推导到代码实现，清晰展现其在简化数据、保留关键特征上的作用。
机器学习——PCA降维（我至今为止遇见的最好的博文）
邹小驴
09-07 5万+
参考文章：https://zhuanlan.zhihu.com/p/77151308 PCA（Principal Component Analysis） 是一种常见的数据分析方式，常用于高维数据的降维，可用于提取数据的主要特征分量。 PCA 的数学推导可以从最大可分型和最大重构性两方面进行，前者的优化条件为划分后方差最大，后者的优化条件为点到划分平面距离最小。由于基于最大重构性的 PCA 其与...
PCA学习
weixin_44180506的博客
10-26 812
文章目录一、PCA相关资源二、使用降维算法的原因1.去除观测变量之间的相关性2.模型需要的样本数量随着变量（特征）数量指数增加3.变量太多，难以解释4.变量太多，容易过拟合三、PCA的推导1.向量表示与基变换1.1 内积1.2 基1.3 基变换的矩阵表示2. 最大可分性四、PCA结果的解释 一、PCA相关资源 网上讲解PCA的资源很多，讲的好的也很多，我的数学基础也不比在座的各位高到哪里去，就不班门弄斧了。下面得这篇知乎高赞很值得推荐： 【机器学习】降维——PCA（非常详细） 那我为什么还要再搞一篇博客呢
PCA学习过程
fireguard的专栏
08-20 799
近期被文章逼疯了，对lsgc算法进行了邻接矩阵的实验。 我想把PCA的方法在这个实验中进行应用，对特征进行降维以
主成分分析（PCA）原理详解
热门推荐
Microstrong
06-09 66万+
“微信公众号”本文同步更新在我的微信公众号里，地址：https://mp.weixin.qq.com/s/Xt1vLQfB20rTmtLjiLsmww本文同步更新在我的知乎专栏里面：主成分分析（PCA）原理详解 - Microstrong的文章 - 知乎https://zhuanlan.zhihu.com/p/377770741.相关背景在许多领域的研究与应用中，通常需要对含有多个变量的数据进行观...
PCA人脸识别_人脸识别原理_pca人脸识别_
10-03
在提供的压缩包文件中，"PCA原理图.jpg"可能展示PCA降维的过程，"face_recognition.fig"可能是PCA人脸识别的流程图或者结果展示。"face_recognition_sim.m"很可能是用MATLAB编写的PCA人脸识别的模拟代码，通过运行这...
PCA.zip_PCA原理
09-14
下面将详细介绍PCA的基本原理。 PCA的目标是找到一个新的坐标系，使得原始数据在这个新的坐标系下的投影具有最大的方差。换句话说，它寻找数据点在新坐标系中的主要方向，这些方向被称为“主成分”。通过保留这些...
PCA.rar_PCA原理_pca降维
09-21
这一过程可以降低数据的复杂性，方便后续分析，如可视化、机器学习模型的训练等。 PCA的主要步骤包括以下几点： 1. **数据预处理**：首先，对数据进行中心化处理，即将每个特征减去其均值，使得所有特征的均值为0...
PCA学习笔记
lixixi
08-08 260
PCA的意义 机器学习中的主要问题：维度灾难　 PCA：在力求数据信息丢失最少的原则下，对高纬度的变量空间降维 ，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的综合指标将尽可能多的保留信息。这些综合指标就称为主成分 。 PCA推导 该X的协方差矩阵 为 由于此矩阵为非负定的对称阵，则有利用线性代数的知识可得，比存在正交矩阵U，使得 ： 其中P个特征值，假设大小是降序。 而U恰好是由特征根相对应的特征向量所组成的正交阵 这里，由U的第一列元素所工程为原始变量的线性组合有最大的方差　。　(证
PCA学习源码
12-27
包含了pca对二维数据的降维处理，和对人脸图像进行处理的程序
PCA模型理论和实践
09-25
PCA模型理论和实践，结合教材用书和文献简单总结，以及从线性空间角度理解PCA模型
PCA方法学习
qq_45675153的博客
09-16 213
PCA是什么 PCA是一种降维方法,试图从高维数据提取出关键的特征,最后使得降维后的数据有最大可分性,也就是方差最大. 基变换 很容易理解,PCA的目的就是挑选K个基,使得原数据各个特征在新的基下的方差最大.下面从矩阵运算的角度讲述基变换. 假设一个向量 另外一组向量作为新的基 那么x在新基中的坐标表示为 方差和协方差 协方差可以用来表示两个变量的线性相关性,当协方差为0可以说这两个变量完全线性不相关,当两个变量相同时,就退化为方差,协方差定义如下: ...
机器学习| 面试题：10、PCA算法原理
Mrrunsen的博客
09-12 492
PCA算法原理 主成分分析（Components Analysis，PCA）是机器学习中最经典的降维方法，也是面试中的家常便饭，因而有必要认真梳理一遍PCA的原理，甚至需要手动推导一遍。 文章目录PCA算法原理数据降维PCA概念PCA之最大可分性（最大方差）最大化方差公式推导PCA求解过程总结PCA之最近重构性（最小平方误差）最小化平方误差优化目标PCA求解过程总结PCA的优缺点总结参考资料 数据降维 在理解PCA的概念之前，我们先来认识一下什么是数据降维。降维就是用低维度的向量来表示原始高维度的特征。 例
PCA(Principal component analysis) 学习笔记
weixin_63470844的博客
11-04 1325
本学习笔记介绍了PCA的基本直观，以及三种对于PCA的不同看法。
PCA学习记录
SCUT_Sam
03-06 929
摘要： 本文主要讨论的对象是PCA（主成分分析）。 PCA是什么？ PCA（主成分分析）在机器学习中的应用很广泛，通常PCA可以用来对数据进行降维，或者说将数据从高维的空间映射到低维的空间。简单来说，所谓的降维其实就是这么一个过程： 假设原始数据有nnn个样例，mmm个特征，也就是n×mn×mn×m的矩阵。把这个n×mn×mn×m的规模的矩阵映射成一个n×kn×kn×k的矩阵过程就是一...
PCA学习-算法步骤
魏晋小子的博客
04-04 679
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值