主成分分析计算步骤

最新推荐文章于 2025-04-09 23:28:36 发布

一枚小可爱c

最新推荐文章于 2025-04-09 23:28:36 发布

阅读量4.2k

点赞数 3

文章标签：机器学习

本文链接：https://blog.youkuaiyun.com/qq_38147044/article/details/115503542

版权

本文通过一个实例介绍了如何运用主成分分析（PCA）进行特征降维。PCA旨在通过找到新的正交特征，减少数据的冗余和噪声，防止过度拟合。步骤包括：数据预处理、计算协方差矩阵、求解特征值和特征向量、选择主成分及样本投影。最终，将二维数据降至一维，保留主要信息。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近看了很多关于主成分分析的视频和博客，大多在讲推导过程，有些晦涩难懂，而且不会应用。所以就决定干脆先看看怎么应用并计算的吧

此处采用主成分分析进行特征选择，其中用到的数据来自王宏志老师编著的《大数据分析原理与实践》一书。

主成分分析多数用在那些特征和类标签是相关的，但这些特征里面存在噪声和冗余。使用PCA可以减少特征数，减少噪声和冗余，减少过度拟合的可能性。

主成分分析采用数据降维的方法，找出几个综合变量来代替原来的变量，并且要尽可能的代表原来变量的信息，这些综合变量要互不相关。

将n维特征映射到k维上（k<n），这k维是全新的正交特征。得到的k维特征称为主元。注意：这k维特征是重新构造出来的，不是简单地从n维特征中去除其余的n-k维特征。

这里用到一组数据（此处的x和y可以看作两个特征）