十分钟搞懂主成分分析PCA

PCA(主成分分析)是一种数据降维技术,通过找到数据的新坐标系,减少特征间的关联,保留主要信息。它与协方差矩阵和SVD(奇异值分解)紧密相关。PCA步骤包括数据零均值化、计算协方差矩阵、特征值分解,选择特征值较大的主成分。SVD可以直接用于PCA,提供更高效计算方式。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

几个疑问

  • PCA是干什么的?

首先有一组数据蓝色点,PCA所谓的降维操作就是找到一个新的坐标系(旋转的两条直线式垂直的,我们可以用一组标准正交基来指示),然后减掉其中一些维度,使误差足够小。
在这里插入图片描述

  • PCA与协方差矩阵的关系
  • PCA与SVD的关系

基本思路

假设我们有一个数据 X n ∗ m X_{n*m} Xnm,其中n代表了特征的个数,m代表了样本数。首先对 X X X的特征进行零均值化。
协方差矩阵 C n ∗ n = X X T C_{n*n} = XX^T Cnn=XXT(这里应该除以m,不妨碍推导),C的对角线代表了特征自身的方差,而其他位置比如 C i , j C_{i,j} Ci,j代表了特征 i i

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值