机器学习——主成成分分析PCA

最新推荐文章于 2025-11-24 15:59:30 发布
原创 最新推荐文章于 2025-11-24 15:59:30 发布 · 627 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #人工智能

本文介绍了如何通过主成分分析将具有相关性的多维度数据转换为不相关的主成分，降低维度并揭示数据间的潜在相关性。投影方差最大化概念被用来找到能最大程度代表数据特征的直线，即使在肉眼难以识别相关性的大量数据中也能发挥作用。

如上图所示，一共有4个属性，身高（ m为单位），身高（cm）,时速（每小时公里），时速（每小时里），身高的两个属性是相关的，时速的两个属性也是相关的，我们把四组具有相关性的变量转换成了两组不相关的变量，我们把转换后的这2组变量称为它的主成分。说白了，就是这两组变量能够代表这个人的身高特征和骑自行车的特征。

上述例子体现了降维。

维数少了，数据就少了。

在上述的例子中，我们可以用肉眼看出来存在相关性；在实际的数据中，用肉眼可能看不出这些数字的相关性，所以 要通过算法找出哪些特征和哪些特征是线性相关的，这就是主成分要做的事儿。

什么是投影方差最大呢？

这些点向直线作投影，会得到每个点在投影方向上对应的点。所有投影点到原点的距离的平方和最大。

换一种说法，找到一条直线，使得所有点到直线的距离的平方和最短。上图中左边更好

SAS主成分分析(求相关阵，特征值，单位特征向量，主成分表达式，贡献率和累计贡献率以及进行数据解释)
weixin_56115549的博客
05-27 6331
随机抽取30名某年级中学生，测量其身高（X1）、体重（X2）、胸围（X3）和坐高（X4），数据如下表， n X1 X2 X3 X4 n X1 X2 X3 X4 1 148 41 72 78
机器学习————PCA
m0_73044708的博客
06-19 913
ORL人脸库：由英国剑桥大学AT&T实验室创建，包含40个不同个体，每个个体包含10张不同姿态的人脸图像，共400张面部图像，部分人脸图像包括了姿态,表情和面部饰物的变化，其深度旋转和平面旋转可达20度；ORL人脸数据库中每个采集对象的10幅样本图片都经过归一化处理的灰度图像，图像尺寸均为92×112，图像背景为黑色。降低维度：PCA可以减少数据的维度，减少数据量，简化模型或可视化。去除噪声：PCA可以去除数据中的噪声和冗余信息，提高数据质量。
主成分分析
此时@此刻的博客
11-08 2844
主成分分析 问题提出 在处理实际问题时，多变量问题是经常遇到的，一方面维度太高会增加问题的复杂性，另一方面变量之间具有一定的相关性，导致信息冗余。所以能否只用少数的几个变量来表示原始多个变量，并且信息也尽可能不丢失呢？主成分分析（Principal components analysis，PCA）就是解决这类问题的工具。 算法原理 PCA是由K.Pearson在1901年首先提出的，是把原来多个变量化为少数几个综合指标的一种数据分析技术。从数学上看，简单来说就是对数据进行降维操作。下面通过一个例子对其进
机器学习——主成成分分析（PCA）
weixin_73923138的博客
06-18 1077
优点：PCA能够保留数据集的大部分信息，通过选择少量的主成分来实现数据的降维，同时尽量减少信息损失。PCA能够找到数据中的主要方向，减少特征之间的相关性，有助于提高模型的性能。PCA的计算过程相对简单直观，能够快速处理大规模数据集。降维后的主成分具有很强的可解释性，有助于理解数据的结构和关系。缺点：即使PCA能够保留大部分信息，但在降维过程中仍然会存在一定程度的信息损失，特别是在选择较少主成分时。PCA对数据中的异常值比较敏感，可能会影响降维结果。
机器学习笔记(五)——主成成分分析PCA
Mars1533的博客
05-03 988
主成分分析PCA 介绍 PCA要做的是找到一个方向向量（Vector direction)，当把所有的数据都投射到该向量上时，希望投射平均均方误差能尽可能地小。方向向量是一个经过原点的向量，而投射误差是从特征向量向该方向向量作垂线的长度。 若将nnn维数据降至kkk维，目标是找到向量u(1)u^{(1)}u(1)，u(2)u^{(2)}u(2)，...,u(n)...,u^{(n)}...,u(n)，使得总的投射误差最小。 下图中的误差是指：每个点与二维平面上对应投影点之间的距离。 总的来说，PCA是要寻
机器学习——主成分分析（PCA）
lzl123668的博客
06-16 3539
第一个主成分 \(w_1\) 是使得投影方差最大的方向： \(\max_{||w||=1} \frac{1}{n} \sum_{i=1}^n (x_i^T w)^2 = \max_{||w||=1} w^T S w\) 通过拉格朗日乘数法求解，得到： \(S w = \lambda w\) 即 w 是协方差矩阵 S 的特征向量，对应的特征值 \(\lambda\) 是投影方差。主成分分析（Principal Component Analysis, PCA）是机器学习和数据分析中最基础且应用广泛的降维技术。
机器学习——主成分分析 PCA
Nil0_的博客
06-23 1121
主成分分析（PCA）是机器学习领域中的一种重要算法，主要应用于数据的降维和特征提取。PCA的目的是通过保留数据集中的主要信息，将高维数据集转换为低维数据集，从而简化模型训练和提高模型性能。通过这个实验，我们对PCA的基本原理和应用有了更深入的了解。实验结果表明，PCA是一种有效的数据降维方法，可以帮助我们简化数据结构，揭示数据中的潜在规律。然而，在实际应用中，我们需要根据具体问题和数据集特点选择合适的主成分数量，并注意PCA的局限性。
机器学习算法——主成分分析（PCA）
huangQK的博客
01-01 5428
主成分分析（Principal Component Analysis, PCA）是一种常用的数据降维方法，它可以将高维数据转化为低维数据，同时尽量保留原有数据的信息。
机器学习——主成分分析法(PCA)
bw876720687的博客
09-02 391
目录简介代码实现 简介 代码实现 import matplotlib.pyplot as plt #加载matplotlib用于数据的可视化 from sklearn.decomposition import PCA #加载PCA算法包 from sklearn.datasets import load_iris data=load_iris() y=data.target x=data.data pca=PCA(n_components=2)
机器学习——PCA
wsndddhh的博客
06-18 7850
PCA（Principal Component Analysis，主成分分析）是一种常用的数据降维技术，它可以将高维数据转换为低维数据，同时保留数据的关键特征。在机器学习和数据分析中，PCA 可以帮助减少特征的数量，降低计算成本，去除噪声并防止过拟合。
机器学习——PCA 主成分分析
qq_60707366的博客
01-01 926
主成分分析是一种强大的数据降维技术，可以帮助提取数据的主要特征并消除相关性，有助于提高模型的准确性和可解释性。
机器学习——PCA主成分分析
diosamaehjs的博客
01-01 1053
在机器学习领域，特征维度约减是一个重要的技术。随着数据集的增大和特征的增加，高维数据分析变得越来越具有挑战性。为了解决这个问题，我们需要一种有效的方法来减少特征维度，同时保留数据的最重要信息。
机器学习——主成分分析PCA（Principal Component Analysis）
weixin_74340055的博客
06-24 1295
PCA（Principal Component Analysis，主成分分析）是一种无监督学习的降维方法。它基于一个简单的前提：一个高维数据集可能包含许多冗余或相关的特征，而这些特征可能并不都包含有价值的信息。PCA的目标是通过线性变换找到数据的主要成分，即数据的最大方差方向，并将数据投影到这些主要成分上，从而在保持数据的主要特性的同时降低数据的维度。通过本次实验，我们验证了PCA在人脸识别特征降维中的有效性。
数据分析面试【机器学习】总结之-----PCA主成成分分析 常见面试题整理
天阑之蓝的博客
08-14 3788
阅读之前看这里????：博主是正在学习数据分析的一员，博客记录的是在学习过程中一些总结，也希望和大家一起进步，在记录之时，未免存在很多疏漏和不全，如有问题，还请私聊博主指正。 博客地址：天阑之蓝的博客，学习过程中不免有困难和迷茫，希望大家都能在这学习的过程中肯定自己，超越自己，最终创造自己。 目录1.PCA定义2.PCA具体计算步骤3.降维之后的维度怎么确定4.降维的必要性5.降维的目的：6.给你一个数据集。该数据集包含很多变量，你知道其中一些是高度相关的。经理要求你用PCA。你会先去掉相关的变量吗？为什
基于学习的人工智能（7）机器学习基本框架
致力于大数据+AI 的应用创新。
11-24 546
如今，人工智能展现出的强大能力——包括人们常谈论的AI 威胁，很大程度上源于机器学习：只有通过自主学习的机器，才有可能超越其创造者，具备难以预料的强大能力。数据：收集苹果和桔子的样本，并分别标记（例如，苹果标记为 T=1，桔子标记为 T=0）。图中的蓝色直线代表模型对应的分类边界，上方为苹果，下方为桔子。机器学习作为实现人工智能的核心方法，通过特定算法从数据中自主学习，获得完成目标任务的技能。模型：构建一个简单模型，如 Y=a × 颜色 + b × 大小，其中 a 和 b 为待学习的参数。
基于学习的人工智能（3）机器学习基本框架
致力于大数据+AI 的应用创新。
11-24 522
机器学习通过算法从数据中获取经验，改进初始模型以更高效地完成任务。与基于知识的方法不同，机器学习不直接编程机器行为，而是设定目标让机器自主学习。其框架包含五个要素：目标（如分类、预测）、模型、算法、数据和知识。目标需转化为数学形式的损失函数（如分类错误率、预测误差），函数值越低表明性能越好。例如分类任务用错误比例作损失函数，预测任务用预测值与实际值的差距衡量准确性。
机器学习（ML）和人工智能（AI）技术在WAF安防中的应用
servepeople的博客
11-24 408
摘要： Web应用防火墙（WAF）中，AI/ML技术通过异常流量检测（如自编码器）、恶意Payload识别（CNN/LSTM）、攻击分类（XGBoost）等方案，有效应对未知威胁和变形攻击。结合用户行为分析（LSTM）与误报优化（主动学习），提升防御精准度。落地工具涵盖Scikit-learn、TensorFlow（模型训练）、Hugging Face（NLP处理）及TensorRT（部署加速），并依赖OWASP等安全数据集。技术核心在于通过语义/时序特征建模，突破传统规则引擎的局限性，实现低延迟、高并发的
基于机器学习框架的上周行情复盘：非农数据与美联储政策信号的AI驱动解析
11-24 511
本文通过机器学习算法对上周非农就业数据、美联储会议纪要及官员讲话进行语义情感分析，结合时间序列模型与政策预期量化框架，系统回顾黄金、美元及美股在政策不确定性下的波动逻辑，重点解析AI驱动的市场趋势预测与事件冲击响应机制。
机器学习日报20
最新发布
2405_85645789的博客
11-24 417
今天深入学习了K-means算法的数学原理和优化过程。通过分析成本函数的构成，我理解了算法如何通过交替优化聚类分配和中心位置来最小化平方距离。具体来说，第一步是将每个点分配到最近的聚类中心，第二步是重新计算聚类中心为所属点的平均值。这种迭代过程能保证成本函数持续下降直至收敛，让我对算法的内在机制有了更清晰的认识。今天的学习让我真正理解了K-means算法背后的数学原理。之前只知道算法步骤，现在明白了每个步骤都是在优化那个平方距离的成本函数。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值