PCA中的一些理解

最新推荐文章于 2025-03-05 19:18:27 发布
最新推荐文章于 2025-03-05 19:18:27 发布
阅读量1.7k 收藏 5
点赞数
分类专栏： 机器学习经典算法 文章标签： 数据挖掘
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_29146525/article/details/105019022
版权

特征值与特征向量的理解


1、特征值的大小有什么含义？
特征值越大，表示数据映射到该特征值对应的特征向量方向上，方差越大，因为特征值就是放大倍数；打个比方，特征值为10，对应的特征向量v，则数据映射到v方向是会将投影放大10倍，导致数据在这个维度上的差异进一步加大，进而保留了更多的信息；
如果特征值很小，则数据映射到这个维度的分量就会压缩到一起，数据在这个维度的差异很小，无法区分，因为损失了很多信息；

2、为什么要将数据尽量投影到特征值大的特征向量的基上？
答案同上

3、PCA中基的选则准则
与前面的基不相关、且数据投影到该基上差异最大（最剩下可选的基中），这与特征值和特征向量什么关系？
Av = lv，l是特征值，V是l对应的特征向量；特征值越大，A就可以将放大的越大
参考博客：参考1，参考2

PCA的一些理解
Wiiliam527的博客
09-04 1418
最近由于用Haar特征+Adaboost训练分类器时遇到了Haar特征太多导致计算特征空间时内存不足的问题，便想找一些特征降维的方法来缩减特征空间，在网上找了好久也没有找到针对Haar特征有什么有效的降维方法。于是又抱起周志华那本《机器学习》把PCA部分重新翻了一遍，虽然最后发现PCA对于我的问题帮助不大（因为PCA是无监督的，在降维过程中没有利用类别信息，导致降维过后样本反而更难以区分了。这又引
从物理意义上了解PCA
weixin_41994174的博客
09-09 1937
从物理意义上了解PCA 什么是线性变换 什么是线性变换？ 一个变换同时具有以下2条性质，则它是一个线性变换： 1.变换前后，所有直线仍是直线。 2.变换前后，原点保持不变。 具体参考：https://www.cnblogs.com/joefish/p/8150006.html 如何描述一个线性变换 通常，要描述一个线性变换，我们可以通过一个矩阵来表示。 在表示一个向量时，我们最常使用的两个基分别是...
PCA的本质----特征值分解
Sunshine_in_Moon的专栏
05-27 2万+
相信大家对PCA并不陌生，但是PCA的本质你是否了解呢？今天就给大家简单讲讲，也是自己对PCA的一个巩固。博客中使用的图片来自七月算法的程博士的PPT，在此感谢程博士课上的耐心讲解。      1、特征值个特征向量     我相信大家对于这个式子非常熟悉，但是你真正的理解这个式子了吗？特征向量和特征值到底有什么意义呢？说实话，在听程博士的课之前我一直迷惑，不过现在懂了。     首先，我们
主成分分析系列（三）为何协方差矩阵的特征值越大对应的特征向量方向的方差越大
OrdinaryMatthew的博客
07-02 1066
数据Dx1x2xnDx1​x2​xn​（注意，数据D\mathbf{D}D已经零-均值化），将x1x2xnx1​x2​xn​拼成一个大矩阵X\mathbf{X}XX∈Rn×dX∈Rn×d则协方差矩阵Σ\SigmaΣ1n−1XTXn−11​XTX根据简单的线性代数知识，向量xixi​在单位向量v\mathbf{v}v上的投影向量是uivTxivui。
什么是主成分分析（PCA）——从零开始讲清楚（超详细版）
最新发布
qq_54700138的博客
03-05 1万+
 这篇文章会用大白话把 PCA 讲清楚：它是什么、怎么来的、有什么用。会说一些具体的例子直观说明。
主成分分析法及特征值的含义
My Sunshine
12-02 5万+
主成分分析法是一种非常适用，又相对简单的数据处理的方法。它是利用降维的方法，将数据表示的信息的主要成分提取出来，所以叫做主成分分析法。  从它的作用可以看出来，它的运用非常的广泛:  1. 显而易见，由于它可以提取主要的信息成分，所以它可以用来过滤掉信号的噪声。 2.它可以用于合并特征。当有一些信息相关性非常大的时候，我们可以用主成分分析法把它们合并成一个特征。 3.它
pca原理--主成分分析
qq_39691463的博客
11-30 2631
一：数学基础 1.1 内积 两个向量的 A 和 B 内积我们知道形式是这样的： 内积运算将两个向量映射为实数，其计算方式非常容易理解，但我们无法看出其物理含义。接下来我们从几何角度来分析，为了简单起见，我们假设 A 和 B 均为二维向量，则： 其几何表示如下： 我们可以看到A向量到B向量的内积就等于A向量到B向量的投影长度乘以B向量的模。如果B向量的模等于等于1，即|B| = 1，则有 A*B = |A|COS(α) 也就是说，A 与 B 的内积值等于 A 向 B 所在直线投影的标量大小。 1.2 基
特征值和特征向量的几何和物理意义
dongtinghong的专栏
11-06 4万+
我们知道，矩阵乘法对应了一个变换，是把任意一个向量变成另一个方向或长度都大多不同的新向量。在这个变换的过程中，原向量主要发生旋转、伸缩的变化。如果矩阵对某一个向量或某些向量只发生伸缩变换，不对这些向量产生旋转的效果，那么这些向量就称为这个矩阵的特征向量，伸缩的比例就是特征值。 实际上，上述的一段话既讲了矩阵变换特征值及特征向量的几何意义（图形变换）也讲了其物理含义。物理的含义就是运动的图景：
16路舵机中文_PCA9685_pac9685中文资料_
09-30
在"16路舵机中文_PCA9685_pac9685中文资料_"这个压缩包中，包含了PCA9685的相关中文资料，方便中国用户理解和使用。 PCA9685的主要特点包括： 1. **16通道PWM输出**：该芯片能够同时控制16个独立的PWM信号，每个...
PCA算法理解 - - matlab人脸识别.zip
10-28
在人脸识别领域，PCA算法能够有效地将图像数据转换到一个较低维度的空间中，同时尽可能保留原始图像的重要信息，使得后续的分类或者识别更加高效。 人脸识别技术是计算机视觉中的一个重要领域，其目的是赋予计算机...
PCA9555_pca9555_引脚扩展_
10-01
这些例程通常包括初始化、读写GPIO、设置中断等功能的示例代码，可以帮助用户理解如何通过软件控制PCA9555的工作。 在实际应用中，开发者需要根据自己的微控制器平台选择相应的库或者驱动程序，并根据PCA9555的 ...
pca.rar_PCA重建_pca_pca 图像重建_pca人脸重建_人脸重建
07-15
PCA（主成分分析，Principal Component Analysis）是一种广泛应用的数据降维技术，在图像处理、机器学习、计算机视觉等领域有重要地位。..."pca.m"提供的代码实例，对于理解和实践PCA在人脸重建中的应用非常有价值。
PCA | 特征值和特征向量
lazysnake666的博客
05-02 2993
SVD/PCA的分析只需要一行代码即可实现，但是要理解背后的原理，可能需要从特征值和特征向量开始。第一次接触特征值是在SPM里，那时候连怎么发音都不知道。就像这个slide讲的一样，spm...
机器学习——PCA
m0_63038557的博客
01-01 2207
主成分分析（Principal Component Analysis，简称PCA）是一种用于数据降维的技术，旨在通过线性变换将原始数据映射到一个新的坐标系中。在这个新的坐标系中，数据的方差被最大化，这意味着我们将保留尽可能多的原始数据信息。PCA的关键思想是通过找到数据中的主成分，将数据在这些主成分上进行投影，从而实现数据的降维。首先，对原始数据进行标准化处理，确保每个特征的均值为零，标准差为一。这一步骤是为了消除不同特征之间的量纲差异，使得每个特征对PCA的贡献相对均等。
主成分分析(PCA)原理及推导
学无常师，负笈不远险阻
12-30 9万+
在数据挖掘或者图像处理等领域经常会用到主成分分析，这样做的好处是使要分析的数据的维度降低了，但是数据的主要信息还能保留下来，并且，这些变换后的维两两不相关！至于为什么？那就接着往下看。在本文中，将会很详细的解答这些问题：PCA、SVD、特征值、奇异值、特征向量这些关键词是怎么联系到一起的？又是如何在一个矩阵上体现出来？它们如何决定着一个矩阵的性质？能不能用一种直观又容易理解的方式描述出来？
【特征值】特征值的几何含义
weixin_30768175的博客
02-04 319
http://mini.eastday.com/bdmip/180328092726628.html# 转载于:https://www.cnblogs.com/colipso/p/10352391.html
Machine Learning——sklearn系列（七）——降维
wa1tzy的博客
07-13 606
文章目录一、PCA（主成分分析）1.1 PCA主成分分析的矩阵原理-特征值与奇异值1.1.1 特征值1.1.2 奇异值1.1.31.2 PCA代码二、LDA2.1 代码 一、PCA（主成分分析） 主成分分析（PCA）实现一般有两种，一种是对于方阵用特征值分解去实现的，一种是对于不是方阵的用奇异值（SVD）分解去实现的。 1.1 PCA主成分分析的矩阵原理-特征值与奇异值 1.1.1 特征值 特征值很好理解，特征值和特征向量代表了一个矩阵最鲜明的特征方向。多个特征值和特征向量的线性组合可以表示此矩阵。选取特征
矩阵特征值分解与奇异值分解含义解析及应用
热门推荐
xiahouzuoxin
11-14 11万+
此文有一半转载自他出，主要在这进行个整理，具体内容文中都有相关的转载链接。特征值与特征向量的几何意义矩阵的乘法是什么，别只告诉我只是“前一个矩阵的行乘以后一个矩阵的列”，还会一点的可能还会说“前一个矩阵的列数等于后一个矩阵的行数才能相乘”，然而，这里却会和你说——那都是表象。矩阵乘法真正的含义是变换，我们学《线性代数》一开始就学行变换列变换，那才是线代的核心——别会了点猫腻就忘了本——对，矩阵乘法
讲道理 | 特征值和特征向量意义
我要上火星（停止更新，转为私人笔记）
06-10 4万+
原文转自https://blog.youkuaiyun.com/fuming2021118535/article/details/51339881 在刚开始学的特征值和特征向量的时候只是知道了定义和式子，并没有理解其内在的含义和应用，这段时间整理了相关的内容，跟大家分享一下； 首先我们先把特征值和特征向量的定义复习一下： 定义：设A是n阶矩阵，如果数λ和n维非零向量x使关系式 ……(1) ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值