协方差矩阵以及最大方差理论在pca中的应用

最新推荐文章于 2024-07-29 14:12:37 发布
最新推荐文章于 2024-07-29 14:12:37 发布
阅读量896 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： 数学
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/toptang16/article/details/38441979
本文介绍了一种用于人脸识别的PAC算法。该算法通过提取人脸图像中最能代表人脸特征的空间来实现识别。将人脸图像映射到特征空间并获取一组系数作为人脸特征。当两张人脸图像映射后的系数相近时，可以判断为同一人。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

PAC算法在人脸识别众多算法中的一种，它的基本思想就是从人脸图像中找出最能代表人脸的特征空间，去除一些不能代表人脸特征的属性。单个的人脸图片映射到这个特征空间得到这个特征空间的一组系数，这组系数就表示这张人脸图片的特征脸特征。如果两张人脸图片映射到这个特征空间的系数差不多，就表示这两张人脸是同一个人。
top
关注
专栏目录
机器学习系列手记（四）：降维之PCA最大方差理论
yly_3026925713的博客
04-03 1807
降维 在机器学习中，数据通常需要被表示成向量形式以输入模型进行训练，有时这些向量所处在高维空间，包含很多冗余和噪声，对这样的向量进行处理和分析会极大地消耗系统资源，甚至产生维度灾难。因此，进行降维，即用一个低维度的向量表示原始高维度的特征就显得极其重要。我们希望通过降维的方式来寻找数据内部的特性，从而提升特征表达能力，降低训练复杂度。常见的降维方法有主成分分析、线性判别分析、等距映射、局部线性嵌入...
【概率论理论】协方差，协方差矩阵理论(机器学习)
qq_53271322的博客
12-06 1982
  在许多机器学习算法中需要求出两个分量间相互关系的信息。协方差就是描述这种相互关联程度的一个特征数。相关系数矩阵是标准后的协方差矩阵。
主成分分析（Principal components analysis）-最大方差解释
alaclp的专栏
08-25 2165
在这一篇之前的内容是《Factor Analysis》，由于非常理论，打算学完整个课程后再写。在写这篇之前，我阅读了PCA、SVD和LDA。这几个模型相近，却都有自己的特点。本篇打算先介绍PCA，至于他们之间的关系，只能是边学边体会了。PCA以前也叫做Principal factor analysis。 1. 问题 真实的训练数据总是存在各种各样的问题： 1、 比如拿到一个汽车的样本，里面既
PCA最大方差
lucky_kai的博客
04-25 713
原文链接：https://www.jianshu.com/p/fb5f08bc9e9c 简述： PCA是一种线性、非监督、全局的降维算法。在高维的特征数据空间中有可能会包含冗余与噪声，因此需要寻找数据内部的主成分来表征原始数据，从而达到降维与降低训练复杂的目的。 求解步骤： 1.对样本数据进行中心化处理；(使数据分布更具方向性，使得特征向量更具原数据表达性。) 2.求样本协方差矩阵； 3.对协方差...
12-降维-PCA-最大投影方差/最小重构代价
scar2016的博客
05-08 2071
文章目录1.PCA(principal component analysis)主成分分析定义2.PCA中心思想：一个中心，两个基本点3.PCA数学建模3.1数据中心化处理4.结论 1.PCA(principal component analysis)主成分分析定义 PCA主要思想是将N维特征映射到K维上，这里的K维是全新的正交特征，是相互垂直的线性无关向量，也称为主成分，K维是在原有的N维特征的基础上重新构造出来的K维特征。PCA的工作是从原始的空间中顺序的找到一组相互正交的坐标轴，新的坐标轴的选择与数据本
协方差矩阵（均值、方差、标准差、协方差、PCA主成分分析）
最新发布
xhm01291212的博客
07-29 894
（1）均值：所有样本平均值。公式：（2）方差：各个样本与样本均值的差的平方和的均值。用途：描述数据离散程度。公式：（3）标准差：方差开方即标准差。公式：（4）协方差：判断两个变量的同步程度，也就是判断A变量变化时B变量变化的相应程度。协方差>0，A变量增大时B变量增大（二者负相关）。协方差=0，A变量和B变量线性无关。协方差<0，A变量增大时B变量减小（二者正相关）。公式：这个概念不重要，工作里用不大上（5）协方差矩阵：协方差矩阵中的每个元素是各个向量元素之间的协方差。
pca.rar_PCA 协方差_PCA 协方差_PCA数据降维_协方差矩阵_矩阵降维
09-24
这在数据分析、机器学习以及图像处理等领域中尤其重要，因为高维数据往往会导致计算复杂度增加、过拟合风险提高等问题。 在这个“pca.rar”压缩包中，包含了一个名为“pca.m”的MATLAB文件，很可能是一个实现PCA...
pca 矩阵 迹_再谈协方差矩阵之主成分分析PCA
weixin_28936865的博客
01-17 1186
上次那篇文章在理论层次介绍了下协方差矩阵，没准很多人觉得这东西用处不大，其实协方差矩阵在好多学科里都有很重要的作用，比如多维的正态分布，再比如今天我们今天的主角——主成分分析(Principal Component Analysis，简称PCA)。结合PCA相信能对协方差矩阵有个更深入的认识。PCA的缘起PCA大概是198x年提出来的吧，简单的说，它是一种通用的降维工具。在我们处理高维数据的时候，...
协方差矩阵与PCA原理深入剖析
qq_41978536的博客
04-24 2324
一、协方差矩阵 首先，协方差矩阵一定是实对称阵。 一个维度上方差的定义： 协方差的定义： 协方差就是计算了两个维度之间的相关性，即这个样本的这两个维度之间有没有关系。 协方差为0，证明这两个维度之间没有关系，协方差为正，两个正相关，为负则负相关。 协方差矩阵的定义： 对n个维度，任意两个维度都计算一个协方差，组成矩阵，定义如下： 直观的对于一个含有x,y,z三个维度的样本，协方差矩阵如下： ...
协方差矩阵pca算法
05-16
在实际应用中，协方差矩阵可以通过多种方式计算，比如MATLAB提供了cov函数来计算样本数据的协方差矩阵。在手动计算时，需要先计算各个维度的均值，然后计算各个维度与均值的差值的乘积的平均值。在计算多维数据集的...
PCA-方差及协方差等介绍
10-18
PCA-方差及协方差等介绍
浅析协方差矩阵
wonderful_life_mrchi的博客
04-19 792
统计学的基本概念 概率论里面有几个基本的概念，分别是：样本的均值、方差、标准差。首先，我们给定一个含有n个样本的集合，下面给出这些概念的公式描述： 均值： 标准差： 方差： 均值描述的是样本集合的中间点，它告诉我们的信息是有限的，而标准差给我们描述的是样本集合的各个样本点到均值的距离之平均。 以这两个集合为例，[0, 8, 12, 20]和[8, 9, 11, 12]，两个集合的...
记录篇：【百面机器学习】第四章.降维---PCA最大方差理论
weixin_48592695的博客
12-07 488
在机器学习领域中，我们对原始数据进行特征提取，有时会得到比较高维的特征向量。在这些向量所处的高维空间中，包含很多的冗余和噪声。我们希望通过降维的方式来寻找数据内部的特性，从而提升特征表达能力，降低训练复杂度。主成分分析（Principal Components Analysis，PCA）作为降维中最经典的方法，至今已有100多年的历史，它属于一种线性、非监督、全局的降维算法，是面试中经常被问到的问题。 问题 如何定义主成分？从这种定义出发，如何设计目标函数使得降维达到提取主成分的目的？针对这个目标函
特征工程PCA降维方法的最大方差理论详解
BrightLamp的博客
12-25 921
摘要 本文给出 PCA最大方差理论求解方法. 相关 配套代码, 请参考文章 : 纯Python和scikit-learn对比实现PCA特征降维 系列文章索引 : https://blog.youkuaiyun.com/oBrightLamp/article/details/85067981 正文 1. 降维方法 对于给定的一组数据点, 以矩阵 Xm×nX_{m \times n}Xm×n​ 表示 : X=(X...
PAC最大方差理论。如何定义主成分？从这种定义出发，如何设计目标函数使得降维达到提取主成分的目的？针对这个目标函数，如何对PAC问题进行求解？
光英的记忆博客
03-23 848
场景描述： 在机器学习领域中，我们对于原始数据进行特征提取，有时会得到比较高维的向量。在这些向量所处的高维空间中，包含很多的冗余和噪声。我们希望通过降维的方式来寻找数据内部的特征，从而提升特征的表达能力，降低训练复杂度。主成分分析（Principai Components Analysis,PAC)作为降维中最经典的方法，至今已经有100多年历史。他属于一种线性，非监督，全局的降维算法。 如何...
pca的最大方差理论解释
热门推荐
人生虚空
06-08 1万+
写这个主要为了自己理解，内容都是参考博文： http://www.cnblogs.com/jerrylead/archive/2011/04/18/2020209.html 一、数据预处理： 去均值化，使得样本数据的均值为0 方差归一化，保证每个特征的维度尺度近似（可以看出这里求方差没有减去均值，因为经过去均值化后，均值已经为0了） 其中是样例，共m个，每个样例有n维
主成分分析（PCA）-最大方差解释
GoodShot的专栏
04-15 6232
我阅读了PCA、SVD和LDA。这几个模型相近，却都有自己的特点。本篇打算先介绍PCA，至于他们之间的关系，只能是边学边体会了。PCA以前也叫做Principal factor analysis。1. 问题     真实的训练数据总是存在各种各样的问题：1、 比如拿到一个汽车的样本，里面既有以“千米/每小时”度量的最大速度特征，也有“英里/小时”的最大速度特征，显然这两个特征有一个多余。2、 拿到...
机器学习面试必知：最大方差理论和最小平方误差理论下的PCA(主成分分析)的公式推导
Neekity的博客
02-25 3464
最大方差理论 PCA（主成分分析），旨在找到数据中的主成分，并利用这些主成分表征原始数据从而达到降维的目的。在信号处理领域，我们认为信号具有较大方差，而噪声具有较小方差。因此我们不难引出PCA的目标即最大化投影方差，也就是让数据在主轴上投影的方差最大（在我们假设中方差最大的有用信号最大化减少了噪声的影响）。 对于给定的一组数据点{v1,...,vn}\left\{v_{1},...,v_{n}...
PCA数据分析：详解协方差矩阵与数据降维技术
在PCA的处理过程中，经常涉及到的步骤包括取均值、计算协方差矩阵等。" 1. PCA的基本概念：PCA是一种统计技术，它通过正交变换将可能相关的变量转换为线性不相关的变量，即将原始数据转换为一组线性无关的表示，称...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值