PCA详细讲解、ZCA、 Whitening、SVD

最新推荐文章于 2022-06-14 05:56:06 发布
原创 最新推荐文章于 2022-06-14 05:56:06 发布 · 686 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文汇集了关于PCA（主成分分析）算法的多个精选资源链接，包括PCA的基本概念、PCA与Whitening及ZCA的区别、PCA与SVD的关系等，适合初学者快速入门和深入研究。

----------------博主很懒，看到写得详细的讲得好的算法博文，直接放链接就走了------------------------


PCA详细讲解，浅显易懂

http://www.360doc.com/content/13/1124/02/9482_331688889.shtml


PCA  \  Whitening   \   ZCA讲解：

https://www.cnblogs.com/tornadomeet/archive/2013/03/21/2973231.html


PCA 和 SVD:

http://blog.youkuaiyun.com/wangjian1204/article/details/50642732



Co-whitening of i-vectors for short and long duration speaker verification用于短期和长期说话者验证的i向量的共同白化
weixin_38858860的博客
11-07 476
Co-whitening of i-vectors for short and long duration speaker verification论文翻译 用于短期和长期说话者验证的i向量的共同白化 摘要   I-vector是语音话语的固定长度和低等级表示。它已广泛用于与文本无关的说话人验证。理想情况下，来自同一说话者的语音话语将映射到唯一的i-vectors。但是，由于某些内在和外在...
主成分分析（PCA）及白化（ZCA）
jiumi123的专栏
10-23 2221
主成分分析（PCA）是一种数据降维算法。白化主要是降低输入特征的冗余性。 假设X 是m*n的矩阵，由n个样本（m维特征）组成。现要对X 进行线性变换为另一个矩阵Y，使得Y消除了X各特征的相关性，即Y的协方差矩阵为对角矩阵。 X变换到Y的线性变换公式为: 　　Y=PX    （1） 则， YY’=PX(PX)’=PXX’P’   （2）   对XX’进行特征
PCA和ZCA Whitening方法以及他们对原始数据的影响
probie的博客
01-02 365
Code from his post: import numpy as np import matplotlib.pyplot as plt np.random.seed(1) mu = [0, 0] sigma = [[5, 4], [4, 5]] # must be positive semi-definite n = 1000 x = np.random.multivariate_normal(mu, sigma, size=n).T set1 = np.argsort(np.linalg.no
数据预处理：PCA，SVD，whitening，normalization
11-18 437
数据预处理是为了让算法有更好的表现，whitening、PCA、SVD都是预处理的方式： whitening的目标是让特征向量中的特征之间不相关，PCA的目标是降低特征向量的维度，SVD的目标是提高稀疏矩阵运算的运算速度。 whitening whiten的目的是解除特征向量中各个特征之间的相关性，同时保证保证每个特征的方差一致，是数据集归一化的一种形式。设特...
ZCA白化变换推导——Learning Multiple Layers of Features from Tiny Images
kuaitoukid的专栏
08-04 8947
参考文献：Learning Multiple Layers of Features from Tiny Images：附录 设数据集 X 的维数为 d×n ，且已经中心化 则协方差矩阵为 1/(n-1)*X*X' 我们想让这n个d维向量中任意两维都不相关，则假定去相关矩阵为W Y = W*X 为了使W达到去相关的目的，Y*Y‘必须是对角阵，可以进一步约束Y满足 Y * Y’ = (n
白化（Whitening） PCA白化 ZCA白化
Daniel_djf的专栏
12-25 2万+
白化是一种重要的预处理过程，其目的就是降低输入数据的冗余性，使得经过白化处理的输入数据具有如下性质：(i)特征之间相关性较低；(ii)所有特征具有相同的方差。   白化处理分PCA白化和ZCA白化，PCA白化保证数据各维度的方差为1，而ZCA白化保证数据各维度的方差相同。PCA白化可以用于降维也可以去相关性，而ZCA白化主要用于去相关性，且尽量使白化后的数据接近原始输入数据。 1
ZCA whitening 操作
02-06
### ZCA 白化的原理 ZCA 白化是一种特殊的线性变换技术，...此外，在某些特定场合下（比如神经网络训练），如果希望保留更多关于输入信号间相对位置的信息，则更推荐选用 ZCA 而不是简单的 PCA 方法来进行预处理工作。
深度学习基础（四）PCA和Whitening
luxialan的专栏
01-25 2898
PCA(principal component analysis )即主成分分析，是一种常用的降维方法。 假设我们用降维操作处理一个二维的数据集（二维压缩成一维）：    在这个数据集上，我们可以计算出两个方向，我们称为主方向u1和次方向u2，其中u1的值是数据集协方差矩阵的最大特征值对应的特征向量，u2是次大特征值对应的特征向量。数据集的协方差矩阵（这个符号很像求和但不是）：
UFLDL教程答案(3):Exercise:PCA_in_2D&PCA_and_Whitening
JiangV的博客
12-12 2462
数据预处理：PCA及白化。
PCA与Whitening
freeliao的专栏 在路上奔跑。。。
02-18 4573
一、PCA  PCA即主成分分析(Principle Component Analysis)，是统计机器学习、数据挖掘中对数据进行预处理的常用的一种方法。PCA的作用有2个，一个是数据降维，一个是数据的可视化。在实际应用数据中，样本的维数可能很大，远远大于样本数目，这样模型的复杂度会很大，学习到的模型会过拟合，而且训练速度也会比较慢，内存消耗比较大，但实际数据可能有些维度是线性相关的，可能也含有
为何有些ICA算法在进行白化时使用了ZCA白化而不是PCA白化
最新发布
07-15
在独立成分分析（ICA）中，**白化（Whitening）** 是一个非常重要的预处理步骤。它的作用是去除数据中的相关性，并使每个特征具有单位方差，从而简化后续的 ICA 优化过程。 在实际应用中，有些 ICA 算法选择使用 **...
PCA、SVD、ZCA白化理论与实现
风翼冰舟的博客
04-21 1746
简介 在UFLDL中介绍了主成分分析这一块的知识，而且当时学机器学习的时候，老师是将PCA和SVD联系起来将的，同时UFLDL也降到了使用PCA做数据白化whitening处理，这个词经常在论文里面看到。 国际惯例，参考博客： UFLDL的PCA章节 PRML的第12.1 PCA章节 知乎深入理解PCA与SVD的关系 PCA and SVD explained with numpy Relatio...
机器学习（七）白化whitening
热门推荐
hjimce的专栏
03-12 7万+
输入数据集X，经过白化处理后，新的数据X'满足两个性质： (1)特征之间相关性较低； (2)所有特征具有相同的方差。 其实我们之前学的PCA算法中，可能PCA给我们的印象是一般用于降维操作。然而其实PCA如果不降维，而是仅仅使用PCA求出特征向量，然后把数据X映射到新的特征空间，这样的一个映射过程，其实就是满足了我们白化的第一个性质：除去特征之间的相关性。因此白化算法的实现过程，第一步操作就是PCA，求出新特征空间中X的新坐标，然后再对新的坐标进行方差归一化
Gaussian PLDA + 代码。
fukaiqi1010的博客
08-22 496
本文理解自07年Simon的《Probabilistic Linear Discriminant Analysis for Inferences About Identity》 最直观的理解通过EM求四个latent variable。    EM求出了式子的四个参数。 然后下一步就是估计h和w啦   代码参考MSR工具箱...
ICA算法简介
whiteinblue的专栏
07-02 2万+
ICA算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的代数方法两大类，从原理上来说，它们都是利用了源信号的独立性和非高斯性。基于信息论的方法研究中，各国学者从最大熵、最小互信息、最大似然和负熵最大化等角度提出了一系列估计算法。如FastICA算法, Infomax算法，最大似然估计算法等。基于统计学的方法主要有二阶累积量、四阶累积量等高阶累积量方法。
白化（Whitening）：PCA vs. ZCA
weixin_33851604的博客
12-13 970
2019独角兽企业重金招聘Python工程师标准>>> ...
Deep learning：十(PCA和whitening)
weixin_34242331的博客
03-21 602
  　　PCA： 　　PCA的具有2个功能,一是维数约简（可以加快算法的训练速度，减小内存消耗等），一是数据的可视化。 　　PCA并不是线性回归，因为线性回归是保证得到的函数是y值方面误差最小，而PCA是保证得到的函数到所降的维度上的误差最小。另外线性回归是通过x值来预测y值，而PCA中是将所有的x样本都同等对待。 　　在使用PCA前需要对数据进行预处理，首先是均值化，即对每个特征维，都减...
白化（Whitening） PCA白化 ZCA白化
weixin_36670529的博客
06-14 2537
目录 1、PCA白化 2、ZCA白化 3、PCA白化和ZCA白化的区别 4、正则化 白化是一种重要的预处理过程，其目的就是降低输入数据的冗余性，使得经过白化处理的输入数据具有如下性质：(i)特征之间相关性较低；(ii)所有特征具有相同的方差。 白化处理分PCA白化和ZCA白化，PCA白化保证数据各维度的方差为1，而ZCA白化保证数据各维度的方差相同。PCA白化可以用于降维也可以去相关性......
CodeBlocks+OpenCV3.4.1环境搭建
Tcorpion的博客
04-07 3585
一、参考：（1）https://www.cnblogs.com/jerrybaby/p/6264984.html（2）https://segmentfault.com/a/1190000014284086（3）https://blog.youkuaiyun.com/wx7788250/article/details/54970903二、操作cmake:MinGW编译openCV出错修复，参考（2）。这里增加一...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值