计算协方差矩阵中的XX^{T}和X^T{T}的区别

最新推荐文章于 2023-05-28 17:16:32 发布
原创 最新推荐文章于 2023-05-28 17:16:32 发布 · 3.2k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#线性代数

本文探讨了在数据处理中，当$m << n$时，矩阵$X$的转置乘以其自身$A=XTX$和$X$乘以其转置$B=XXT$的性质。尽管$A$和$B$的维度不同，但它们都是对称半正定矩阵，并且具有相同的秩。$A$有$n$个特征向量，$B$有$m$个特征向量，这在数据压缩和特征选择中有重要应用。

假设X∈Rm×nX \in \R^{m \times n}X∈Rm×n，通常在数据降维过程中m<<n
令A=XTXA=X^TX

最低0.47元/天 解锁文章
机器学习-降维方法-无监督：PCA算法（主成分/主元分析）【计算协方差矩阵X^TX的特征值与特征向量W（特征向量W控制旋转、特征值控制尺度）-＞特征向量W作为投影矩阵-＞将样本X通过W投影进行降维】
u013250861的博客
01-14 645
机器学习-无监督学习-降维：PCA算法(Principal Component Analysis, 主成分分析)【最大方差理论：求协方差矩阵的特征值与特征向量】
【基础算法】协方差矩阵的计算
最新发布
qq_31638535的博客
03-18 3399
今天有萌新同事问我如何计算协方差矩阵，这个是非常基础的，SVD， PCA，卡尔曼滤波都要用到，很重要！这个协方差矩阵可以用于分析数据的分布形态，比如用于PCA降维，或者在卡尔曼滤波中作为误差估计矩阵。协方差矩阵（Covariance Matrix）是描述多维数据统计特性的重要工具，它揭示了数据的。，在信号处理、机器学习、卡尔曼滤波、PCA 降维等领域广泛应用。
西瓜书-answer- 第十章 降维与度量学习
糖糖糖豆的博客
01-18 2161
http://blog.youkuaiyun.com/icefire_tyh/article/details/52243081 2.令err,err∗分别表示最近邻分类器与贝叶斯最优分类器的期望错误率，试证明：err∗≤err≤err∗(2−|Y||Y|−1∗err∗)。 由书226页可知 err=1−∑c∈YP2(c|x) err∗=1−maxc∈YP(c|x) 设c∗=argmaxc∈YP(c|x)
关于协方差矩阵
woaixiangrikui的专栏
08-08 972
http://hi.baidu.com/hehui1500/item/fba9444327a24693823ae1e9 协方差矩阵计算的是不同维度之间的协方差，而不是不同样本之间的。
XX^{T} 和 X^{T}X 的关系
颹蕭蕭
11-01 1万+
协方差矩阵 和 格拉姆矩阵 的关系
[转]浅谈协方差矩阵
weixin_33802505的博客
07-10 3969
一、统计学的基本概念 统计学里最基本的概念就是样本的均值、方差、标准差。首先，我们给定一个含有n个样本的集合，下面给出这些概念的公式描述： 均值： 标准差： 方差： 均值描述的是样本集合的中间点，它告诉我们的信息是有限的，而标准差给我们描述的是样本集合的各个样本点到均值的距离之平均。 以这两个集合为例，[0, 8, 12, 20]和[8, 9, 11, 12]，两个集合的均值都是10，...
使用 Numpy 和 TensorFlow 计算协方差矩阵
EdisonLeeeee的博客
05-04 4397
分别使用numpy和tensorflow计算协方差矩阵。
协方差矩阵在torch和numpy中的比较，自行实现torch协方差矩阵
Yonggie的博客
05-13 4667
前言 数学中（教科书、大学课堂、数学相关的科普视频），一个矩阵的向量往往是竖着的，一列作为一个vector，这一点numpy库也是这样默认的。 但是在机器学习以torch框架为例，一个有意义的向量或者说embedding是横着的。 比较 因为numpy库默认是一列是一个向量而torch等机器学习框架默认一行是一个向量，所以 torch.cov(X)和numpy.cov(X.T)是相等的。 自行实现 torch在较高版本中才有torch.cov函数，低版本的需要自行实现。 因为大部分博客都是数学风格的，在减掉
协方差矩阵数学原理，numpy计算协方差矩阵(np.cov)函数详解与源码剖析
Codefmeister's BLOG
11-22 1万+
协方差矩阵详解以及numpy计算协方差矩阵(np.cov) 协方差矩阵详解 均值，标准差与方差 由简单的统计学基础知识，我们有如下公式： Xˉ=∑i=1nXin\bar X{\rm{ = }}\frac{{\sum\limits_{i = 1}^n {{X_i}} }}{{\rm{n}}}Xˉ=ni=1∑n​Xi​​ S=∑i=1n(Xi−Xˉ)2n−1S = \sqrt {\frac{{\sum\limits_{i = 1}^n {{{({X_i} - \bar X)}^2}} }}{{n - 1}}}S
【什么是自相关矩阵，自协方差矩阵，互相关矩阵，互协方差矩阵？】
热门推荐
谈论现实
12-11 2万+
目录写在前面的话前置知识自相关矩阵自协方差矩阵自相关矩阵与自协方差矩阵的关系互相关矩阵互协方差矩阵互相关矩阵与互协方差矩阵的关系性质相关系数 写在前面的话 最近看模式识别课程的时候卡在了一个地方，见下图： 协方差矩阵倒还知道，自相关矩阵？怎么推导的？它有什么意义？上网查了资料，要么晦涩难懂，要么一堆废话，这里我想尽量用最简洁的语言讲清楚它们。 前置知识 向量的内积与外积 场景：机器学习 样本（n个样本）： X={x1,x2,...,xn}T X=\left \{ x_1,x_2,...,x_n \righ
协方差矩阵
weixin_30408675的博客
01-12 309
http://pinkyjie.com/2010/08/31/covariance/ 链接拿去，博主写得很详细~ 转载于:https://www.cnblogs.com/duoduo--up/p/6277475.html
协方差矩阵Covariance matrix
08-08 1万+
协方差的定义   对于一般的分布，直接代入E(X)之类的就可以计算出来了，但真给你一个具体数值的分布，要计算协方差矩阵，根据这个公式来计算，还真不容易反应过来。网上值得参考的资料也不多，这里用一个例子说明协方差矩阵是怎么计算出来的吧。 记住，X、Y是一个列向量，它表示了
一维随机序列的协方差矩阵Matlab实现
qq_41071706的博客
12-26 3911
  最近在论文里看到很多协方差矩阵的表示方式为 Rx=E{XXT}    ，但是我们经常用的都时 cov(X)来计算协方差。 其中：X为一维随机序列或者信号的采样， XT 代表 X 的转置序列 设：x=[10 20 32 44 5 7 2 56 7 2]';       注意有 转置符号，此处为列向量 这里介绍一下 matlab函数： repmat( A, a, b)   ，这个函数的意思...
一文彻底搞懂方差、协方差、协方差矩阵
fxnfk
09-04 4727
方差：s2=∑i=1n(xi−xˉ)2n−1s^2=\frac{\sum_{i=1}^n (x_i-\bar{x})^2}{n-1}s2=n−1∑i=1n​(xi​−xˉ)2​ 协方差：covxy=∑i=1n(xi−μx)(yi−μy)n−1cov_{xy}=\frac{\sum_{i=1}^n(x_i-\mu_x)(y_i-\mu_y)}{n-1}covxy​=n−1∑i=1n​(xi​−μx​)(yi​−μy​)​ 针对一维（个）随机变量，协方差就是方差； 针对二维（二个）随机变量反映的就是两纬度之间的
【数学与算法】协方差矩阵 与 w*w^T 的关系
u011754972的博客
11-30 2252
协方差矩阵 与 向量w*w^T 的关系
【概率论理论】协方差，协方差矩阵理论(机器学习)
qq_53271322的博客
12-06 2106
  在许多机器学习算法中需要求出两个分量间相互关系的信息。协方差就是描述这种相互关联程度的一个特征数。相关系数矩阵是标准后的协方差矩阵。
如何直观地理解「协方差矩阵」？
studyvcmfc的专栏
09-15 417
如何直观地理解「协方差矩阵」？ https://zhuanlan.zhihu.com/p/37609917
PCA主成分分析 | 机器学习
weixin_48888528的博客
05-28 882
1 主成分分析概述 PC：找到的每个新特征向量，降低特征个数，降维找出数据中最主要的，用最主要的代替原始数据。非监督的降维方法 信息衡量指标： 样本方差，方差越大，特征所带信息量越多。 2 算法流程 输入：n维样本集D=(x(1),x(2),…,x(m))，要降维到的维数n’. 输出：降维后的样本集D′ 1 对所有样本进行中心化（样本-均值） 2 计算协方差矩阵XXT 3 对矩阵特征值分解 4 取出n个特征值对应的特征向量(w1,w2,…,wn′)，将所有向量标准化后，组成特征向量矩阵W 5 矩阵分解：
[转}浅谈协方差矩阵
happyorg的博客
08-12 344
http://www.cnblogs.com/chaosimple/p/3182157.html 协方差解释 欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦： Markdown和扩展Markdown简洁的语法 代码块高亮 图片链接和图片上传 LaTex数学公式 UML序列图和流程图 离线写博客 导入导出Markdown文件
协方差矩阵求特征值和特征向量
09-01
然后，计算协方差矩阵 C，可以使用公式 C = XX^T / (m-1)，其中 X^T 表示 X 的转置。 2. 求解特征值和特征向量：对于协方差矩阵 C，可以使用特征值分解（eigendecomposition）方法求解其特征值和特征向量。特征值...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值