机器学习之SVD奇异值原理分析及举例

最新推荐文章于 2025-03-25 09:36:53 发布
最新推荐文章于 2025-03-25 09:36:53 发布
阅读量940 收藏 1
点赞数
分类专栏： python机器学习算法原理笔记与实现 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qiujiahao123/article/details/63253718
版权
本文介绍如何利用奇异值分解(SVD)选取关键特征。通过构造特定维度的矩阵S, U, V来识别最重要指标。例如,若需确定两个最关键特征,则可将S简化为2x2矩阵, U为Mx2矩阵, V为Nx2矩阵。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

中间的矩阵S即是我们所关心，它的对角线上的每一个值，越大，说明这一类元素越重要，同时我们也可以取一个r乘以r的近似值，来得到我们所关心的，对最终结果有重要影响的类别。

例如，我想直到最重要的2项指标，那么我可以使s成为2行2列的矩阵，u使m*2的矩阵，V是n行2列的矩阵
这里写图片描述

这里写图片描述

举例如下:
这里写图片描述

通过S将U，V控制成2列，这样方便我们在二维的坐标系中展示
这里写图片描述

这里写图片描述

这里写图片描述

人工智能_机器学习102_线性代数_SVD奇异值矩阵分解原理_在无解中找最优解_为什么除了特征值分解还有奇异值分解_全矩阵_单位矩阵_酉矩阵_复数矩阵_实数_复数_虚数---人工智能工作笔记0227
添柴程序猿的专栏
10-27 95
可以看到就算是我们举例用的X矩阵的元素都是整数,那么svd分解后的3个矩阵，这三个矩阵相乘以后得到的具体元素可以看到零的时候，我们得到的是一个无限接近零的时候，也不是具体的0对吧,是有误差的.复数的引入也是为了解决实数不能解决的一些问题才出现的它也是在某种意义上为了扩充实数的范围出现的。它的矩阵A是约等于后面的公式的。也就是它是没有解的这个公式。可以看到他们的公式是可以对应起来的，只不过svd的分解矩阵原理这个公式是没有解的。3.然后特征值分解矩阵中的特征向量P的逆矩阵,对应奇异值分解矩阵中的v的逆矩阵。
奇异值分解SVD及其应用
AI天才研究院
05-28 881
奇异值分解SVD及其应用 1.背景介绍 1.1 什么是奇异值分解(SVD) 奇异值分解(Singular Value Decomposition, SVD)是一种线性代数分解技术,可将任意矩阵分解为三个矩阵的乘积形式。SVD在许多领域都有广泛
svd计算例子
08-10
SVD分解计算方式
奇异值分解（SVD）例子+功能
Xiao__fly的博客
06-18 756
奇异值分解（SVD）例子+功能
笔记 | SVD | 奇异值分解
最新发布
【更新于公众号 | 简谱学记】
03-25 831
其原理是要求两个场的展开系数的协方差最大。比如对某海域的海表温度(SST)和海表气压(SLP)做SVD分析，是为了提取出这两个变量之间相互耦合(协方差矩阵)的最重要的空间模态和时间演变信息。其中的空间模态就是SVD得到的奇异向量(左右奇异向量分别对应SST和SLP)，它们有各自的时间系数表征了时间演变特征。EOF实际上是SVD的特殊情况，对于SVD针对的是两个物理时空场，而EOF是一个物理时空场，如m表示空间点，n表示时间点，那么。那么，同样的道理，根据原始数据和奇异向量也可以用来得到对应的时间序列，即。
SVD详解
liudongdong_jlu
07-09 3886
SVD详解 SVD(singular value decomposition)，翻译成中文就是奇异值分解。SVD的用处有很多，比如：LSA（隐性语义分析）、推荐系统、特征压缩（或称数据降维）。SVD可以理解为：将一个比较复杂的矩阵用更小更简单的3个子矩阵的相乘来表示，这3个小矩阵描述了大矩阵重要的特性。   1.1奇异值分解的几何意义(因公式输入比较麻烦所以采取截图的方式) ...
奇异值分解的例子
weixin_41586393的博客
07-24 1505
参考： https://www.cnblogs.com/marsggbo/p/10155801.html
SVD实例
weixin_33948416的博客
03-19 183
>> X = rand(5,7) X = 0.9797 0.1365 0.6614 0.5828 0.2259 0.2091 0.5678 0.2714 0.0118 0.2844 0.4235 0.5798 0.3798 0.7942 0.2523 0.8939 0.4692 0.5155 0.7604 ...
机器学习之奇异值分解SVD及应用于协同过滤推荐和LSA潜在语义分析
changzoe的博客
12-22 1460
隐形语义分析LSA隐形语义分析（LSA）是一种自然语言处理中用到的方法，又称为隐形语义索引 LSI，其通过“矢量语义空间”来提取文档与词中的“概念”，进而分析文档与词之间的关系。LSA的基本假设是，如果两个词多次出现在同一文档中，则这两个词在语义上具有相似性。LSA使用大量的文本上构建一个矩阵，这个矩阵的一行代表一个词，一列代表一个文档，矩阵元素代表该词在该文档中出现的次数，然后再此矩阵上使用奇异值
机器学习之奇异值分解
weixin_41638083的博客
09-27 1250
目录一.绪言二.什么是奇异值分解三.数学原理奇异值分解的定义与性质计算方法紧奇异值分解与截断奇异值分解矩阵近似四.算法步骤五.代码实现六.算法评价参考资料 一.绪言 前段时间开始入门机器学习，《机器学习实战》（Peter Harrington 著）差不多过了一遍，第一遍主要关注算法的实现和应用。现在把注意力转移到算法的原理，这一次争取把算法总结得尽量全面，便于以后查阅。 这是本系列的第二篇文章——...
svd奇异值分解_矩阵之芯 SVD: 奇异值分解及其几何解释
weixin_39865277的博客
12-08 209
后续奇异值分解(SVD)在整个(数值)线性代数及其应用中都扮演着重要角色，在理论分析以及数值计算两个方面都有着广泛应用。本系列我们打算从理论、性质、几何意义、算法实现以及多个方向上的应用等几个角度较全面地介绍这一个重要工具。为了方便大家浏览，努力做到重点突出和言简意赅。学数学不要怕公式，多看+多想+多写，自然而然就熟练了。1目录1、简要回顾2、分解及证明3、图解几何性质2简要回顾这么漂亮...
SVD详细介绍及理论推导和应用举例
09-11
SVD详细介绍及理论推导和应用举例，是了解SVD理论的很好的参考资料
SVD 实例计算与理解
THE XING
12-27 3912
网上各种思想解释SVD的太多了。这篇博文想从一个实际的矩阵出发，阐述SVD究竟干了什么。 1.初始理论部分 SVD的基本公式： A=Um×mΣm×nVn×nT(1)A=U_{m\times m} \Sigma_{m\times n} V_{n\times n}^T \tag{1}A=Um×m​Σm×n​Vn×nT​(1) 注意Um×mU_{m\times m}Um×m​, Vn×nV_{n\t...
奇异值分解(SVD)原理与在降维中的应用
Dby_freedom的博客
10-27 824
奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。本文就对SVD的原理做一个总结，并讨论在在PCA降维算法中是如何运用运用SVD的。 1. 回顾特征值和特征向量 我们首先回顾下特征值和特征向量的定义如下： Ax=λx Ax=\...
SVD实例说明理解
fxmfxm9304的博客
08-30 953
奇异值分解对于提取主成分，数据压缩等都有很大的应用~~ SVD用于提取主成分主要分为一下步骤： 1.给定一个矩阵C,首先进行奇异值分解： 2.构造 ，将不需要的部分设为0 3.计算结果 实例：（Matlab版） 假设数据源：M = [-1.0300    0.7400   -0.0200    0.5100   -1.3100    0.9900    0.6900   -0.1200
机器学习算法（六）：奇异值分解SVD
weixin_39910711的博客
09-03 1608
目录 1特征值（EVD） 2奇异值（SVD） 2.1 右奇异向量（列变化）V 2.2 左奇异向量（行变换）U 2.3 奇异值矩阵Σ 2.4 A的满秩分解A=XY 3奇异值与主成分分析（PCA） 奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推...
降维算法之奇异值分解 (Singular Value Decomposition, SVD)
极光喵的博客
03-12 4177
在标准 SVD 中，我们会计算所有的奇异值和奇异向量，但在截断 SVD 中，我们仅计算和保留前 k 个最大的奇异值及其对应的奇异向量。较大的奇异值意味着相应的左、右奇异向量更能够捕捉到数据的主要结构和模式，而较小的奇异值通常对应于数据的次要特征或噪声。保留较大的奇异值通常意味着保留了数据中的主要成分，而忽略了较小的奇异值有助于滤除噪声和不重要的成分。通过保留较大的奇异值及其对应的奇异向量，我们能够提取出数据的主要特征，同时去除噪声和不重要的信息，从而实现数据的降维、压缩和特征提取。
机器学习 - SVD
呵呵
08-07 8367
1. SVD 1.1 分解 如下图，一个矩阵可以分解为两个方阵和一个对角矩阵的乘积： C = m * n；u = m * m；sigma = m * n；v' = n * n 1.2 奇异值 sigma是一个对角矩阵，但通常不是方阵。sigma的对角元素被称为奇异值，与特征值类似。因此与PCA类似，我们可以取sigma中最大的k个，来简化数据： u' = m * k；s
奇异值分解(SVD)
blinkyou001的博客
08-13 2698
本文简单介绍了矩阵奇异值分解的基本原理，并通过python实例进行了演示。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值