奇异值分解（《矩阵分析》阅读笔记）

已于 2022-04-23 10:45:09 修改
阅读量2.1k 收藏 6
点赞数 1
文章标签： 矩阵
于 2022-04-23 10:40:26 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/m0_52951250/article/details/124349955
版权
本文介绍了矩阵空间的分解，重点讨论了奇异值分解（SVD）及其性质，包括矩阵的秩、奇异值与矩阵范数、行列式、条件数和特征值的关系。奇异值分解在解决秩亏缺最小二乘问题中的应用也进行了阐述，并提供了求解方法。此外，还讨论了如何在矩阵受噪声影响时估算有效秩。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

 

目录

1. 矩阵空间的分解

2. 奇异值定理

3.奇异值分解的一些性质

4.奇异值与矩阵的范数、行列式、条件数、特征值

5.秩亏缺最小二乘解

1. 矩阵空间的分解

若A的秩等于r，

U的前r列组成        A的列空间        的标准正交基

U的后n-r列组成     A的左零空间    的标准正交基

V的前r列组成         A的行空间       的标准正交基

V的后m-r列组成    A的零空间        的标准正交基

2. 奇异值定理

若一矩阵有零奇异值，那么该矩阵一定是奇异的（秩亏缺的）

3.奇异值分解的一些性质

①A和具有完全相同的奇异值

②下式为特征值分解（σ表示A的奇异值，∑为A的奇异值对角矩阵）

③酉不变性

    若P、

最低0.47元/天 解锁文章
We1j1e
关注
机器学习笔记 - SVD奇异值分解(1)
学以致用 知行合一
04-20 1255
特征分解只能对方阵进行。对于非方阵的矩阵可以使用奇异值分解（SVD）。 使用SVD，您可以将矩阵分解为三个矩阵。我们将这些新矩阵视为空间的子变换。不是在一个动作中进行转换，而是将其分解为三个动作。 最后，我们会将SVD应用于图像处理，看到SVD对示例图像的影响。 我们了解了如何通过旋转或缩放矩阵来转换向量和矩阵。SVD可以看作是将一个复杂变换分解为3个更简单的变换（旋转、缩放、旋转）。
『矩阵论笔记』解读奇异值分解(SVD)+Python实战
AI新视界
03-14 5553
奇异值分解（Singular Value Decomposition）是线性代数中一种重要的矩阵分解(Matrix Decomposition)，奇异值分解则是特征分解在任意矩阵上的推广。在信号处理、统计学等领域有重要应用。这篇文章主要说下奇异值分解，这个方法在机器学习的一些算法里占有重要地位。
奇异值分解SVD
跟随技术的脚步-linolzhang的专栏
03-03 2112
奇异值分解（Singular Value Decomposition）是线性代数中一种重要的矩阵分解，和 特征值分解 有一定的关联，作用都在于将矩阵分解成 多个矩阵的乘积，从而方便进行数据的拆分，实现数据的投影或者降维。        从数学的角度来看，特征值分解 和 奇异值分解 都是给一个矩阵（线性变换）找 一组特殊的基。        我们 先从特征值分解层面来引入问题： ●
矩阵的条件数、奇异值分解（SVD)
qq_40851561的博客
03-23 2308
矩阵的条件数（condition number）是数值分析和线性代数中的一个重要概念，它刻画了矩阵某方面的特性。 为矩阵 A 的条件数。结合上面提到的几何意义，条件数同时描述了矩阵A 对向量的拉伸能力和压缩能力，换句话说，令向量发生形变的能力。条件数越大，向量在变换后越可能变化得越多。 奇异值分解（SVD）也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵，那么我们定义矩阵A的SVD为： 其中 U是一个 m * m 的矩阵， Σ\SigmaΣ 是
奇异值分解（Singular Value Decomposition)
大道至简
03-12 1394
1. 正交（Orthogonality） 如果两个向量和的内积为0，我们说向量和正交。在二维平面中，两个向量正交就是它们的夹角为。 如果矩阵满足，其中是单位矩阵，则是正交矩阵。 若是正交矩阵，则有： 是正交矩阵；的各行是单位向量且两两正交；的各列是单位向量且两两正交； = 1 或-1；若是正交矩阵，则也是正交矩阵； 2. 特征向量（Eigenvector）和特征值（Eigen
奇异值分解
Sunshine_in_Moon的专栏
06-11 1933
本分引用了：http://blog.youkuaiyun.com/abcjennifer/article/details/8131087 http://blog.youkuaiyun.com/google19890102/article/details/27109235 一、什么是酉矩阵？ n阶复方阵U的n个列向量是U空间的一个标准正交基，则U是酉矩阵(Unitary Matrix)。显然酉矩阵是正交矩阵往复数
奇异值分解（SVD）
ThorKing01的博客
07-26 1463
一、首先，奇异值分解与普通的矩阵分解的区别： 普通矩阵分解要求矩阵是一个方阵，行列数目相等，对于实际应用中出现的非方阵、非对称的矩阵进行分解，引入了奇异值分解 （Singular Value Decomposition）。 普通矩阵的分解，就是线性代数中求解特征值和特征向量的过程。 其中U的列向量是特征向量，Λ 是对角矩阵，Λ 对角元素是对应特征向量的特征值。 二、奇异值分解S...
【笔记】奇异值分解&特征值分解通俗易懂
最新发布
m0_53162279的博客
10-12 1016
SVD也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵AAA是一个m×nm×nm×n的矩阵，那么我们定义矩阵AAAAUΣVT(6)AUΣVT6其中U是一个m×m的矩阵，\Sigma是一个m×n的矩阵，除了主对角线上的元素以外全是0，主对角线上的元素称为奇异值，V是一个n×n的矩阵。
奇异值分解笔记
Al Chea
03-30 1121
我对于奇异值分解的浅显理解。
矩阵能够进行奇异值分解的条件是任意矩阵吗？
YMWM_的博客
03-02 1928
11
奇异值分解与特征值分解
qq_31409555的博客
05-17 263
从线性变换的角度分析: 线性变换T:V→WT:V\rightarrow W是关于基v1,…,vnv_1,\dots,v_n到w1…,wmw_1\dots,w_m的矩阵为MM, 即(w1,…,wm)=M(v1,…,vn)(w_1,\dots,w_m)=M(v_1,\dots,v_n)
线性代数——奇异值分解（SVD）
snowdroptulip的博客
04-08 2445
在前几篇文章中介绍了：主成分分析和矩阵知识，本文介绍矩阵压缩的另一种方法SVD，这个方法相对于主成分分析更灵活，尤其是在推荐系统中非常常见。 什么是奇异值分解 在矩阵知识我们知道，对于实对称矩阵AAA必能找到正交矩阵QQQ，使得A=QTΛQA=Q^T\Lambda QA=QTΛQ，其中Λ\LambdaΛ是对角线上为特征值的对角阵，Q是特征向量组成的正交矩阵。 但是这个只能对方阵进行分解，对于m×n...
为什么矩阵F范数的平方等于奇异值平方的和
jianti9962的博客
12-17 1万+
首先考虑一个M乘N的矩阵H，其F范数的平方定义为矩阵所有元素的模平方的和 也可以等价表示为 H乘H的共轭转置的迹 根据矩阵的SVD分解，矩阵H可以表示为 其中 矩阵U和V是酉阵，即 , 中间上尖矩阵是由奇异值组成的对角阵。（特征值=奇异值的平方） 接下来利用矩阵SVD分解和迹的循环等价性质，即可证明：矩阵F范数的平方等于特征值的和 ...
矩阵奇异值与矩阵范数
weixin_33874713的博客
03-07 3560
方便记忆Copy自知乎问答：https://www.zhihu.com/question/48945813/answer/113453186 转载于:https://www.cnblogs.com/TAL2SCB/p/10492869.html
矩阵的条件数、范数、奇异值、特征值
weixin_36347462的博客
05-31 7031
矩阵的条件数 矩阵的条件数用来衡量一个矩阵是“良态的”还是“病态的”。 条件数越大，矩阵越接近于奇异矩阵（不可逆矩阵），矩阵越“病态”。在数值计算中，矩阵的条件数越大，计算的误差越大，精度越低。 如Ax=b中，对A中元素加上一个小扰动，解x的变化都会非常大。 范数 Frobenius范数： 诱导范数 向量Lp范数： 1范数： 2范数： 无穷范数： 奇异值 其中奇异值是按从大到小的顺序排列的 特征值 A是n阶方阵，如果存在常数λ和n维非零列向量x，使得等式Ax=λx成立，称λ为A的特征值，x
深度理解矩阵的奇异值，特征值
热门推荐
csyifanZhang的博客
05-05 1万+
文章目录正交矩阵特征值分解——EVD矩阵特征值和特征向量定义特征值的含义分解过程详解奇异值分解——SVD矩阵的奇异值与特征值有什么相似之处与区别之处 看了蛮多关于矩阵特征值，奇异值的文章，将他们全部整理出来以供复习。 在网上看到有很多文章介绍SVD的，讲的也都不错，但是感觉还是有需要补充的，特别是关于矩阵和映射之间的对应关系。前段时间看了国外的一篇文章，叫A Singularly Valuable...
聊聊线性代数（9）矩阵的特征值分解与奇异值SVD分解——1
m0_63828467的博客
04-29 344
由于特征值和奇异值分解是线代中重要的数学过程，涉及矩阵论中的知识，因此，这一块内容可能会用较多文字乃至几篇文章来叙述。 笔者水平有限，不能保证读者能够完全理解，这里写的内容，仅仅是书本上的一些内容结合个人引发的观点。 上一篇文章中已经提到过，矩阵的特征值代表的这个矩阵对应线性变换在特定方向——也即特征向量方向上拉伸的倍率，并且在这个方向上，向量经过线性变换只做拉伸而不发生旋转。 我们已经知道，矩阵所对应的是确定基下的线性变换，那么，我们是否能够像上一篇文章中那样，相似...
各类范数定义速查；奇异值与特征值
林源的博客
04-21 2064
1. 向量范数 P-范数：∥x∥p=(Σ∣xi∣p)1/p\|x\|_p=(\Sigma|x_i|^p)^{1/p}∥x∥p​=(Σ∣xi​∣p)1/p。matlab调用norm(x,p)。norm(x)默认为二范数，也就是欧几里得范数 ∞\infty∞-范数：∥x∥∞=maxi∣xi∣\|x\|_{\infty}=\mathop{max}\limits_i|x_i|∥x∥∞​=imax​∣xi​∣。matlba调用为norm(x,inf) −∞-\infty−∞-范数：∥x∥−∞=mini∣xi∣\|x
矩阵论笔记：从Gauss消元到奇异值分解
这篇笔记主要涵盖了矩阵论中的多个重要概念和方法，包括矩阵的分解、求逆、特殊矩阵操作以及奇异值分解等。以下是详细内容： 1. **Gauss消元法**：这是一种线性代数中用于求解线性方程组的经典方法，通过行变换将...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值