矩阵的奇异值分解基本概念

原创

已于 2024-07-23 23:09:00 修改 · 1.1k 阅读

10 ·

CC 4.0 BY-SA版权

文章标签：

#矩阵 #算法

于 2024-03-10 21:39:24 首次发布

1. 背景知识

矩阵的奇异值分解，可以简单的理解为特征值分解问题的推广，对于一个m×n（m≥n）的矩阵A，可以具有如下形式的分解：

A=U×S×V'

其中U和V分别是m×m和n×n的正交阵，S则是一个m×n的对角阵（当然在n+1~m行，全是零）。

S就是所谓的奇异值（Singular Value）矩阵，U和V分别被称为左/右奇异向量（Singular Vector）。

对奇异值S的定义是：一个m×n矩阵A的奇异值就是n×n对称阵（A'×A）的非零特征值的正平方根。

通常，为了便于组织和描述，会将S的奇异值按从大到小的顺序排列，例如MATLAB中使用函数svd进行奇异值分解：

>> A=[1 0 1;0 1 0;0 1 1;0 1 0;1 1 0];
>> [U,S,V]=svd(A)

U =

   -0.3651    0.8165    0.0000    0.1184   -0.4313
   -0.3651   -0.4082   -0.0000   -0.5635   -0.6185
   -0.5477   -0.0000    0.7071   -0.1184    0.4313
   -0.3651   -0.4082   -0.0000    0.8003   -0.2441
   -0.5477    0.0000   -0.7071   -0.1184    0.4313


S =

    2.2361         0         0
         0    1.4142         0
         0         0    1.0000
         0         0         0
         0         0         0


V =

   -0.4082    0.5774   -0.7071
   -0.8165   -0.5774   -0.0000
   -0.4082    0.5774    0.7071