SVD及c++实现

最新推荐文章于 2025-01-30 00:45:00 发布

Bluenapa

最新推荐文章于 2025-01-30 00:45:00 发布

阅读量3.8k

点赞数 3

分类专栏：数学

本文链接：https://blog.youkuaiyun.com/Bluenapa/article/details/102062606

版权

本文详细介绍了奇异值分解(SVD)的概念、求解过程，并通过一个例子展示了如何使用Eigen库进行SVD的C++实现。同时，文章还探讨了特征值分解(EVD)与SVD的关系，以及SVD在数据压缩中的应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

前言

一 .特征值分解（EVD-eigen value decomposition）

定义

回顾

二 .奇异值分解（SVD-singular value decomposition）

四压缩比率 compress ration

拓展：PCA

前言

EVD分解要求被分解矩阵是实对称矩阵

SVD对被分解矩阵没有这个要求。

相当于一个从特殊到一般的过程。

一 .特征值分解（EVD-eigen value decomposition）

定义

在理角奇异值分解之前，需要先回顾一下特征值分解，如果矩阵A 是一个 m×m 的实对称矩阵（即 $\boldsymbol{A=A^T}$ ），那么它可以被分解成如下的形式

$\boldsymbol{A=P\Lambda P^T} =\left( \begin{matrix} \lambda_1 & \cdots &\cdots &\cdots &\\ \cdots &\lambda_2 & \cdots &\cdots \\ \cdots &\cdots& \ddots &\cdots \\ \cdots & \cdots &\cdots & \lambda_m \end{matrix} \right )$

其中P是标准正交阵 (orthogonal) ，即 $PP^T=I(E)$ ， $\lambda _i$ 是特征值。

回顾

线性代数（ liner algebra）中，定义如果 $\boldsymbol{Ax}=\lambda \boldsymbol{ x }$ , 那么 $\lambda$ 就是特征值eigenvalue， $\boldsymbol{x}$ 是特征向量eigenvector。

其中 A 是n*n的实对称阵， $\lambda$ 是数， $\boldsymbol{x}$ 是n维列向量。

e.g. $\boldsymbol{Ax}=\begin{bmatrix} 0& 0 & 1\\ 0 &1 &0 \\ 1 &0 & 0 \end{bmatrix} \begin{bmatrix} -1\\ 0\\ 1 \end{bmatrix}= \begin{bmatrix} 1\\ 0\\ -1 \end{bmatrix}= (-1)\begin{bmatrix} -1\\ 0\\ 1 \end{bmatrix}= \lambda \boldsymbol{x}$