SVD分解及推荐系统的矩阵分解

问题描述

在这里，我们将谈论的问题是评级预测问题。我们的数据是评级历史数据，即用户对项目的评级，值区间是[1，5]。我们可以把数据放在一个稀疏矩阵R

中：

$$\begin{align*} R = \begin{pmatrix} 1 & \color{#e74c3c}{?} & 2 & \color{#e74c3c}{?} & \color{#e74c3c}{?}\\ \color{#e74c3c}{?} & \color{#e74c3c}{?} & \color{#e74c3c}{?} & \color{#e74c3c}{?} & 4\\ 2 & \color{#e74c3c}{?} & 4 & 5 & \color{#e74c3c}{?}\\ \color{#e74c3c}{?} & \color{#e74c3c}{?} & 3 & \color{#e74c3c}{?} & \color{#e74c3c}{?}\\ \color{#e74c3c}{?} & 1 & \color{#e74c3c}{?} & 3 & \color{#e74c3c}{?}\\ 5 & \color{#e74c3c}{?} & \color{#e74c3c}{?} & \color{#e74c3c}{?} & 2\\ \end{pmatrix} \begin{matrix} \text{Alice}\\ \text{Bob}\\ \text{Charlie}\\ \text{Daniel}\\ \text{Eric}\\ \text{Frank}\\ \end{matrix} \end{align*}$$

矩阵的每一行对应一个给定用户，每一列对应一个给定项目。譬如，在上面的矩阵中，Alice对第一个项目的评级是1，Charlie对第三个项目的评级是4。在我们的问题中，我们将认为项目是电影,（电商领域是商品），在后面会交替使用“项目”和“电影”这两个术语。

SVD矩阵分解

$$R_{m \times n} = M_{m \times m}\Sigma_{m \times n} U^T_{n \times n}$$
$$降维：R_{m \times n} = M_{m \times r}\Sigma_{r \times r} U^T_{r \times n}$$

如果$R$是密集的，我们可以很容易计算$M和U$：

• $M$的列是$RR^T$的特征向量
• The columns of $M$ can build back all of the columns of $R$
• $U$的列是$R^TR$的特征向量。
• The columns of $U$ can build back all of the rows of $R$
• $Σ$的对角元素来源于$RR^T 或 R^TR$ 的特征值的平方根，并且是按从大到小的顺序排列的

但是，$R$是稀疏的，矩阵$RR^T$和