7、降维与线性模型的应用与原理

降维与线性模型的应用与原理

1. 降维方法

1.1 使用截断奇异值分解（Truncated SVD）降维

截断奇异值分解（Truncated SVD）是一种矩阵分解技术，它将矩阵 $M$ 分解为三个矩阵 $U$、$\Sigma$ 和 $V$。与主成分分析（PCA）类似，但 SVD 是在数据矩阵上进行分解，而 PCA 是在协方差矩阵上进行分解。通常，SVD 用于找出矩阵的主成分。

操作步骤

1. 准备数据 ：使用鸢尾花数据集。

from sklearn.datasets import load_iris
iris = load_iris()
iris_X = iris.data
y = iris.target

2. 导入并使用 TruncatedSVD ：

from sklearn.decomposition import TruncatedSVD
svd = TruncatedSVD(2)
iris_transformed = svd.fit_transform(iris_X)

3. 查看解释方差 ：

svd.expla