求数据的前 n 个主成分

_卷心菜_

于 2020-12-20 23:07:03 发布

阅读量535

点赞数

分类专栏：机器学习文章标签：机器学习

本文链接：https://blog.youkuaiyun.com/Thumb_/article/details/111463960

版权

机器学习专栏收录该内容

29 篇文章

订阅专栏

博客围绕主成分分析展开，介绍第二主成分是在新数据上求第一主成分，还涉及代码实现，包括根据前文求出数据第一主成分、求第二主成分，使图像与第一主成分垂直，将求前n个主成分封装成函数并举例求前2个主成分。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

主成分分析

在这里插入图片描述
第二主成分就是在新的数据上求第一主成分。

代码实现

首先，根据上节求出数据的第一主成分
下面求第二主成分

#%% 第二主成分

#X2 = np.empty(X.shape)
#for i in range(len(X)):
#    X2[i] = X[i] - X[i].dot(w) * w
X2 = X - X.dot(w).reshape(-1,1) * w   #此行可代替上面三行

plt.scatter(X2[:,0],X2[:,1])
plt.show()

在这里插入图片描述
图像与第一主成分垂直，得

w2 = first_component(X2,initial_w,eta)

array([-0.61256369,  0.79042124])

通过验证，两个 w 点乘结果近似为 0 .

w.dot(w2)
4.839838137316033e-06

将求前 n 个主成分封装成函数：

def first_n_component(n,X,eta=0.01,n_iters=1e4,epsilon=1e-8):
    
    X_pca = X.copy()
    X_pca = demean(X_pca)
    res = []
    for i in range(n):
        initial_w = np.random.random(X_pca.shape[1])
        w = first_component(X_pca,initial_w,eta)
        res.append(w)
        
        X_pca = X_pca - X_pca.dot(w).reshape(-1,1) * w
    
    return res

例如，求前 2 个主成分

first_n_component(2,X)

结果：

first_n_component(2,X)
[array([0.78718057, 0.61672258]), array([-0.61672013,  0.7871825 ])]