LLE算法简介-工程实现

LLE算法作为经典的降维方法,由两位专家于2000年提出,广泛应用于数据科学领域。本文简要介绍LLE的工程实现步骤:1)选择每个数据点的近邻;2)利用近邻点重建原始数据并求权重;3)通过最小化误差映射到低维空间。求解过程中,采用最小二乘法或文中提供的简便方法确定权重,最后提取最小d个特征值对应的特征向量作为低维表示。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

LLE算法是一种经典都降维算法,是在2000年提出的

到现在也已经很多年了,两位大牛提出了LLE算法可以说是打开了一个领域

后来的这些年围绕这个算法的论文估计要成百上千篇,该领域出现的硕博估计也是人数众多

我这里只能简单记录一下这个LLE的工程实现,免得以后忘记


假设有高维数据A, A中的点为A1, A2, A3.....An, A为K维矩阵

目的是把A映射到d维空间中,也就是生成矩阵D, D中的点为

D1, D2, D3.....Dn, 和A中的点一一对应,但维数降低为d维

d << K


1、 对于A中的每一个点Ai, 选取m个近邻{Ai1, Ai2...Aim}, 距离公式可以根据数据情况而定

2、矩阵A中的每个点,都有m个近邻,然后用m个近邻点重建A,比如:Ai = Wi1*Ai1 + Wi2*Ai2 .... + Wim*Aim

      然后这就求了个一组权值,也就是对于每个点Ai都会得到一组权值{Wi1, Wi2.....Wim}

      所有的权值放在一起也是一个矩阵,成为矩阵A的重建权值矩阵

3、把矩阵A中的每个点映射到矩阵D中, 要求 Di=Wi1*Di1 + Wi2*Di2 + ... + Wim*Aim, 当然这一步可以有误差

       这一步相当于固定了权值矩阵,求映射后的向量Di


求取过程要满足两个约束条件:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值