李宏毅-DeepLearning-2017-Unsupervised Learning:Neighbor Embedding

最新推荐文章于 2024-11-18 21:23:03 发布
最新推荐文章于 2024-11-18 21:23:03 发布
阅读量900 收藏 15
点赞数
分类专栏： DeepLearning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/zjguilai/article/details/90417739
版权

数据降维的方法：
Manifold Learning(流行学习)
1、什么是流形

流形学习的观点：认为我们所能观察到的数据实际上是由一个低维流行映射到高维空间的。由于数据内部特征的限制，一些高维中的数据会产生维度上的冗余，实际上这些数据只要比较低的维度就能唯一的表示。所以直观上来讲，一个流形好比是一个d维的空间，在一个m维的空间中（m>d）被扭曲之后的结果。需要注意的是流形并不是一个形状，而是一个空间。举个例子来说，比如说一块布，可以把它看成一个二维的平面，这是一个二维的空间，现在我们把它扭一扭（三维空间），它就变成了一个流形，当然不扭的时候，它也是一个流形，欧式空间是流形的一种特殊情况。如下图所示
　　
在这里插入图片描述
流形具有在局部与欧式空间同胚的空间，也就是它在局部具有欧式空间的性质，能用欧式距离来进行距离计算。这就给降维带来了很大的启发，若低维流形嵌入到了高维空间，此时样本在高维空间的分布虽然复杂，但在局部上仍具有欧式空间的性质，因此可以在局部建立降维映射关系，然后再设法将局部映射关系推广到全局。而且当数据被降维到二维和三维时，就可以进行可视化，因此流形学习也可以被用于可视化。
[1]Locally Linear Embedding(LLE)局部线性嵌入
局部线性嵌入的思想：只是试图去保持领域内样本之间的关系。具体如下图所示，样本从高维空间映射到低维空间后，各个领域内的样本之间的线性关系不变。
1)求最小值的Wij,固

最低0.47元/天 解锁文章
2021李宏毅机器学习笔记--18Unsupervised Learning -- Neighbor Embedding
guoxinxin0605的博客
08-07 629
2021李宏毅机器学习笔记--18 Unsupervised Learning -- Neighbor Embedding 摘要一、Manifold Learning(流形学习)二、Locally Linear Embedding(LLE,局部线性嵌入)三、Laplacian Eigenmaps(拉普拉斯特征映射)3.1 简介二级目录二级目录四、总结二级目录三级目录 摘要 wijw_{ij}wij​ wiw^iwi 本节是进行非线性降维的一些算法。包括局部线性嵌入LLE、拉普拉斯特征映射和t分布随
流形学习(Manifold Learning)
chenaiyanmie的博客
05-02 2万+
流形学习(Manifold Learning) 前言 流行学习简介 主要的代表方法 1) Isomap (等距映射) Isomap算法步骤： 2) LLE(Locally Linear Embedding) 局部线性嵌入 LLE基本思想： LLE算法步骤： Isomap 与LLE的比较： 3) LE (Laplacian Eigenmaps) 拉普拉斯特征映射 谱图理论： LE基本思想...
流形学习 (Manifold Learning)
热门推荐
SEU_EXtreme!
02-26 3万+
流形学习 (manifold learning)zz from prfans............................... dodo：流形学习 (manifold learning)dodo流形学习是个很广泛的概念。这里我主要谈的是自从2000年以后形成的流形学习概念和其主要代表方法。自从2000年以后，流形学习被认为属于非线性降维的一个分支。众所周知，引导这一领域迅速发展的是20
流形学习
xywlpo的专栏
05-27 8147
总觉得即使是“浅谈”两个字，还是让这个标题有些过大了，更何况我自己也才刚刚接触这么一个领域。不过懒得想其他标题了，想起来要扯一下这个话题，也是因为和朋友聊起我自己最近在做的方向。Manifold Learning 或者仅仅 Manifold 本身通常就听起来颇有些深奥的感觉，不过如果并不是想要进行严格的理论推导的话，也可以从许多直观的例子得到一些感性的认识，正好我也就借这个机会来简单地谈一下这个话题吧，或者说至少是我到目前为止对这它的认识。这两个词，在谈 Manifold 之前，不妨先说说 Learning
流形学习（Manifold Learning）
weixin_39699362的博客
05-29 3011
在低维空间中（通常是二维或三维），为每对点定义相似性。
流形学习（转）
aasys848082的博客
06-27 609
流形（manifold）的概念最早是在1854年由 Riemann 提出的(德文Mannigfaltigkeit)，现代使用的流形定义则是由 Hermann Weyl 在1913年给出的。江泽涵先生对这个名词的翻译出自文天祥《正气歌》“天地有正气，杂然赋流形”，日本人则将之译为“多样体”，二者孰雅孰鄙，高下立判。 流形（Manifold），一般可以认为是局部具有欧氏空间性质的空间。而实...
15、【李宏毅机器学习（2017）】Unsupervised Learning: Neighbor Embedding（无监督学习：邻域嵌套）
Jimmyzqb的博客
08-29 4110
上一篇博客介绍了无监督学习在文字中的降维方法——Word Embedding，本篇博客将继续介绍无监督学习算法的降维方法——Neighbor Embedding。 目录 Locally Linear Embedding (LLE) Laplacian Eigenmaps T-distributed Stochastic Neighbor Embedding (t-SNE) t-SNE算...
【李宏毅2020 ML/DL】P58 Unsupervised Learning - Neighbor Embedding | LLE, t-SNE
记录学习痕迹的公众号：Piper蛋窝
08-04 713
一些降维可视化技术，重点落在最后的 t-SNE 。
【PyTorch][chapter 15][李宏毅深度学习][Neighbor Embedding-LLE]
4AM_明朝百晓生
02-07 974
和传统的PCA，LDA等关注样本方差的降维方法相比，LLE关注于降维时保持样本局部的线性特征，由于LLE在降维时保持了样本的局部特征，它广泛的用于图像图像识别，高维数据可视化等领域。我们得到了高维的权重系数W，那么我们希望这些权重系数对应的线性关系在降维后的低维一样得到保持。要得到最小的d维数据集，我们需要求出矩阵M最小的d个特征值所对应的d个特征向量组成的矩阵。2）算法对最近邻样本数的选择敏感，不同的最近邻数对最后的降维结果有很大影响。1）算法所学习的流形只能是不闭合的，且样本集是稠密均匀的。
manifold learning
08-12
quantitative analysis of nonlinear embeding
浅谈流形学习(Manifold Learning)
xuexiyanjiusheng的博客
07-17 1万+
Machine Learning 虽然名字里带了 Learning 一个词，让人乍一看觉得和 Intelligence 相比不过是换了个说法而已，然而事实上这里的 Learning 的意义要朴素得多。我们来看一看 Machine Learning 的典型的流程就知道了，其实有时候觉得和应用数学或者更通俗的数学建模有些类似，通常我们会有需要分析或者处理的数据，根据一些经验和一些假设，我们可以构建一个
流形学习（Mainfold Learning）
Forlogenの解忧杂货铺
05-16 1万+
最近在看生成对抗网络（Generative Adversarial Networks，GAN）的时候，几乎在每一篇文章中都会看到mainfold这个词，哪么它在GAN中想要表达什么呢？或者说GAN和流形学习（Mainfold Learning）之间又有着什么样的关联呢？下面给出我在查阅了相关资料的一个简单的总结 对于机器学习所使用的大多数数据集而言，数据的维度都很高，例如，MNIST中的样本为32...
Manifold Learning详解
Ἥλιος
02-13 1032
Manifold Learning详解 第四十四次写博客，本人数学基础不是太好，如果有幸能得到读者指正，感激不尽，希望能借此机会向大家学习。本文承接上一篇《Low-dimension Embedding详解（附带MDS算法）》，继续介绍某些降维手段。 Manifold Learning（流行学习）   在《Low-dimension Embedding》这篇文章中，我们介绍了一种称为MDS的降...
流形学习【Manifold Learning】
最新发布
薛定谔的猫的博客
11-18 2244
流形是局部具有欧几里得空间性质的拓扑空间。换句话说，流形是一个可以在局部范围内近似为欧几里得空间的空间。欧几里得空间（Euclidean space）是一类特殊的向量空间，它允许讨论长度、夹角等几何性质。n维欧几里得空间表示为RnRn是由所有n元有序实数元组构成的空间。二维欧几里得空间R2R2：由所有形如xy(x,y)xy的有序对组成，可以表示平面上的所有点。三维欧几里得空间R3R3：由所有形如xyz(x,y,z)xyz。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值