台大李宏毅Machine Learning 2017Fall学习笔记 (16)Unsupervised Learning:Neighbor Embedding

最新推荐文章于 2023-09-20 16:20:23 发布

原创最新推荐文章于 2023-09-20 16:20:23 发布 · 540 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #深度学习 #machine-learning #deep-learning #李宏毅

台大李宏毅Machine Learning 2017Fall 专栏收录该内容

16 篇文章

订阅专栏

本篇为台大李宏毅2017年秋季课程中关于无监督学习部分的学习笔记，主要介绍了邻域嵌入算法，这是一种用于数据可视化和高维数据降维的技术。

                    
                    台大李宏毅Machine Learning 2017Fall学习笔记 (16)Unsupervised Learning:Neighbor Embedding

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Allenlzcoder

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

机器学习 李宏毅 L26-Neighbor Embedding

okgagaga的博客

02-01

1278

非线性降维方法，根据一个点与其临近点关系进行降维操作，neighbor embedding，又称之为manifold learning，流形学习。 LLE（locally linear embedding）对于输入xi" role="presentation">xixix_i，与其临近点xj" role="presentation">xjxjx_j存在一种关系wij" role="pre

15、【李宏毅机器学习（2017）】Unsupervised Learning: Neighbor Embedding（无监督学习：邻域嵌套）

Jimmyzqb的博客

08-29

4166

上一篇博客介绍了无监督学习在文字中的降维方法——Word Embedding，本篇博客将继续介绍无监督学习算法的降维方法——Neighbor Embedding。目录 Locally Linear Embedding (LLE) Laplacian Eigenmaps T-distributed Stochastic Neighbor Embedding (t-SNE) t-SNE算...

1 条评论您还未登录，请先登录后发表或查看评论

1 条评论

FCer 2019.01.23
怎么不更新了啊博主？

机器学习 -- Unsupervised Learning: Neighbor Embedding

01-30

Unsupervised Learning: Neighbor Embedding Manifold Learning Locally Linear Embedding (LLE) Laplacian Eigenmaps T-distributed Stochastic Neighbor Embedding (t-SNE)

李宏毅机器学习——学习笔记（15） Unsupervised Learning—Auto encoder

m0_37757740的博客

04-07

823

Auto-encoder 1.encode：将原来高维sample encode成低维的code，再将code尽量decode成原来的sample。 2.deep auto-encoder只是将层数加深。auto encode的construction error不是重点，重点是code表示的有多好。 3. De-noising auto-encoder：在原来的sample上加入噪声数据，但...

李宏毅学习笔记24.Unsupervised Learning.02: Neighbor Embedding

老毛的博客

07-07

541

非监督学习分为两大类：Clustering & Dimension Reduction 和Generation，上节讲的是线性的降维PCA，这节主要是讲非线性降维：TSNE，先从NE讲起。

2021李宏毅机器学习笔记--18Unsupervised Learning -- Neighbor Embedding

guoxinxin0605的博客

08-07

721

2021李宏毅机器学习笔记--18 Unsupervised Learning -- Neighbor Embedding 摘要一、Manifold Learning(流形学习)二、Locally Linear Embedding(LLE,局部线性嵌入)三、Laplacian Eigenmaps(拉普拉斯特征映射)3.1 简介二级目录二级目录四、总结二级目录三级目录摘要 wijw_{ij}wij wiw^iwi 本节是进行非线性降维的一些算法。包括局部线性嵌入LLE、拉普拉斯特征映射和t分布随

李宏毅2020机器学习【学习笔记】 P57 Unsupervised Learning:Neighbor Embedding

weixin_51330846的博客

09-20

768

我们注意到在这样的卷曲在高维空间中的低维面直接取 euclidean distance 欧氏距离或许是不对的（如上图所示），或许更近的点并没有更远的点更相似。即可（因为 Semi-supervised 中 labeled data 的存在，不会出现这样的情况），所以需要对。前面的方法只假设了相似的点要在一起，没有假设不相似的点要分开，就如同图中的 LLE 结果都挤在一堆。在上一节中，我们也有提到， PCA 是线性的，无法对这样在三维空间中卷曲的“二维”平面处理。像 LLE 这种方法，就算不知道。

李宏毅-DeepLearning-2017-Unsupervised Learning:Neighbor Embedding

zjguilai的博客

05-21

961

数据降维的方法： Manifold Learning(流行学习) 1、什么是流形流形学习的观点：认为我们所能观察到的数据实际上是由一个低维流行映射到高维空间的。由于数据内部特征的限制，一些高维中的数据会产生维度上的冗余，实际上这些数据只要比较低的维度就能唯一的表示。所以直观上来讲，一个流形好比是一个d维的空间，在一个m维的空间中（m>d）被扭曲之后的结果。需要注意的是流形并不是一个形状，而...

笔记：ML-LHY： 李宏毅 (Hung-yi Lee) Machine Learning (2017,Spring) 总结

upup

10-31

1292

ML-LHY-1 Regression 机器学习最简单的入门算法就是线性回归了，从这里出发开始学习机器学习 本节课主要介绍使用梯度下降方法求解线性回归 机器学习解决方法建模常规分为3个步骤： 1.确定目标函数，其中带有未知参数θ\thetaθ 2.如何表达参数θ\thetaθ对模型影像，即损失函数的确定，在参数θ\thetaθ确定的目标函数下与真实值的差异 3.找到最符合数据的目标函数的参数θ\thetaθ，例如使用：梯度下降梯度下降概念和原理，正则化防止过拟合 pdf 视频 ML-LHY-2 Wh

【李宏毅机器学习笔记】 12、Unsupervised Learning - Linear Methods

ACL_lihan的博客

02-23

792

【李宏毅机器学习笔记】1、回归问题（Regression）【李宏毅机器学习笔记】2、error产生自哪里？【李宏毅机器学习笔记】3、gradient descent 【李宏毅机器学习笔记】4、Classification 【李宏毅机器学习笔记】5、Logistic Regression 【李宏毅机器学习笔记】6、简短介绍Deep Learning 【李宏毅机器学习笔记】7、反向传播...

李宏毅机器学习课程笔记5：Unsupervised Learning - Linear Methods、Word Embedding、Neighbor Embedding

徐子尧的博客

02-11

7497

台湾大学李宏毅老师的机器学习课程是一份非常好的ML/DL入门资料，李宏毅老师将课程录像上传到了YouTube，地址：NTUEE ML 2016 。这篇文章是学习本课程第13-15课所做的笔记和自己的理解。Lecture 13: Unsupervised Learning - Linear Methods Unsupervised Learning有两种，化繁为简（Clustering & Dim

李宏毅机器学习——学习笔记（14） Unsupervised Learning-Neighbor Embedding

m0_37757740的博客

04-05

589

Manifold Learning （流型学习）：将流型空间降维后，可以直接用普通方法进行邻居embedding。 Locally Linear Embedding（LLE）：运用样本x邻居的线性组合来表示样本x，样本x降维后所形成的z仍然基于原来的权重，用邻居的线性组合来表示。首先在原来的空间中找到w，在降维以后的空间中，固定住w，找出一组z，最小化邻居表示样本的误差。这个方法比较重要...

【台大李宏毅ML课程】Lecture 13 Unsupervised Learning——Linear Dimension Reduction笔记

code_caq的博客

03-25

1223

本节课主要讲了两种线性降维的方法——cluster和PCA，并从两个角度解释了PCA。最后讲了一些关于矩阵分解的知识。 1.cluster cluster就简单的带过了，主要是k-means和HAC k-means原理：（1）先初始化k个中心点ci (i=1,….,k) （2）如果样本x离ci更近，就划分到第i类（3）更新每个类别的中心点（4）重复（2）（3）如何选择K...

台大李宏毅Machine Learning 2017Fall学习笔记 (1)Introduction of machine Learning

Allenlzcoder的博客

12-29

1816

台大李宏毅Machine Learning 2017Fall学习笔记 (1)Introduction of machine Learning 台大李宏毅讲的这门课应该不错，课程链接： http://blog.youkuaiyun.com/Allenlzcoder/article/details/78644733 http://blog.youkuaiyun.com/Alle

台大李宏毅Machine Learning 2017Fall学习笔记 (6)Logistic Regression

Allenlzcoder的博客

01-07

1424

台大李宏毅Machine Learning 2017Fall学习笔记 (6)Logistic Regression 做Logistic Regression回归，需要3步。 Step 1: Function Set 在此问题中选择sigmod(z)sigmod(z)函数，具体见下图。这里对Logistic Regression和Linear Regressio

台大李宏毅Machine Learning 2017Fall学习笔记 (8)Backpropagation

Allenlzcoder的博客

01-09

1262

台大李宏毅Machine Learning 2017Fall学习笔记 (8)Backpropagation当网络结构很复杂时，会有大量的参数。∇L(θ)\nabla L(\theta)是百万维的向量。如何高效地计算百万维的参数，使用反向传播算法来计算。BP并非是一个和GD不同的训练方法，BP就是GD，只是是一种比较有效率的计算方法。数学知识铺垫：微积分中的链式法则，很简单。还是以上节

台大李宏毅Machine Learning 2017Fall学习笔记 (7)Introduction of Deep Learning

Allenlzcoder的博客

01-09

980

台大李宏毅Machine Learning 2017Fall学习笔记 (6)Introduction of Deep Learning最近几年，deep learning发展的越来越快，其应用也越来越广。但深度学习的发展并非是一帆风顺的。简单了解深度学习的历史后，再看一下做深度学习的步骤。很简单，就像是把大象放进冰箱里一样简单。共分为3步。Step 1:Neural NetworkStep\

台大李宏毅Machine Learning 2017Fall学习笔记 (10)Tips for Deep Learning

Allenlzcoder的博客

01-12

955

台大李宏毅Machine Learning 2017Fall学习笔记 (10)Tips for Deep Learning 注：本博客主要参照 http://blog.youkuaiyun.com/xzy_thu/article/details/69680951改写。此小节课讲的是在做深度学习过程中，提升模型效果的方法。从训练模型到最后应用，流程图如下图所示。注意：在实际训练深度学习模型的

台大李宏毅Machine Learning 2017Fall学习笔记 (2)Linear Regression and Overfitting

Allenlzcoder的博客

12-30

845

台大李宏毅Machine Learning 2017Fall学习笔记 (2)Linear Regression and Overfitting 简单回归问题应用举例分析第1步：选取模型第2步：评价模型，建立损失函数L(f) 第3步：选择最优函数，在此过程中会利用到梯度下降和正则化等方法，也介绍了过拟合的问题。