李宏毅《Machine Learning》笔记 -- 无监督学习--generation

最新推荐文章于 2022-11-11 11:48:17 发布
最新推荐文章于 2022-11-11 11:48:17 发布
阅读量320 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 李宏毅机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_39847930/article/details/101114296
本文介绍了无监督学习中的生成模型，如PixelRNN用于图像和语音生成，以及高斯混合模型的分布式表示形式——变分自编码器(VAE)。此外，还讨论了VAE的KL散度和条件VAE，以及为解决VAE问题引入的生成对抗网络(GAN)及其训练中的挑战。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

 

PixelRNN: 根据前面的pixel 预测下一个

生成图片、也可生成语音 生成影像

 

生成模型很难评估

VAE

为什么要用VAE

 

高斯混合模型 来estimate the probability  distribution

很多高斯混合起来

最低0.47元/天 解锁文章

200万优质内容无限畅学
李宏毅2020机器学习课程笔记（三）- CNN、半监督学习、RNN
⚡
08-13 5390
包含李宏毅机器学习视频P17-P23的课程梗概
台大李宏毅机器学习2020学习笔记（一）：机器学习简介
意疏的学习笔记
03-18 1699
前言 去年走马观花式的听了一遍台大李宏毅老师的Machine Learning 2019，觉得老师讲的很好。于是打算今年重新细致的听一遍，并做一份完整的笔记。就写这么多，从此开始吧。 概念 机器学习（Machine Learning）：让机器自动找函数。如语音识别，就是让机器找一个函数，输入是声音信号，输出是对应的文字。如下棋，就是让机器找一个函数，输入是当前棋盘上黑子白子...
李宏毅机器学习2016 第十五讲 无监督学习 生成模型之 VAE
Come_for_IT 的博客
01-19 3733
视频链接：李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩课程资源：Hung-yi Lee课程相关PPT已经打包命名好了：链接：https://pan.baidu.com/s/1c3Jyh6S 密码：77u5我的第十四讲笔记：李宏毅机器学习2016 第十四讲 深度自编码器Unsupervised Learning ： Generation本章主要讲解了无监督学习中的生成模
机器学习-24-Unsupervised Learning-08-Generation(无监督学习之生成模型)
迷雾总会解
12-29 908
文章目录Unsupervised Learning: GenerationIntroductionPixelRNNIntroductionpokemon creationVAEIntroductionwrite poetryWhy VAE?problems of VAEGAN Unsupervised Learning: Generation 本文将简单介绍无监督学习中的生成模型，包括PixelRNN、VAE和GAN，以后将会有一个专门的系列介绍对抗生成网络GAN Introduction 正如Rich
机器学习基石-The theory of generation
格物致知
11-18 512
大纲Restriction of Break Point我们发现，当N>kN>k时,break point k限制了mH(N)m_H(N)最大值的大小，也就是说，影响mH(N)m_H(N)大小的因素有两个 训练数据DD的大小 break point k(不同的k代表不同的假设) 那么，如果给定N和k，能够证明其mH(N)m_H(N)的最大值的上界是多项式的，则根据霍夫丁不等式，就能用mH(N)m_H
李宏毅《机器学习》课程笔记（作业九：无监督学习）
如花美眷，似水流年~
05-12 623
Kmeans方法，先初始化K个中心，每次都把每个元素归类到最近的类，再更新中心，再更新分类。 HAC的方法，有点类似，把最近的pair取平均作为新的data，然后搞成一个树，再在树上切一刀来分类，好处是不需要先决定K。 PCA有了新的的理解，其实是贪心地找使得variance最大的那个w，之后通过这些w的线性组合就可以了。PCA也是个降维的方法，他能够使得复原出的向量跟输入的向量最接近。其实相当于一个单隐层的神经网络，但是因为它各个维度是互相垂直的，所以会比梯度下降求出来的更好。PCA找出来的可能不是一
李宏毅ML lecture-17-18 unsupervised Learning Generation
Arron_hou的博客
03-09 574
李宏毅ML lecture-16 unsupervised Learning Generation
2021李宏毅机器学习笔记--22 Generative Adversarial Network 01
guoxinxin0605的博客
08-29 739
@[TOC](2021李宏毅机器学习笔记–22 Generative Adversarial Network 01(GAN,生成式对抗网络)) 摘要 GAN是建立于神经网络的基础上的，其核心思想是“生成”与“对抗”，GAN网络结构包含两个模型，一个是生成模型（Generator），另一个是判别模型（Discriminator）。生成模型一般是使用反卷积神经网络或者全连接神经网络，通过输入的数据生成二维图像，而判别模型是一个卷积神经网络二元分类器，它的工作主要是负责判断生成模型所生成的图像是来自数据集的真
李宏毅GAN 学习笔记3 -- Unsupervised Conditional Generation
s1nnix的博客
12-11 502
Unsupervised Conditional Generation 无监督的条件GAN网络，简单来说就是给出两堆data（data之间没有任何的关联），machine自己学到怎么从一堆转到另外一堆。 有两种方法，第一种是Direct Transformation，直接进行转换，这种方法适用于input和output的差别比较小，比如说是颜色或者风格上的变化。 具体实现： 第二个是Projection to Common Space，这种方法适用于比较复杂的转换，就不仅仅是简单的改改颜...
[李宏毅-机器学习]无监督学习 unsupervised learning
炼丹师
02-14 1365
Clustering 聚类 K-means Hierarchical Agglomerative Clustering Dimension Reduction 降维 PCA 找到一个方向w1，使得数据x投影在这个方向上，方差最大，这样在这个维度上还可以轻易区分各个数据z1 当需要投影到多维的时候，再找一个方向w2，使得x投影在这上方差最大，其中w2和w1是垂直的 ...
2021李宏毅机器学习笔记--14 conditional generation by RNN & attention
guoxinxin0605的博客
07-10 397
2021李宏毅机器学习笔记--14 Conditional Generation by RNN & Attention摘要一、Generation1.1 Generation1.2 Conditional Generation二、Attention2.1 Attention2.2 Dynamic Conditional Generation2.3 Machine Translation2.4 Speech Recognition2.5 Image Caption Generation（图片字幕生成）
李宏毅《Machine Learning》笔记 -- 无监督学习--线性模型
weixin_39847930的博客
09-20 460
1、聚类算法 化繁为简、分几类为经验主义 K-means dimension reduction 1、feature selection 2、principle component analysis PCA SVD pca弱点：非监督、线性 Matrix Factorization (MF)。。。也是FM？ PCA不懂 之后再看。。。...
李宏毅学习笔记32.GAN.03.Unsupervised Conditional Generation
老毛的博客
05-04 1083
文章目录简介Unsupervised Conditional GenerationDirect Transformation法1：直接忽略法2：向量化限制法3：Cycle GANIssue of Cycle Consistency其他Cycle GANstarGAN For multiple domainsProjection to Common SpaceVoice ConversionRefe...
李宏毅《Machine Learning》笔记 -- 无监督学习--auto encoder
weixin_39847930的博客
09-21 246
Unsupervised Learning Deep learning 做无监督学习的方法 Auto-encoder 用神经网络做降维 encoder decoder独自存在没法学。 bottleneck layer 瓶颈层 deep ae 就是多加几层 重点不是最后loss低，而是code做的有多好 De-noising auto-encoder 为了train的更好...
李宏毅《Machine Learning》笔记 -- 无监督学习--neighbor embedding
weixin_39847930的博客
09-21 145
Manifold Learning 流性学习 降维方法: 1、Locally Linear Embedding LLE 2、Laplacian Eigenmaps: Graph-based approach 3、T-distributted Stochastic Neighbor Embedding (t-SNE)
李宏毅机器学习——无监督学习(一)
日积月累，天道酬勤
02-11 646
引言 本文主要探讨无监督学习的线性方法(Linear Methods)。 聚类 把很多不同的图像，根据它们的相似度分成不同的组（类别），问题是要分成多少个组。 最常用的方法有： K-means 聚类NNN个数据X={x1,⋯ ,xn,xN}X=\{x^1,\cdots,x^n,x^N\}X={x1,⋯,xn,xN} 到KKK个组 初始化KKK个分组中心点:ci,i=1,2,⋯ ,Kc^i,i=...
2020李宏毅学习笔记——11.Unsupervised Learning： Linear Methods（无监督学习）
weixin_44790306的博客
07-04 1145
文章目录摘要1. Introduction（介绍）2.Clustering（聚类）2.1 K-means2.2 HAC3. Dimension Reduction（降维）3.1 How to do Dimension Reduction？3.2 Principle component analysis(PCA)3.2.1 PCA for 1-D 摘要 1. Introduction（介绍） 无监督学习可以分为两大类： 第一类：化繁为简 聚类(Clustering) 降维(Dimension Reduc
Generative Model - 李宏毅笔记
weixin_42010722的博客
11-11 1638
输入x。输出不同且具有创造的结果 画画 比如 画一个红眼睛的人脸 GAN的变形 GAN ACGAN BGAN CGAN DCGAN EBGAN fGAN GoGAN 神奇宝贝比比鸟 学习，根据周围环境，自学习进化， 通过每次生成的。和判别器判断，进化 生成器与判别器 对抗 generato loss越小越好 discriminator越大越好 反复执行 训练 生成器后 固定 判别器 ，把生成器生成的给判别器判断（固定生成器，训练判别器）， styleGAN 动画头像 progressiveGAN 人脸 通
李弘毅机器学习笔记：第十六章—无监督学习
fly975247003的博客
09-28 671
李弘毅机器学习笔记：第十六章—无监督学习聚类K-means层次聚类Distributed Representation降维降维样例特征选择主成分分析数学推导主成分分析的另一个角度奇异值分解主成分分析和神经网络缺点应用实例矩阵分解FM推荐系统中的应用MF主题分析的应用未引入的其他相关方法 我把dimension reduction分为两种，一种做的事情叫做“化繁为简”，它可以分为两种：一种是clu...
李宏毅课程：2-Classification深度学习分类
分类是机器学习中的一个核心概念，它属于监督学习的范畴。在分类任务中，算法根据一组输入特征来预测输出类别标签。分类可以分为二分类（binary classification），多分类（multiclass classification），以及多标签...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值