生成模型 | 从 VAE 到 Diffusion Model （上）

原创 已于 2024-05-30 10:21:46 修改 · 1.8k 阅读 · 23 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#生成式模型 #AIGC #GAN #VAE #DALL-E

于 2024-05-24 10:05:41 首次发布

🐧大模型系列篇章

💖 多模态大模型 🔎 GroundingDINO 论文总结
💖 端到端目标检测 🔎 从DETR 到 GroundingDINO
💖 多模态大模型 👉 CLIP论文总结
💖 多模态大模型 👉 EVA-CLIP
💚 生成模型 👉 从 VAE 到 Diffusion Model （上）
💚 生成模型 👉 从 VAE 到 Diffusion Model （下）
💧 天气大模型

欢迎订阅专栏，第一时间掌握最新科技
专栏链接

在这里插入图片描述

生成模型 | 从 VAE 到 Diffusion Model （下）的链接请点击下方蓝色字体: 上部分主要介绍了，Diffusion Models 及其 发展历程，以及 一些经典的模型应用

最低0.47元/天 解锁文章
从VAE到Diffusion生成模型详解(1)：变分自编码器VAE
orangerfun的博客
07-13 1523
什么是生成式模型给定训练集，产生与训练集同分布的新样本。如下图所示，希望学习到一个模型pmodelxpmodel​x，它与训练样本的分布pdataxpdata​x相近从下图可以更形象的解释，假设除了问号以外的都是真实数据，模型学习到的分布为整个椭圆以内的区域，那么从椭圆内采样任意一点（如问号）都可以生成一张对应的图片。注意其他图案对应的是真实数据，但是真实数据有限，因此通过学习一个分布就能通过采样生成无限张图片。
DiffuseVAE：融合VAE和Diffusion Models的完美结合
loop_syntax648的博客
09-20 1130
在机器学习领域，生成模型是一类重要的模型，它们可以学习数据的分布并生成新的样本。近期，研究人员提出了一种新的模型，称为DiffuseVAE，它将VAE和Diffusion Models相结合，带来了更强大的生成能力。它通过编码器将数据映射到潜在空间，然后通过Diffusion过程模拟数据的动态演化，最后通过解码器将潜在表示映射回数据空间。通过Diffusion过程，模型能够捕捉数据的时间依赖性和演化模式，从而生成更加准确和多样化的样本。以上是基于TensorFlow的DiffuseVAE模型的源代码实现。
生成模型 | 从 VAE 到 Diffusion Model （下）
5年+算法工程师，分享人工智能前沿技术，与自己的工程经验，欢迎订阅关注。
05-27 3364
主要介绍了Diffusion Model的发展历程和文生图模型的基本架构，从开山鼻祖DDPM开始应用扩散模型做图片生成，到现在图像可以根据语言来做相应的生成，修改。。总之，一文让你了解diifusion model,和他的一些经典模型应用。
从VAE到Diffusion Models
沉迷单车的追风少年
11-27 7955
前言：前面几篇文章更多的在思考GAN和diffusion model之间的关系，VAE作为最经典的生成模型之一，本文从VAE出发，聊一聊VAE和diffusion model之间的爱恨情仇。 为什么diffusion model扩散模型可以称为score-based models？_沉迷单车的追风少年-优快云博客 击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望_沉迷单车的追风少年-优快云博客 Diffusio.
【公式解析】Diffusion Model与VAE：生成模型的数学解析
神经美学_茂森的博客
07-25 806
Diffusion Model通过逐步添加噪声来模拟数据的生成过程。其核心思想在于，给定一个数据点x0​，通过一系列步骤逐渐添加噪声，直至得到完全随机的数据点xT​。xt​1−βt​​xt−1​βt​​ϵt​其中，xt​是时刻t的数据点，βt​是时刻t添加的噪声量，ϵt​是时刻t添加的噪声，通常是一个高斯随机变量。
【扩散模型基础知识】Diffusion Model中的重参数化和VAE中的重参数化的区别
页页读
03-05 5658
在机器学习中，重参数化（reparameterization）是一种技术，用于改变模型参数的表达方式，以便能够更高效或者更稳定地进行优化。它在不同的模型中有不同的应用和含义。下面我们分别看看在扩散模型（Diffusion Models）和变分自编码器（Variational Autoencoder, VAE）中重参数化的含义及其区别。
图像生成模型发展史：从VAE到Diffusion看懂AI绘画的前世今生
最新发布
weixin_67327688的博客
10-11 619
AI绘画技术发展历程回顾：从VAE到Diffusion模型的演进 本文系统梳理了图像生成模型的发展脉络。早期VAE（2013）开创深度学习图像生成先河；2014年GAN的提出带来革命性突破。2017年起，文本到图像生成模型（StackGAN、AttnGAN）开始探索。2020年扩散模型（DDPM、DDIM）兴起，结合CLIP多模态理解能力，而后又催生了DALL-E、Stable Diffusion等实用化AI绘画工具。
【生成模型之二】diffusion model模型
Jeremy_lf的博客
10-29 1924
Diffusion Model，这一深度生成模型，源自物理学中的扩散现象，呈现出令人瞩目的创新性。与传统的生成模型，如VAE、GAN相比，**它通过模拟数据由随机噪声逐步扩散至目标数据的过程，实现数据生成。**在图像、文本和音频生成等多个领域，Diffusion Model均展现出了卓越的性能。其算法原理深入浅出，将数据生成过程视为一个马尔可夫链。数据从目标状态出发，每一步都逐渐向随机噪声过渡，直至达到纯粹的噪声状态。随后，通过逆向过程，数据从纯噪声逐渐恢复至目标状态。
从VAE到Diffusion生成模型详解(2)：生成对抗网络GAN
orangerfun的博客
07-15 488
问题: 希望从训练样本分布中采样新数据，但这个分布不仅维度高而且还很复杂，难以直接实现。因此想到一个相对简单的方法：对一个简单的分布采样，比如均匀分布；然后，学习一种映射将其变换到训练样本分布。而这种映射的实现就是通过神经网络。
diffusion和vae
m0_51347013的博客
09-19 507
1、VAE预测的z和输入的x是有关的，映射关系需要学习参数；diffusion的xt不需要一步步迭代，最后xt符合一个正态分布，参数都是已知的2、VAE的z和x维度不一样；diffusion的xt和x0维度一样。
干货分享！让你通俗理解扩散模型
小白学视觉
06-22 1435
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达还有谁没有看过diffusion的工作，席卷AI圈的diffusion到底是什么？本文作者用尽量通俗的描述向大家解释 diffusion 的来龙去脉。实验室最近人人都在做扩散，从连续到离散，从 CV 到 NLP，基本上都被 diffusion 洗了一遍。但是观察发现，里面的数学基础并不是模型应用的必须。其实大部分的研究者都不需...
Diffusion 扩散模型：论生成领先多样性，GAN太单一；论尊贵清晰度独占鳌头，VAE常失真
Debroon
12-11 5680
后来，Diffusion 扩散模型也是生成模型，且在图像生成上，优于 GAN 和 VAE。扩散模型在生成样本时采用了一种不同的方式，它通过在生成过程中逐渐扩散噪声来生成样本。相反，扩散模型只需要在生成过程中进行逐步的扩散操作，使生成的样本逐渐接近真实分布。加噪声和去噪声操作都是正态分布，网络的训练目标应该是让每对正态分布更加接近。扩散模型的训练过程也更加稳定，不需要像GAN那样同时训练生成器和判别器。最直观的想法，肯定是让两个正态分布的均值尽可能接近，方差尽可能接近。
DiffusionModel-latent diffusion,VAE,U-Net,Text-encoder
hflexxx的博客！喜欢的话点个关注！
08-01 3343
latent diffusion 快速解读以及differs的简单应用
概览：VAE, GAN, Flow Model 和 Diffusion 的关系（二）：Diffusion Model
m0_63635128的博客
06-28 726
Diffusion Model（DDPM）的基本思路 对于隐变量模型给出的基本思路： p(x)=∫p(x∣z)p(z)dzp(x)=\int p(x|z) p(z) \mathrm{d}zp(x)=∫p(x∣z)p(z)dz VAE给出的优化是提高 p(z)p(z)p(z)的采样效率： encoder 用参数化的后验分布模型 qθ(z∣x)q_\theta(z|x)qθ​(z∣x)，直接预测均值μ\muμ和方差Σ\SigmaΣ，使得 qθ(z∣x)=N(μ,Σ)q_\theta(z|x) = N(\mu,
最通俗易懂的扩散模型
qq_41033011的博客
06-01 1659
那生成模型到底是个啥？假设有一批样本XXX，想要从XXX学习到它的分布pXp(X)pX，这样就能同时学习到没被采样到的数据了，用这个分布pXp(X)pX就能随意采样，然后获得生成结果。但是这个分布九转回肠，根本不可能直接获得。所以绕个弯，整一个隐变量ZZZ，这东西可以生成XXX。不妨假设ZZZ满足正态分布，那就可以先从正态分布里面随机取一个ZZZ，然后用ZZZ和XXX的关系算出pXp(X)pX。
VAE和Stable Diffusion的关系
weixin_46028606的博客
05-07 730
VAE和Stable Diffusion的关系
DiffuseVAE：完美结合VAE和Diffusion Models
沉迷单车的追风少年
02-08 4411
前言：本专栏博文《从VAE到Diffusion Model_沉迷单车的追风少年-优快云博客》讨论过VAEs和diffusion models之间的区别和联系。生成式模型的根本任务是捕捉底层的数据分布，并学习以无监督的方式从数据的显式/隐式分布中生成新的样本。本文介绍DDPM最新的研究成果DiffuseVAE，解决低维潜在空间上生成样本质量差、采样速度慢等问题。 目录 VAE简介 DDPM简介 VAE优缺点与DDPM的优缺点 VAE优缺点 DDPM优缺点 DDPM+VAE：完美结合两者优点.
扩散模型（Diffusion Model）最新综述！
阿木寺的博客
09-14 3万+
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达本综述来自西湖大学李子青实验室、香港中文大学Pheng-Ann Heng和浙江大学陈广勇团队，对现有的扩散生成模型进行了全面的回顾。本文首先提出了diffusion model改进算法的细化分类与深度解析，同时对diffusion model的应用进行了系统的回顾，最后率先汇总领域内benchmarks。这也促进了后续工作《Dif...
Diffusion Models专栏文章汇总：入门与实战
热门推荐
沉迷单车的追风少年
02-21 4万+
《DiffusionModels与深度学习》专栏文章导航
vae到diffusion model
01-03
VAE（Variational Autoencoder）和Diffusion Model是两种不同的生成模型。 VAE是一种基于深度学习的生成模型，它通过神经网络学习数据的分布，并可以生成新的样本。VAE的基本思想是通过编码器将输入样本映射到潜在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值