Diffusion:从Score-based (DM) 到 Distillation-based (CM)再到Consistency Trajectory Models（CTM）

原创 已于 2024-01-16 16:07:19 修改 · 971 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#stable diffusion #神经网络 #人工智能

于 2023-11-20 17:09:49 首次发布
本文介绍了扩散模型在图像和声音生成领域的兴起，主要关注Score-based和Distillation-based两种模型的发展。作者回顾了ConsistencyTrajectoryModels论文中的分类，并将在后续章节逐步探讨这两种模型的基础和细节。

目录

0. 写在前面        

1. Score-based models

2. Distillation-based models

3. Consistency Trajectory Models

0. 写在前面        

        diffusion model是生成模型的新贵，近年在图像生成领域火爆出圈，当然，其实在笔者所研究的声音合成领域，diffusion也能表现非凡。笔者初闻diffusion是在大二的随机过程课上，可惜当时也学得不是很懂/doge。借着学习近期论文Consistency Trajectory Models的机会，我们来好好梳理一下diffusion model的发展历程。

        在Consistency Trajectory Models论文中，将现有的diffusion model分为了两类：Score-based models和 Distillation-based models。我们下面就以这两类的发展历程来从零学习diffusion model的种种细节。

        在正式开始前，我们先来学习一些基础的数学知识！

        

1. Score-based models

2. Distillation-based models

3. Consistency Trajectory Models

持续更新中，别急......

4. Reference

1. https://consistencytrajectorymodel.github.io/CTM/

2. https://arxiv.org/pdf/2310.02279.pdf

wangcr_pangge
关注
为什么Diffusion Models扩散模型可以称为Score-based Models？
沉迷单车的追风少年
11-04 8957
前言： Diffusion Model扩散模型与深度学习(附Python示例)_沉迷单车的追风少年-优快云博客、击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望_沉迷单车的追风少年-优快云博客 前面这两篇文章中详细讨论了diffusion models和score-based models原理、方法和代码实现。新的生成式模型从出生开始就被寄予打败GANs、VAE等前辈的重望。虽然这两种模型在本质上来讲是一样的，但.
从Diffusion Model到score-based generative models再到Consistency Models的介绍
zik的博客
05-28 638
从Diffusion Model到score-based generative models再到Consistency Models的介绍
Score-based Diffusion Model经典论文
gaesarGatt的博客
01-06 1215
【论文精读】Score-Based Generative Modeling Through Stochastic Differential Equations 通过随机微分方程进行基于分数的生成建模_scorebased generative model-优快云博客。[论文阅读] High-Resolution Image Synthesis with Latent Diffusion Models - Chunleiii - 博客园。
5、score diffusion model
小白的博客
03-09 2230
score diffusion model
Score-based diffusion models for accelerated MRI
通街是密人有的博客
10-25 3409
​ 近年来，磁共振成像（MRI）的亚采样测量重建方法取得了很大进展。正则化重建方法利用手工制作的先验数据的稀疏性以及数据的一致性来得出解决方案（Donoho，2006），但先验的构造是十分重要的，并且没有一种方法能够正确地建模MRI扫描的实际复杂数据分布pdatap_{data}pdata​。数据驱动的深度学习方法可以直接（Wang等人，2016）或间接（Oh等人，2020；Yaman等人，2020）训练模型，但这些方法严重依赖于精心策划的k空间数据大型数据库的监督，这很难获得。
[Diffusion Model 笔记]Score based
YuQiao0303的博客
04-25 2893
本文是观看以下视频的笔记：论文：Generative Modeling by Estimating Gradients of the Data Distribution (NeurIPS2019)注意，这篇比DDPM更早likelihood-based methods对网络结构的设计有很大限制，但score-based只要输入输出维度一样就行了；gan就是太难train 了。在生成和判别之间要权衡。但咱们score-based就不用，就一个loss完事儿。
随机微分方程的分数扩散模型 (score-based diffusion model) 代码示例
wufeil7的博客
11-05 4434
score-based diffusion是diffusion模型大火之后，又一个里程碑式的工作，将扩散模型和分数生成模型进行了统一。原始的扩散模型也有缺点，它的采样速度慢，通常需要数千个评估步骤才能抽取一个样本。而 score-based 的扩散模型可以在较短的时间内完成采样。 这里提供了score-based diffusion 模型的简单的可运行的代码示例。
精选资源
从DDPM到score-based generative models再到Consistency Models的介绍
05-28
本文将深入探讨从DDPM（Diffusion Probabilistic Models）到Score-based Generative Models再到Consistency Models的发展历程，以及它们在人工智能领域的应用。首先，我们来看看DDPM。 DDPM（Diffusion ...
【论文精读】CSDI: Conditional Score-based Diffusion Models for Probabilistic Time Series Imputation
MaoZhihang的博客
07-02 4175
论文精读 扩散模型
Diffusion Models/Score-based Generative Models背后的深度学习原理(4)：随机最大似然和对比散度
沉迷单车的追风少年
02-27 1510
有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机、对比散度、随机最大似然等方面，总结一些经典的知识点，供读者参考。
Diffusion Models/Score-based Generative Models背后的深度学习原理(1)：配分函数
沉迷单车的追风少年
03-21 6939
前言：有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机等方面，摘取一些经典的知识点，供读者参考。 目录 无向模型 配分函数 链接 无向模型 有向图模型为我们提供了一种描述结构化概率模型的语言。 而另一种常...
【理论推导】随机微分方程(SDE)视角下的Diffusion Model与Score-based Model
热门推荐
fnoi2014xtx的博客
03-31 1万+
随机微分方程下的扩散模型与分数模型
什么是 Score-based Models？与 Diffusion 的关系、原理与举例
weixin_51176105的博客
03-02 1283
Score-based Models 是一种通过估计 score function∇log⁡px∇logpx来生成数据的模型23。它与 Diffusion Models 密切相关，Diffusion Models 是其具体实现之一，强调加噪和去噪的过程15。其原理基于分数匹配和 Langevin 动力学，具有无需对抗训练、生成质量高等优点12。实际应用包括图像生成、点云重建和语音合成等领域15。13425。
DiffusionModel-score-baesd diffusion model 基于分数模型的扩散模型 原理+代码
hflexxx的博客！喜欢的话点个关注！
07-25 2082
SCORE-BAESD DIFFUSION MODEL基于分数的扩散模型 原理+代码
【读论文】CSDI: 用于插补的条件分数扩散模型 论文理解
最新发布
一杯水果茶！足矣~
07-21 1053
本文提出了一种用于插补的条件分数扩散模型（Conditional Score-based Diffusion models for Imputation，简称 CSDI），这是一种新颖的时间序列插补方法，通过在观测数据的条件下训练分数扩散模型来实现插补。
Consistency Models
singxsy的博客
04-23 1729
图像编辑等假设存在一个函数f，对于同一条PF ODE轨迹上的任意点都有相同的输出fxttfxt′t′for alltt′∈ϵTfxt​tfxt′​t′for alltt′∈ϵTconsistency model的目标是从数据中估计一致性函数fff，来迫使self-consistency性质。
Stable Diffusion扩散模型 + Consistency一致性模型
ZhengrongYue的博客
04-15 7008
Stable Diffusion扩散模型
【论文】2405.Phased Consistency Model（港中文提出了AI绘画加速模型，一步采样生成图像，支持SD1.5,SDXL）
进一寸有一寸的欢喜
06-11 2262
**扩散模型 (Diffusion Models)**：扩散模型通过`拟合得分函数`来训练，即估计数据分布的梯度 **一致性模型 (Consistency Models)**: 通过`拟合ODE（常微分方程）`解来训练。这种模型强制所有轨迹上的点映射到同一个解。 **一致性轨迹模型 (Consistency Trajectory Models)**: 一致性轨迹模型通过拟合**任意ODE轨迹**来训练。即轨迹中的任意点对之间强制相同的预测。 **逐步一致性模型 (Phased Consistency Mo
探索未来图像生成的奥秘：Trajectory Consistency Distillation
gitblog_00072的博客
05-30 597
探索未来图像生成的奥秘：Trajectory Consistency Distillation 项目简介 Trajectory Consistency Distillation 是一个开创性的开源项目，它提供了一种新颖的蒸馏技术，旨在将预训练的扩散模型的知识高效地转移到只需几步采样的新模型中。该项目发布了一个名为 TCD-SDXL 的模型，该模型是从 SDXL Base 1.0 蒸馏而来，并且可以...
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值