【2023.07.15】生成模型（三）Score-based Generative Models

最新推荐文章于 2025-11-04 21:36:51 发布
原创 最新推荐文章于 2025-11-04 21:36:51 发布 · 838 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #人工智能

1. main contribution

（来自Score-based Generative Model的原文）

1）提供了一个统一SMLD(denoising score matching with langevin dynamics)和DDPM的框架。

2）提供了两个针对求解reverse-time的SDE求解器：一个求解器将数值SDE求解器与score based MCMC方法相结合，另一个求解器主要基于probability flow ode。

 Understanding Diffusion Models A Unified Perspective 部分的推导并不太合理，以下内容只包含了作者对Score-based Generative Models的一些看法。

2. Score-based Generative Models

1）采样过程使用了Langevin dynamicsx_{i+1}\leftarrow x_i+c\nabla logp(x_i)+\sqrt{2c}\epsilon

最低0.47元/天 解锁文章
FridaNN
关注
Score-based Generative Model：一统DDPM和SMLD两大生成式模型
沉迷单车的追风少年
03-09 1万+
前言：2019年宋博士提出了SMLD模型，2020年Jonathan Ho提出了DDPM，这两大生成式随即成为顶会宠儿。2021年，宋博士提出了score-based generative model，一统这两大极为相似的生成式模型。本文在系列文章《为什么diffusion model扩散模型可以称为score-based models？》的基础上，探讨这三种生成式模型之间的区别、联系、优缺点、应用领域等。 目录 SMLD——基于langevin动力学的去噪分数匹配 DDPM——去噪扩散概率模型 .
score-based generative models【公式推导+代码实战】
zik的博客
03-31 2605
这篇文章包含score-based generative models的公式推导以及对应的代码实战，有助于全面的理解扩散模型和基于分数的生成模型。
【生成模型（一）】Score-Based Generative Models
最新发布
三木今天学习了嘛の博客
11-04 965
pxpx步骤问题解决方案1数据来自分布pxpx目标是建模pxpx2用pθxefθZpθ​xefθ​Z表示通用，但ZZZ难算3用 MLE 训练 → 需要ZZZ不可行！4转而学 score∇log⁡px∇logpx不依赖ZZZ！5用 Score Matching 训练sθsθ​无需真实 score！6用 Langevin Dynamics 采样仅需 score！7。
score-based generative models (Yang Song) 笔记
m0_48064374的博客
05-24 3295
20220524 Yang Song’s blog 文章目录20220524方法 方法 The score function, score-based models, and score matching Fisher divergence score：从当前 xxx 指向 p(x)p(x)p(x) 更大的方向 联系 diffusion model：对当前 xxx 的噪声估计 如何直接估计 gt score ？ 同 flow 讲，对 SθS_{\theta}Sθ​ 没有约束 Langevi
[生成模型新方向]: score-based generative models
热门推荐
g11d111的博客
06-19 2万+
0.前言 最近(2021.6)发现了生成模型的一种新的trending范式: score-based generative model, 用一句话来介绍这种结构，就是: 通过在噪声扰动后的大规模数据集(noise-perturbed data distributions)上学习一种score functions (gradients of log probability density functions)(得分函数, 一种对梯度的对数似然估计)，用朗之万进行采样得到符合训练集的样本. 这种新的生成模型，
【深度学习·命运-40】Score-based Generative Models
m0_69378371的博客
12-09 1231
是一种基于得分匹配和扩散过程的生成模型，通过建模数据分布的梯度信息来生成高质量的图像。这些模型相较于传统的 GAN 和 VAE，不仅在生成图像的稳定性和多样性方面具有优势，还能够灵活地控制生成过程。由于其强大的生成能力和灵活的训练方式，score-based 模型已经在多个领域取得了重要应用，特别是在高质量图像生成、图像修复和数据增强等任务中表现出色。
【生成模型新方向】score-based generative models
zik的博客
04-06 1846
本文主要翻译自此领域先驱Song Yang博士(斯坦福大学博士)的博客。并且对于重要知识点给出了表格形式的整理汇总，方便记忆和理解！一言以蔽之：我们可以在大量噪声扰动的数据分布上（on a large number of noise-perturbed data distributions）学习得分函数score functions（对数概率密度函数的梯度gradients of log probability density functions），然后使用 Langevin 型采样生成样本。
从DDPM到score-based generative models再到Consistency Models的介绍
05-28
本文将深入探讨从DDPM（Diffusion Probabilistic Models）到Score-based Generative Models再到Consistency Models的发展历程，以及它们在人工智能领域的应用。首先，我们来看看DDPM。 DDPM（Diffusion ...
通过随机微分方程进行基于分数的生成建模(一)——Score-Based Generative Modeling through Stochastic Differential Equations
weixin_51454889的博客
04-03 2467
本次周报主要介绍了基于随机微分方程（Stochastic Differential Equations, SDE）的图像生成建模的基本思想，特别是从SDE的视角看待图像生成问题的核心内容。通过SDE，可以将复杂的图像分布逐步映射到简单的先验分布（如标准高斯分布），并通过逆向SDE重新生成高质量的图像分布。
score-based generative models【训练部分-代码实战】
zik的博客
03-31 1390
2、使用去噪分数加权和匹配目标进行训练Training with Weighted Sum of Denoising Score Matching Objectives 2.1设置SDE 2.2定义损失函数Define the loss function std我们知道是t时刻的扰动后条件高斯分布的标准差即12log⁡σ(σ2t−1)\sqrt{ \frac{1}{2\log \sigma}(\sigma^{2t} - 1)}2logσ1​(σ2t−1)​而λ(t)=12log⁡σ(σ2t−1)\lam
搞懂Score-based Generative Model
zjuPeco的博客
03-24 749
本文是在参考了网上的多个高质量教程之后，对Score-based Generative Model的相关内容进行的一次梳理。大部分内容来自B站UP主VictorYuki的视频，可以认为是学习视频内容时的笔记，参考的视频为【扩散模型 Diffusion Model 3-x】。文中不会涉及过于复杂的公式推导，尽量以结论性的内容为主，让读者对其整体框架有一个清晰了解。在阅读前，建议先阅读我的另一篇博客。
Diffusion Model (扩散生成模型)的基本原理详解(二）Score-Based Generative Modeling(SGM)
lvoutongyi的博客
02-23 8373
本篇是《Diffusion Model (扩散生成模型)的基本原理详解(一）Denoising Diffusion Probabilistic Models(DDPM)》的续写，继续介绍有关diffusion的另一个相关模型，同理，参考文献和详细内容与上一篇相同，读者可自行查阅，本篇着重介绍Score-Based Generative Modeling(SGM)。
【笔记】Score-based Generative Models（二）：基于 SDE 的模型
LittleNyima的博客
07-11 1379
介绍基于随机微分方程的分数模型
【笔记】Score-based Generative Models（一）：一文通览基础理论
LittleNyima的博客
07-05 4507
一文通览 score-based models 基础理论
Score-based Generative Models
baidu_39211350的博客
09-25 287
参考资料1
Diffusion Models/Score-based Generative Models背后的深度学习原理(4)：随机最大似然和对比散度
沉迷单车的追风少年
02-27 1515
有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机、对比散度、随机最大似然等方面，总结一些经典的知识点，供读者参考。
SGM（Score-Based Generative Model）扩散模型简介
Turbo.AI,专注AI工程化
08-24 2351
扩散模型（Diffusion Models）近年来在生成建模中获得了广泛关注。特别是Score-Based Generative Model（SGM），在图像生成等任务上表现出色。本文将介绍SGM的原理，并结合代码示例，帮助您更好地理解这一强大的生成模型。扩散模型是一类生成模型，其核心思想是从一个简单的分布（如高斯噪声）逐渐演变成复杂的目标分布。这个过程可以看作是从无序到有序的反向扩散（Reverse Diffusion）。
diffusion model(十七)Score视角下的生成模型（Score-Based Generative Models）
weixin_40779727的博客
05-30 1837
info paper Generative Modeling by Estimating Gradients of the Data Distribution songyang 大佬博客 https://yang-song.net/blog/2021/score/ song yang 大佬视频讲解 https://www.youtube.com/watch?v=wMmqCMwuM2Q Github https://github.com/ermongroup/ncsn 个人博
score-based generative models【采样部分-代码实战】
zik的博客
03-31 847
本篇博客是[从DDPM到SDG：score-based generative models【公式推导+代码实战】](https://blog.csdn.net/qq_45934285/article/details/129837476?spm=1001.2014.3001.5501)的采样代码的模块。代码中包含丰富的注释，结合公式解析进行更全面的理解。
score-based generative models代码
12-19
score-based generative models是一种基于评分的生成模型，它们利用梯度提升算法来生成样本。该模型的代码实现包括了对生成模型进行训练和优化的过程。在代码中，首先需要定义生成模型的架构，包括潜在变量的分布和...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值