DM，DDPM

原创 已于 2024-12-30 08:34:41 修改 · 184 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#计算机视觉

于 2023-06-26 15:57:50 首次发布
本文探讨了2015年的扩散模型（DM）概念，随后介绍了2020年的DDPM（DenoisingDiffusionProbabilisticModels），以及2021年对DDPM的改进，强调了在概率建模和图像生成领域的去噪和稳定性提升。通过这些进展，读者可以更好地理解扩散模型的核心原理及其发展。
MATLAB算法实战应用案例精讲-【数模应用】去噪扩散概率模型（DDPM）（附python代码实现）
qq_36130719的博客
12-08 303
人工智能生成内容（AI Generated Content，AIGC）近年来成为了非常前沿的一个研究方向，生成模型目前有四个分支，分别是生成对抗网络（Generative Adversarial Models，GAN），变分自编码器（Variance Auto-Encoder，VAE），标准化流模型（Normalization Flow， NF）以及这里要介绍的扩散模型（Diffusion Models，DM）。
Score-based Generative Model：一统DDPM和SMLD两大生成式模型
沉迷单车的追风少年
03-09 1万+
前言：2019年宋博士提出了SMLD模型，2020年Jonathan Ho提出了DDPM，这两大生成式随即成为顶会宠儿。2021年，宋博士提出了score-based generative model，一统这两大极为相似的生成式模型。本文在系列文章《为什么diffusion model扩散模型可以称为score-based models？》的基础上，探讨这三种生成式模型之间的区别、联系、优缺点、应用领域等。 目录 SMLD——基于langevin动力学的去噪分数匹配 DDPM——去噪扩散概率模型 .
一文详解扩散模型：DDPM
supeerzdj的博客
07-18 1736
这里我们以DDPM为例介绍了另一个派系的生成算法：扩散模型。扩散模型是一个基于马尔可夫链的数学模型，它通过预测每个时间片添加的噪声来进行模型的训练。作为近日来引发热烈讨论的ControlNet， Stable Diffusion等模型的底层算法，我们十分有必要对其有所了解。DDPM的实现并不复杂，这得益于大量数学界大佬通过大量的数学推导将整个扩散过程和反向去噪过程进行了精彩的化简，这才有了DDPM的大道至简的实现。
Stable Diffusion实现——实现DDPM(踩坑经历)
weixin_45347035的博客
05-09 900
说了一大堆，直接看实现。接下来就是加噪声，在上图的公式中，加噪声的就是gradient desent步骤描述中后边的部分，这个噪声图像将会通过epsilon_seta(以seta为参数的神经网络)去估计噪声，所以，他的loss function其实计算的是估计的噪声和采样的噪声之间的误差(接下来就是图中右边第二个，生成图像的过程，他就是训练过程中加噪声的反向过程，首先就是采样一个噪声，之后从step=T到1，将噪声丢到那个seta为参数的神经网络(就是刚刚训练过程提到的那个网络模型)里边，去预测噪声；
DDPM（Denoising Diffusion Probabilistic Models）扩散模型简述
热门推荐
zhL816的博客
11-22 2万+
扩散模型
手把手系列：Pytorch复现经典扩散模型LDM&DDPM&DDIM&PLMS及分布式训练应用
08-15 1万+
当前，生成式人工智能（AIGC）大模型已被越来越广泛应用在工业、动漫业、设计业等诸多场景。本文根据经典扩散模型DDPM、DDIM和PLMS进行了代码层面的详细解读和复现，并实现了多机多卡分布式训练。
【扩散模型系列1】扩散模型背景|DDPMs|LDM
weixin_41021342的博客
03-04 1872
扩散模型：和其他生成模型一样，实现从噪声（采样自简单的分布）生成目标数据样本。前向扩散过程和反向生成过程前向扩散过程是对一张图像逐渐添加高斯噪音直至变成随机噪音；反向生成过程是去噪音过程，我们将从一个随机噪音开始逐渐去噪音直至生成一张图像，这也是我们要求解或者训练的部分。​ 去噪过程一般采用UNet或者ViT，使用t步的结果和条件输入预测t-1步增加的噪声，然后使用DDPM可以得到t-1步的分布，经过多步迭代就可以从随机噪声还原到有实际意义的信号。
（pytorch进阶之路）DDPM回顾及Autoregressive diffuision model
qq_19841133的博客
09-20 1990
扩散模型和自回归模型结合做多变量的序列预测的任务，基于过去一段时间的数据去预测未来一段时间的数据，并且是由一种自回归的方式去预测通过DDPM的回顾，我们得到了目标函数将其运用到自回归模型，我们可以用RNN或者Transformer构建时间依赖性的网络xt-1和ct-1输入到RNN中，生成ht-1，使用条件的扩散模型得到xt，ht-1作为模型的条件，现在有一个条件概率模型能够基于ht-1预测当前时刻的所想要的xt，前向过程还是从x0到xN，只不过在逆扩散过程构建噪声网络的时候加入一个ht-1。
从DDPM到DiffIR：扩散模型如何破解图像修复难题？
春秋战车
10-09 942
DiffIR针对图像修复这特定任务，通过引入紧凑先验特征，实现高效地基于扩散模型的图像修复
51-33 LDM 潜在扩散模型论文精读 + DDPM 扩散模型代码实现
AIgraphX
03-22 3695
传统扩散模型 DM 是作用在原始像素级上，Latent Diffusion Models 潜在扩散模型 LDM 则是先对图片进行压缩，将图片表示为潜在空间（Latent Space，而不是像素空间），然后输入扩散模型。LDM 模型在主干网络 UNet 中引入 Cross-Attention，可以输入多模态，实现灵活的图片生成控制。
halcon图像腐蚀—erosion1
qq_34059233的博客
12-05 642
针对阈值分割后的图像，经常存在很多的小目标，这些小目标是噪声，这时候就可以使用图像腐蚀的方法去除小目标
二值化——将具有丰富灰度或彩色信息的图像，转换为仅由两种像素值（通常是0和1，或0和255） 组成的图像，即黑白图像
xixixi7777的博客
12-05 453
二值化是。
halcon图像去噪—均值滤波
qq_34059233的博客
12-02 485
针对图像中的噪声，我们可以使用Halcon的均值滤波算子来去除噪声
计算机中的图像是什么？
木梓油
12-01 664
图像处理和“理解”是计算机视觉（Computer Vision）的核心领域。理解图像如何被表示，是第一步也是最关键的一步。所有图像都是“数据”，以某种数据结构被存储和处理的一组组数字。根据表示方式的不同，图像可以分为位图和矢量图两大类。可以把位图想象成一幅巨大的“十字绣”或“乐高拼图”，每一格都有自己的颜色。图像的分辨率描述的就是像素的排列方式，即图像的宽度和高度分别有多少个像素点。 分辨率 = 图像宽度（像素） × 图像高度（像素） 比如 1920 × 1080， 表示图像宽 1920 像素、高 1080
AI学习笔记整理（29）—— 计算机视觉之人体姿态估计相关算法
最新发布
斯丝2011的博客
12-05 741
人体姿态估计(Human Pose Estimation, HPE) 是指通过计算机视觉技术来推测或估计人体在三维空间中的姿态信息，包括关节位置、角度和身体姿势等。本质上，它是一种捕获每个关节（手臂、头部、躯干等）的一组坐标的方法，该坐标被称为可以描述人的姿势的关键点(keypoint)。目前主流的人体姿态估计算法可以划分为传统方法和基于深度学习的方法。
AI训练（目标检测：yolov8）
weixin_48036026的博客
12-04 312
本文介绍 YOLOv8 目标检测项目实操全流程：含虚拟环境创建、PyCharm 配置及依赖安装，明确项目目录结构，给出模型预测、训练、验证、测试的终端命令。重点解析训练结果，包括最优与末次训练权重文件，results.png 中各类损失、精度、召回率、mAP 等指标含义，以及数据明细和标签分布，同时提及过拟合、样本不均衡等问题的应对思路，为项目实操与结果分析提供指导。
目标检测YOLO实战应用案例100讲-基于超分辨率重建的航拍图像目标检测
qq_36130719的博客
12-03 81
检测技术，接着介绍了不同类型的超分辨率重建技术，最后介绍了现有的无人机航拍数据集。是，在低分辨率图像已知的情况下，最大化高分辨率图像的后验概率。但这类方法对放大因子比较敏感，在大的放大因子上，仍然会产生细节过于平滑的图像。测和多目标跟踪，两个部分的注释是不同的。果返回给生成器，迫使生成的图像与真实图像更接近，从而使生成图像包含更多的细节信息。务中的一种基础问题，它从一幅图像中自动定位一个或多个物体的坐标，在物体周围用一个。个非常重要的研究方向。建以提高图像的分辨率，从而扩大目标的尺寸并为目标增加细节信息。
基于Matlab低光照图像自适应分段线性增强方法及系统实现
Dev7z的博客
12-01 955
低光照环境下获取的图像往往存在亮度不足、对比度低、细节丢失等问题，严重影响了后续的视觉分析与计算机视觉任务。针对这一问题，本研究设计并实现了一种基于 Matlab 的低光照图像自适应分段线性增强方法及系统。本研究首先从图像的直方图分布、亮度均值与方差等统计特性出发，构建了多种自适应分段线性拉伸模型，包括基于 μ±2σ 的三段线性增强、直方图剪切与动态阈值调节的改进型线性增强方法。
深度学习论文: Real-Time Object Detection Meets DINOv3
mingo_敏
12-02 79
本文提出DEIMv2，一种融合DINOv3特征的实时目标检测框架。通过引入空间调谐适配器(STA)将DINOv3单尺度输出转换为多尺度特征，并针对不同规模模型采用差异化设计：X/L/M/S版本使用DINOv3骨干网络，Nano/Atto等超轻量版本采用剪枝优化的HGNetv2。实验表明，DEIMv2-X仅5030万参数即达57.8 AP，超越同规模模型；DEIMv2-S以971万参数首次突破千万级以下50 AP；DEIMv2-Pico仅150万参数即达38.5 AP，性能媲美参数量更大的YOLOv10-Na
ddpm resblock
01-08
### DDPM ResBlock 实现与应用 在扩散模型（Diffusion Model, DM）中，ResBlock 是一种重要的组件，用于增强网络的学习能力并促进梯度传播。ResBlock 的设计借鉴了残差网络的思想，在保持输入特征的同时引入新的变换。 #### ResBlock 结构描述 ResBlock 主要由两个卷积层组成，每层后面跟随批量归一化（Batch Normalization）和激活函数（ReLU）。为了适应不同分辨率的输入，ResBlock 还可以包含下采样或上采样的操作[^2]。 ```python import torch.nn as nn class ResBlock(nn.Module): def __init__(self, channels, out_channels=None): super().__init__() if not out_channels: out_channels = channels self.main = nn.Sequential( nn.GroupNorm(32, channels), nn.SiLU(), nn.Conv2d(channels, out_channels, kernel_size=3, padding=1), nn.GroupNorm(32, out_channels), nn.SiLU(), nn.Dropout(p=0.1), # Dropout can be added to improve generalization. nn.Conv2d(out_channels, out_channels, kernel_size=3, padding=1) ) self.skip_connection = nn.Identity() \ if channels == out_channels else nn.Conv2d(channels, out_channels, kernel_size=1) def forward(self, x): return self.main(x) + self.skip_connection(x) ``` 此代码片段展示了如何创建一个基本的 `ResBlock` 类，它接受通道数作为参数，并可以选择性地指定输出通道的数量。如果未提供输出通道，则默认等于输入通道数量。通过这种方式，可以在不改变维度的情况下执行恒等映射，或者调整到不同的空间尺寸。 对于时间条件下的扩展版本，通常会加入额外的时间嵌入路径来影响每一层的行为： ```python def __init__(... , time_emb_dim): # Add this parameter when initializing the class ... self.time_mlp = nn.Linear(time_emb_dim, out_channels * 2) ... def forward(self, x, t): scale_shift = None h = self.norm1(x) h = silu(h) if exists(t): time_emb = self.time_mlp(silu(t)) time_emb = rearrange(time_emb, 'b c -> b c 1 1') scale_shift = time_emb.chunk(2, dim=1) h = convnext_block(h, gamma_and_beta=scale_shift) ... ``` 这种变体允许模型根据给定的时间步长动态调节内部状态，从而更好地捕捉数据随时间变化的趋势。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值