Diffusion model in Pytorch

最新推荐文章于 2025-03-28 18:44:59 发布
最新推荐文章于 2025-03-28 18:44:59 发布
阅读量802 收藏 6
点赞数 10
文章标签： pytorch 人工智能 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/CRUSH8496052/article/details/136165331
版权
本文详细解析了Diffusion模型中的关键组件，如U-Net用于生成和去噪，GaussianDiffusion定义扩散过程，Trainer负责训练和生成，展示了它们在PyTorch中的协作工作原理。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

前言

Diffusion model 是机器学习中的一个比较新的生成式模型，且有望和GAN一较高下，在这里记录一些我的学习和理解。

一、代码参考位置

Github: denoising-diffusion-pytorch
网址链接：https://github.com/lucidrains/denoising-diffusion-pytorch

二、代码关联关系解析

1. 调用的packages之间的关系

三个类扮演不同的角色实现去噪扩散模型的训练和图像生成过程。

  1. Unet的作用
    U-Net 架构的神经网络模型，用于图像分割任务，在去噪扩散模型中，U-Net被用作生成模型(条件模型)，每一个扩散步骤中预测噪声，并逐渐将带有噪声的图像转换为清晰的图像。

  2. GaussianDiffusion的作用
    实现去噪的核心算法，负责定义扩散过程，和反扩散过程。
    训练阶段：将图像逐渐添加噪声，训练神经网络逆转噪声过程
    生成阶段：扩散模型从纯噪声开始，逐步去噪生成最终的图像

  3. Trainer的作用
    Trainer 类负责设置和执行模型的训练过程。它管理数据加载、批量处理、优化器设置、模型保存、性能监控等训练任务。

可以说Gaussian Diffusion是一个更广泛的生成模型框架，而U-Net可以作为这个框架中的一个组件。

2. 详细代码


                

                
                
        

    

  


        

            

                    
                      最低0.47元/天 解锁文章
                        
                    
            

        


    

      

        

            

              
                
                  斑布斑布
                
              
            

            

                关注
              
            

        

        

          
      

      










                



	

		

			

				
					
【Diffusion实战】训练一个类别引导diffusion模型（Pytorch代码详解）

				
			

			

				

					风巽·剑染春水的博客
				

				

					05-07
					
					2587
					
				

			

		

		

			
				
又学习了一种方法，类别引导diffusion模型，使用mnist数据集，记录一下它的用法吧。

			
		

	



                

            
              



	

		

			

				
					
PyTorch笔记 - Diffusion Model 源码开发 (2)

				
			

			

				

					AGI
				

				

					12-05
					
					923
					
				

			

		

		

			
				
流程如下：
 1. 选择一个数据集
 2. 确定超参数的值
 3. 确定扩散过程任意时刻的采样值
 4. 演示原始数据分布加噪100步后的效果
 5. 编写拟合逆扩散过程高斯分布的模型
 6. 编写训练的误差函数
 7. 编写逆扩散采样函数(inference过程)
 8. 开始训练模型，并打印loss及中间的重构效果
 9. 动画演示扩散过程和逆扩散过程

			
		

	



              


  
              

                


	

		

			

				
					
PyTorch 深度学习实战（27）：扩散模型（Diffusion Models）与图像生成

					
最新发布

				
			

			

				

					m0_60414444的博客
				

				

					03-28
					
					931
					
				

			

		

		

			
				
线性或余弦噪声计划。

			
		

	





	

		

			

				
					
diffusion模型原理介绍以及pytorch代码实现

				
			

			

				

					weixin_44599230的博客
				

				

					03-21
					
					3208
					
				

			

		

		

			
				
扩散模型 diffusion简单介绍

			
		

	



		

			
		



	

		

			

				
					
探索PyTorch中的扩散模型：Diffusion-Models-pytorch

				
			

			

				

					gitblog_00038的博客
				

				

					04-11
					
					728
					
				

			

		

		

			
				
探索PyTorch中的扩散模型：Diffusion-Models-pytorch
 Diffusion-Models-pytorchPytorch implementation of Diffusion Models (https://arxiv.org/pdf/2006.11239.pdf)项目地址:https://gitcode.com/gh_mirrors/di/Diffusion-Mode...

			
		

	





	

		

			

				
					
[Python] Diffusion Model 扩散模型

				
			

			

				

					weixin_66896881的博客
				

				

					07-12
					
					1044
					
				

			

		

		

			
				
Diffusion Model

			
		

	





	

		

			

				
					
[diffusers]仅读取unet | 模型格式转化diffusion_pytorch_model.safetensors转为diffusion_pytorch_model.bin

				
			

			

				

					计算机视觉
				

				

					12-13
					
					5636
					
				

			

		

		

			
				
格式是（diffusers格式）我从网上直接下载的模型路径。

			
		

	





	

		

			

				
					
Diffusion-Models-pytorch 项目教程

				
			

			

				

					gitblog_00234的博客
				

				

					08-08
					
					821
					
				

			

		

		

			
				
Diffusion-Models-pytorch 项目教程
 Diffusion-Models-pytorchPytorch implementation of Diffusion Models (https://arxiv.org/pdf/2006.11239.pdf)项目地址:https://gitcode.com/gh_mirrors/di/Diffusion-Models-pytorch ...

			
		

	





	

		

			

				
					
Integrated-Design-Diffusion-Model-pytorch资源

				
			

			

				

					03-11
				

			

		

		

			
				
在深入探讨提供的文件内容之前，首先需要明确Integrated-Design-Diffusion-Model-pytorch资源是一套基于PyTorch框架实现的集成设计扩散模型(IDDM)的资源包。此资源包很可能用于机器学习和深度学习研究者在图像生成、...

			
		

	





	

		

			

				
					
开源项目Diffusion-Models-pytorch安装与使用指南

				
			

			

				

					gitblog_00235的博客
				

				

					08-08
					
					1024
					
				

			

		

		

			
				
开源项目Diffusion-Models-pytorch安装与使用指南
项目地址:https://gitcode.com/gh_mirrors/di/Diffusion-Models-pytorch
目录结构及介绍
在克隆或下载了Diffusion-Models-pytorch项目之后，你会看到以下主要的目录和文件:


models/: 包含所有模型定义以及相关组件如卷积块、时间戳嵌入等。

m...

			
		

	





	

		

			

				
					
​扩散模型(Diffusion Model)详解：直观理解、数学原理、PyTorch 实现​

				
			

			

				

					周红伟讲AI
				

				

					03-12
					
					8850
					
				

			

		

		

			
				
图像生成任务就是把随机生成的向量（噪声）映射成和训练图像类似的图像。为此，扩散模型把这个过程看成是对纯噪声图像的去噪过程。通过学习把图像逐步变成纯噪声的逆操作，扩散模型可以把任何一个纯噪声图像变成有意义的图像，也就是完成图像生成。对于不同程度的读者，应该对本文有不同的认识。图像生成任务的通常做法图像生成任务需要监督VAE通过把图像编码再解码来训练一个解码器扩散模型是一类特殊的VAE，它的编码固定为加噪声，解码固定为去噪声扩散模型的优化目标：让反向过程尽可能成为正向过程的逆操作。

			
		

	





	

		

			

				
					
【Diffusion实战】训练一个diffusion模型生成S曲线（Pytorch代码详解）

				
			

			

				

					风巽·剑染春水的博客
				

				

					04-15
					
					3245
					
				

			

		

		

			
				
看了不少资料，终于大概理解diffusion每一步的流程与推导了，搞一个案例实践一下，把代码跟公式对一对加深理解。

			
		

	





	

		

			

				
					
一文弄懂 Diffusion Model（DDPM）+ 代码实现

				
			

			

				

					Drug discovery
				

				

					11-27
					
					1万+
					
				

			

		

		

			
				
一文弄懂 Diffusion Model

			
		

	





	

		

			

				
					
Diffusion Model原理详解及源码解析

				
			

			

				

					limingmin2020的博客
				

				

					03-01
					
					723
					
				

			

		

		

			
				
Hello，大家好，我是小苏🧒🏽🧒🏽🧒🏽今天来为大家介绍Diffusion Model（扩散模型 ），在具体介绍之前呢，先来谈谈Diffusion Model主要是用来干什么的。🥂🥂🥂其实啊，它对标的是生成对抗网络（GAN），只要GAN能干的事它基本都能干。🍄🍄🍄在之前我已经做过很多期有关GAN网络的教学，还不清楚的可以点击☞☞☞进入专栏查看详情。在我一番体验Diffusion Model后，它给我的感觉是非常惊艳的。我之前用GAN网络来实现一些图片生成任务其实效果并不是很理想，而且往往训练很不稳定。

			
		

	





	

		

			

				
					
【大模型系列 02】Diffusion For PyTorch 昇腾迁移

				
			

			

				

					Ascend的博客
				

				

					07-28
					
					1115
					
				

			

		

		

			
				
扩散模型 (Diffusion Models) 是一种生成模型，可生成各种各样的高分辨率图像。Diffusers 是Huggingface发布的模型套件，包含基于扩散模型的多种下游任务训练与推理，可用于生成图像、音频，甚至分子的 3D 结构。

			
		

	





	

		

			

				
					
Diffusion-Models-pytorch 项目安装和配置指南

				
			

			

				

					gitblog_09226的博客
				

				

					09-13
					
					575
					
				

			

		

		

			
				
Diffusion-Models-pytorch 项目安装和配置指南

    
        
            Diffusion-Models-pytorch
            Pytorch implementation of Diffusion Models (https://arxiv.org/pdf/2006.11239.pdf)
            
      ...

			
		

	





	

		

			

				
					
图像生成系列：Diffusion PyTorch

				
			

			

				

					AvGroovy的博客
				

				

					09-17
					
					293
					
				

			

		

		

			
				
总结而言，Diffusion PyTorch 是一种用于图像生成的深度学习模型，它基于扩散过程的概念，能够生成高质量的逼真图像。通过逐步预测像素值，模拟图像的演化过程，Diffusion PyTorch 在图像生成领域具有广泛的应用潜力。Diffusion PyTorch 是一种用于图像生成的深度学习模型，它基于扩散过程的概念，能够生成高质量的逼真图像。要使用 Diffusion PyTorch 进行图像生成，你需要定义一个合适的 Generator 模型，并设置相应的训练参数。

			
		

	





	

		

			

				
					
扩散模型（Diffusion model）代码详细解读

					
热门推荐

				
			

			

				

					qq_41234663的博客
				

				

					01-28
					
					1万+
					
				

			

		

		

			
				
扩散模型的代码解读

			
		

	





	

		

			

				
					
diffusion model pytorch代码

				
			

			

				

					02-23
				

			

		

		

			
				
### 扩散模型的PyTorch实现

扩散模型是一种强大的生成模型，能够通过逐步去噪过程学习数据分布。以下是基于PyTorch的一个简单扩散模型实现示例[^1]：

```python
import torch
from torch import nn, optim
import numpy as np

class GaussianDiffusion(nn.Module):
    def __init__(self, timesteps=1000, beta_start=0.0001, beta_end=0.02):
        super().__init__()
        self.timesteps = timesteps
        
        betas = torch.linspace(beta_start, beta_end, timesteps)
        alphas = 1 - betas
        alpha_bar = torch.cumprod(alphas, dim=0)

        # Register buffers to make them part of the module but not parameters.
        self.register_buffer('betas', betas)
        self.register_buffer('alphas_cumprod', alpha_bar)

    def q_sample(self, x_0, t, noise=None):
        if noise is None:
            noise = torch.randn_like(x_0)

        sqrt_alpha_bar = torch.sqrt(self.alphas_cumprod[t])
        sqrt_one_minus_alpha_bar = torch.sqrt(1 - self.alphas_cumprod[t])

        return sqrt_alpha_bar * x_0 + sqrt_one_minus_alpha_bar * noise
    
def p_losses(denoise_model, x_start, t, loss_type="l1"):
    noise = torch.randn_like(x_start)

    x_noisy = diffusion.q_sample(x_start=x_start, t=t, noise=noise)
    predicted_noise = denoise_model(x_noisy, t)

    if loss_type == 'l1':
        loss = F.l1_loss(noise, predicted_noise)
    elif loss_type == 'l2':
        loss = F.mse_loss(noise, predicted_noise)
    else:
        raise NotImplementedError()

    return loss
```

此代码片段展示了如何定义一个高斯噪声调度器`GaussianDiffusion`类以及计算损失函数的方法`p_losses`。该方法用于训练过程中评估预测噪声与实际添加到图像中的噪声之间的差异。

为了使上述代码正常工作，还需要构建具体的去噪网络结构并完成整个训练循环的设计。通常情况下，会采用UNet架构作为核心组件来执行逆向去噪操作[^3]。

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		
评论 1

	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值