2Img.ai的SD课程-5-18 用ControlNet替换背景

前言:

上一节我们介绍了ControlNet中的reference参考图。

本文主要介绍ControlNet中的替换背景。关于背景替换,抠图等我们有很多的课程覆盖了。ControlNet中的模式没有什么特别。当然也没有使用其余的插件。就是其本身选择对应的移除背景的模型和参数即可。

简单粗暴的方式。如果说其余的方式目的就是让你单独的生成一张背景剔除的图片作为结果,那么ControlNet的这个功能可以结合其余的流程和能力一起使用。会稍微方便点。

知识点:

  1. 替换背景

在 img2img 图生图模式中,通过 ControlNet 的 Depth_leres 模型中的 remove background 功能移除背景,再通过提示词更换想要的背景。

应用模型:Depth,预处理器 Depth_leres。

要点:如果想要比较完美的替换背景,可以在图生图的 Inpaint 模式中,对需要保留的图片内容添加蒙版,remove background 值可以设置在 70-80%。

Depth_leres 示例:(将原图背景替换为办公室背景)

这种方式和100%的背景去除后替换,有一些差异。

这个参数的设置不同, 出来的效果差异很大 。 

当 Remove Background 的比列不是100% 的时候, 值越小,背景被处理的比例就越少。 导致最终背景替换的内容,并不是非常合适。 

还是要多测试,实验下的额

RA/SD 衍生者AI训练营

### Flux 相关模型文件的中文含义 #### 1. **Flux canny safetensors 模型 中文解释** `Flux canny safetensors` 是一个基于 Flux 团队开发的 Canny 边缘检测模型,采用 `.safetensors` 格式保存。Canny 边缘检测是一种经典的图像处理技术,用于从输入图像中提取清晰的边缘信息[^2]。该模型通过深度学习改进了传统算法,能够生成更高质量的边缘图,适用于图像生成任务中的结构化控制。 - **Flux**:指代由 XLabs-AI 开发的一系列模型集合。 - **canny**:表示该模型专注于 Canny 边缘检测任务。 - **safetensors**:一种安全且高效的模型权重存储格式,相较于传统的 `.pt` 或 `.bin` 格式具有更高的安全性[^4]。 综合来看,`Flux canny safetensors` 表示这是一个基于 Flux 的 Canny 边缘检测模型,使用 `.safetensors` 格式保存的权重文件。 --- #### 2. **flux-canny-controlnet-v3 功能含义** `flux-canny-controlnet-v3` 是 Flux 团队开发的第三代 Canny 边缘检测控制网络模型ControlNet 是 Stable Diffusion 生态系统中的一个重要组件,用于通过结构化输入(如边缘图)指导图像生成过程[^3]。 - **flux**:指代 Flux 团队开发的模型集合。 - **canny**:表示该模型专注于 Canny 边缘检测任务。 - **controlnet**:作为 Stable Diffusion 的一部分,用于引入结构化控制,以指导生成图像的过程。 - **v3**:表示这是该模型的第三个版本,通常意味着在前两个版本的基础上进行了改进或优化。 `flux-canny-controlnet-v3` 提供了更真实的效果,并增加了对 ComfyUI 的支持[^2]。它能够生成高质量的边缘图,从而提升图像生成的质量和细节。 --- #### 3. **flux-depth-controlnet 功能含义** `flux-depth-controlnet` 是一个与深度图生成相关的控制网络模型。深度图用于增加图像的立体感,是图像生成任务中常用的结构化输入之一[^4]。 - **flux**:指代 Flux 团队开发的模型集合。 - **depth**:表示该模型专注于生成深度图。 - **controlnet**:作为 Stable Diffusion 的一部分,用于通过深度图指导图像生成过程。 `flux-depth-controlnet` 能够生成高质量的深度图,从而帮助生成更具立体感的图像。 --- #### 4. **flux-depth-controlnet-v3 功能含义** `flux-depth-controlnet-v3` 是 Flux 团队开发的第三代深度图生成控制网络模型。与之前的版本相比,v3 版本提供了更真实的效果,并增加了对 ComfyUI 的支持[^2]。 - **flux**:指代 Flux 团队开发的模型集合。 - **depth**:表示该模型专注于生成深度图。 - **controlnet**:作为 Stable Diffusion 的一部分,用于通过深度图指导图像生成过程。 - **v3**:表示这是该模型的第三个版本,通常意味着在前两个版本的基础上进行了改进或优化。 `flux-depth-controlnet-v3` 能够生成更高质量的深度图,从而显著提升图像生成的立体感和真实感。 --- #### 5. **flux-hed-controlnet-v3 功能含义** `flux-hed-controlnet-v3` 是 Flux 团队开发的第三代 HED 边缘检测控制网络模型。HED(Holistically-Nested Edge Detection)是一种全嵌套边缘检测算法,能够生成更精细的图像分割结果[^5]。 - **flux**:指代 Flux 团队开发的模型集合。 - **hed**:表示该模型专注于 HED 边缘检测任务。 - **controlnet**:作为 Stable Diffusion 的一部分,用于通过 HED 边缘检测结果指导图像生成过程。 - **v3**:表示这是该模型的第三个版本,通常意味着在前两个版本的基础上进行了改进或优化。 `flux-hed-controlnet-v3` 能够生成高质量的边缘图,从而帮助生成更精细的图像细节。 --- ### 示例代码:加载 `.safetensors` 文件 以下是一个使用 Python 和 `safetensors` 库加载模型权重的示例: ```python from safetensors import safe_open import torch # 打开 safetensors 文件 with safe_open("flux-canny-controlnet-v3.safetensors", framework="pt", device="cpu") as f: for key in f.keys(): tensor = f.get_tensor(key) # 获取张量 print(f"Key: {key}, Tensor Shape: {tensor.shape}") ``` --- ###
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值