Flux持续火爆，这些Lora、ControlNet、工作流你值得拥有

最新推荐文章于 2025-03-31 10:38:12 发布

Android学习小分队

最新推荐文章于 2025-03-31 10:38:12 发布

阅读量1.1k

点赞数 18

文章标签：人工智能 AIGC stable diffusion AI作画 AI绘画 Lora ControlNet

本文链接：https://blog.youkuaiyun.com/m0_56144365/article/details/146802033

版权

Flux自发布以来，受到了广大AI绘画爱好者的一致好评，远远的将SD3甩在了脑后，其出图质量媲美Midjourney。而且Flux迭代迅速，接连发布了Flux.1的开发模型和个人模型，其Lora模型、ControlNet模型也迅速推出，社区创作热情高涨。
在这里插入图片描述

为了让大家对Flux有一个全面的认识，本文将介绍下Flux基础模型、LoRA模型，以及ControlNet模型的使用方法。

因为Flux模型目前还不能在Stable Diffusion WebUI中使用，所以本文将以另一个常用的AI绘画工具 ComfyUI 为例进行讲解。同时为了方便大家测试，我在云环境也创建了一个ComfyUI的镜像，内置了Flux的模型和工作流，一键开启，不用费劲吧啦的部署。

Flux介绍

Flux是目前最大的AI绘画开源模型，有120亿个参数，原始文件有23GB那么大。听起来很吓人吧？但别担心，通过ComfyUI的支持，我们可以把模型压缩到12GB，并且它会自动检测显存来调整加载方式，这样我们在普通的消费级电脑上也能跑得动。

Flux 在视觉效果、提示的准确性、大小和比例的灵活性、排版和输出多样性方面，比Midjourney v6.0、DALL·E 3 (HD) 和 SD3-Ultra这些流行模型都要好。它可以在256到2048的宽分辨率范围内生成高质量、少冗余的图像，四肢表现也非常稳定。虽然对硬件有点要求，但效果真的很值。

Flux目前发布的 Flux.1 有三个版本，pro、dev和schnell。pro效果最好，但是闭源不开放；dev效果和pro差不多，虽然有商业使用的限制，但是可以免费测试（你懂的）；schnell是个蒸馏模型，可以4步快速出图，效果虽然差点，但是也可以媲美Midjourney v6.0 和 DALL·E 3 (HD)。

ComfyUI在浏览器中启动后，我们可以先通过设置切换到中文界面：

在这里插入图片描述

然后点击“加载”旁边的小箭头，选择一个“Flux”工作流，点击“添加提示词队列”，就可以开始愉快的生成了。

在这里插入图片描述

如果你懂一些技术，也可以通过手动启动镜像的方式来体验ComfyUI，镜像地址在这里：

https://bbs.haoee.com/postDetail/618

Flux基础模型的使用

这里介绍两个基础模型的工作流：dev模型和schnell模型。

先看dev模型的工作流：Flux的工作流和其它SD模型的工作流没有太大的区别，都是：加载基础模型、编码提示词、定义潜在空间、采样器采样、解码器解码。

不太一样的就是这里增加了一个：Flux引导，Flux引导的目的是增强图片质量，生成训练时CFG为这个值的图像质量，但是不会降低生成速度；此时我们可以将CFG的值设置为1，用来提高生成速度，注意CFG的值不用太高，1-2.5即可；另外Flux.1还不能使用反向提示词。

在这里插入图片描述

再看schnell模型的使用：schnell 是个蒸馏模型，可以认为学习到了Flux原始模型的精华部分，这里不需要使用Flux引导，且只需要4步，图片的质量依旧很优秀。

在这里插入图片描述

另外这里用到的两个模型中都包含了提示词编码器CLIP和潜在空间解码器VAE，他们不用单独设置。

Flux LoRA模型的使用

再看这个LoRA模型的工作流。

这里使用了双CLIP编码器，并单独加载了CLIP模型，SD3也使用了双CLIP编码，CLIP1可以看做是对标签类提示词的编码，CLIP2是对自然语言提示词的编码，这样编码对图片的质量比较好。另外我们还使用了“CLIP文本编码Flux”这个编码器，它自带Flux引导，就不用单独添加Flux引导节点了。

因为单独加载了CLIP模型，这里使用了UNET加载器来加载Flux的基础模型，加载LoRA也是使用的Flux专属节点，后边的采样器也是专为Flux量身定制的Xlabs Sampler。

在这里插入图片描述