简介:
Flux.1 Kontext Dev Nunchaku 加速推理版,作者测试以后,简直太能打了(模型小、速度快,简直是低显存患者的福音)。我4080s显卡,出1280*1920的图,加上加速lora,8步出图,11秒。墙裂推荐,墙不裂我裂。
安装环境:
1)秋叶1.6
2)升级到最新内核
1、Flux.1 Kontext Dev Nunchaku 加速推理版模型
上文提到Kontext官方介绍了一个Nunchaku 加速推理版, 是 MIT-HAN-LAB 提供的一个加速推理版本,模型卡片地址是这个:nunchaku-flux.1-kontext-dev。 https://huggingface.co/mit-han-lab/nunchaku-flux.1-kontext-dev/ 我们来看看为什么。打开链接,在模型Files and versions页面,可以看到两个模型。
这个版本需要搭配对应的模型来使用,目前有提供了两个版本的模型(根据自己显卡下载一个就可以了):
画重点:这个模型只有6.77G/7.04G。经网友实测12G显卡也能轻松跑起来。出图质量还很高。简直就是低显存用户的福音。
模型链接如下,大家自己去下载就可以。对应模型同样需要安装下载到 ComfyUI/models/diffusion_models/
目录下。
- 针对 Blackwell架构的 50系显卡专用版本,如果您是5080、5090这样的显卡,您可以选这个。:svdq-fp4_r32-flux.1-kontext-dev.safetensors
https://huggingface.co/mit-han-lab/nunchaku-flux.1-kontext-dev/resolve/main/svdq-fp4_r32-flux.1-kontext-dev.safetensors
- 其它显卡,选这个: svdq-int4_r32-flux.1-kontext-dev.safetensors
https://huggingface.co/mit-han-lab/nunchaku-flux.1-kontext-dev/resolve/main/svdq-int4_r32-flux.1-kontext-dev.safetensors
2、Flux.1 Kontext Dev Nunchaku 加速推理版工作流
在ComfyUI-wiki的网站中,有关于Nunchaku加速推理版工作流的下载和插件安装(有个视频)。地址如下:
https://comfyui-wiki.com/zh/tutorial/advanced/image/flux/flux-1-kontexthttps://comfyui-wiki.com/zh/tutorial/advanced/image/flux/flux-1-kontext 划重点:Nunchaku 加速推理版必须用nunchaku插件。需要专门使用 Nunchaku 的节点,并安装好对应的 wheel (也就是后端节点),。
在对应的网页中,实际有一个演示如何安装插件的视频,大家可以认真看下视频。这里只是做些补充。
1.请先下载工作流
建议您在下面网页中点击下载
https://comfyui-wiki.com/zh/tutorial/advanced/image/flux/flux-1-kontext
具体位置如图:
2.Nunchaku节点实际分为前端和后端两部分。
前端插件地址: ComfyUI-nunchakuhttps://github.com/mit-han-lab/ComfyUI-nunchaku 打开后是这样
它还有个后端服务地址:
https://github.com/mit-han-lab/nunchakuhttps://github.com/mit-han-lab/nunchaku
打开后是这样
3.您一般安装的是前端插件节点,后端节点使用常规方式安装不上。
1)先载入工作流 ,第一次大概,大概率提示这样
2)按照常规,安装前端插件地址。或者在管理器安装缺失节点。
版本选择是要选择最新的,或者标注为nightly的版本。
前端插件地址: ComfyUI-nunchaku
3)安装完重新启动,大多数人就凉在这里,例如如下这个鬼东西。
4)这个时候需要人肉安装python 的diffuers组件。
5)启动命令提示符,进入虚拟环境,输入:
6) 输入以下,然后回车:
python -m pip install diffusers>=0.33.1
然后重新启动comfyUI。
7)启动完,再次载入工作流,提示如下:
这个实际不奇怪,是因为后端节点还没有安装。在启动过程中实际有提示
8)这个时候进入工作流界面,看到大约是这样
9)复制中间两个节点出来到新的页面(只要我画的最潦草这两个)
新页面如下,只有这俩节点,连起来。足够醒目吧。
10)点击执行第二个节点,就开始安装轮子wheel了,直到成功(中间要用梯子)。这就是使用 “Nunchaku Wheel Installer” 节点来安装 wheel, 安装成功后重启 ComfyUI 即可
11)重启应该就OK了
下面怎么玩,有空再说。