[ComfyUI]Flux:官方欲放弃NF4投向GGUF?更低质量损失,最低6G显存福音

Flux ControlNet模型简介

在之前的文章中已经介绍过Flux模型,这是一款当前最大且优秀的文生图模型。同时当前Flux模型的社区已逐步构建起来,能够看到社区对该模型的认可和积极推进。但是因为Flux模型的12B模型参数,约23.8的权重weight大小,所需要的推理资源也很大,这是许多读者想尝试Flux模型的最大门槛。当然社区也出现了许多解决此问题的方法,如:BizyAir ComfyUI插件(云端计算:[Flux:还在为Flux耗显存发愁?
在这里插入图片描述

本文将要介绍的主题方案为GGUF方法。这也是当前最先进的LLM大模型的优化方案。GGUF全称为:GPT-Generated Unified Format,这是一种高效存储和交换大模型预训练结果的二进制格式,由llama.cpp创始人Georgi Gerganov定义。GGUF已成为大语言模型量化标准方法之一,并已得到大家所熟知的HuggingFaceOllama的官方支持。在LLM大需要模型Ollama本地部署常用量化方案就有GGUF。如近期刚发布的Llama3量化参数如下所示:

ComfyUI官方

从ComfyUI官方的项目说明中,能够看出ComfyUI有计划打算放弃NF4方案而选择GGUF方式。插件地址:https://github.com/comfyanonymous/ComfyUI_bitsandbytes_NF4

XLabs

从下图中可以看出XLabs-AI官方推荐的是GGUF方式。插件地址:https://github.com/XLabs-AI/x-flux-comfyui

Flux GGUF ComfyUI模型体验

当前最新版本的ComfyUI结合社区插件ComfyUI-GGUF已支持在ComfyUI中体验。需要更新ComfyUI到最新版本,同时通过插件管理器搜索ComfyUI-GGUF并安装他。同时还需要下载对应的flux1-dev GGUF模型并放置在 /ComfyUI/models/unet 目录下。

  • ComfyUI插件地址:https://github.com/city96/ComfyUI-GGUF

  • flux1-dev GGU模型地址:https://huggingface.co/city96/FLUX.1-dev-gguf/tree/main

  • flux1-dev GGU LIBLIB模型地址:https://www.liblib.ar

关于AI绘画技术储备

学好 AI绘画 不论是就业还是做副业赚钱都不错,但要学会 AI绘画 还是要有一个学习规划。最后大家分享一份全套的 AI绘画 学习资料,给那些想学习 AI绘画 的小伙伴们一点帮助!

对于0基础小白入门:

如果你是零基础小白,想快速入门AI绘画是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以找到适合自己的学习方案

包括:stable diffusion安装包、stable diffusion0基础入门全套PDF,视频学习教程。带你从零基础系统性的学好AI绘画!

零基础AI绘画学习资源介绍

👉stable diffusion新手0基础入门PDF👈

(全套教程文末领取哈)
在这里插入图片描述

👉AI绘画必备工具👈

在这里插入图片描述

温馨提示:篇幅有限,已打包文件夹,获取方式在:文末

👉AI绘画基础+速成+进阶使用教程👈

观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

在这里插入图片描述

温馨提示:篇幅有限,已打包文件夹,获取方式在:文末

👉12000+AI关键词大合集👈

在这里插入图片描述

这份完整版的AI绘画全套学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费
### ComfyUI Flux 组合概述 ComfyUI Flux 是一种基于黑森林实验室(Black Forest Labs)开发的 FLUX.1 模型与 ComfyUI 平台相结合的技术解决方案。该组合旨在为用户提供强大的图像生成能力和高效的处理流程。 #### 版本说明 FLUX.1 提供三个不同版本: - **FLUX.1-pro**:最高级别的性能表现,支持最先进图像生成功能以及顶级提示词解析能力。此版本仅通过官方 API 访问并提供企业级定制服务[^4]。 - **FLUX.1-dev**:从 FLUX.1-pro 中提取而来的开源版,具备相似质量和效率特性,适用于研究和技术探索场景。需要注意的是,尽管其功能强大,但不允许用于商业用途。 - **FLUX.1-schnell**:针对本地开发和个人应用优化过的快速运行模式,在 Apache 2.0 协议下开放源码发布。相比其他两个版本而言,它拥有快的速度和低资源消耗特点。 对于大多数个人开发者来说,推荐使用 FLUX.1-dev 或者 FLUX.1-schnell 进行实验和发展工作。 ### 安装配置指南 为了安装和配置 ComfyUIFLUX.1 的集成环境,请按照如下操作执行: 下载所需文件: ```bash wget http://file.s3/damodel-openfile/FLUX.1/FLUX.1-dev.tar tar -xf FLUX.1-dev.tar -C /path/to/ComfyUI/models/ ``` 确保将解压后的 `flux1-dev.safetensors` 文件放置于指定路径 `/path/to/ComfyUI/models/unet/` 下以便后续调用[^2]。 另外还需要获取额外的支持库来增强系统的兼容性和扩展性,比如 bitsandbytes 插件可以这样获得: ```bash git clone https://github.com/comfyanonymous/ComfyUI_bitsandbytes_NF4.git cd ComfyUI_bitsandbytes_NF4 pip install . ``` 完成上述步骤之后就可以启动应用程序了。 ### 使用实例展示 下面给出一段简单的 Python 脚本来演示如何利用 ComfyUI 结合 FLUX.1 实现基本的任务处理逻辑: ```python from comfyui import load_model, generate_image model_path = "/path/to/ComfyUI/models/unet/flux1-dev.safetensors" loaded_model = load_model(model_path) prompt_text = "A beautiful sunset over mountains." generated_img = generate_image(loaded_model, prompt=prompt_text) ``` 这段代码展示了加载预训练好的 FLUX.1 模型并通过给定的文字描述 (`prompt`) 来创建一张新的图片的过程。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值