Comfy-WaveSpeed项目安装与配置指南

Comfy-WaveSpeed项目安装与配置指南

Comfy-WaveSpeed [WIP] The all in one inference optimization solution for ComfyUI, universal, flexible, and fast. 项目地址: https://gitcode.com/gh_mirrors/co/Comfy-WaveSpeed

1. 项目基础介绍

Comfy-WaveSpeed是一个为ComfyUI设计的全方位推理优化解决方案，旨在提供通用、灵活且快速的优化。该项目通过动态缓存、增强的torch.compile等功能，为多种模型如FLUX、LTXV、HunyuanVideo、SD3.5和SDXL提供显著的推理速度提升。

主要编程语言

• Python

2. 项目使用的关键技术和框架

• 动态缓存（First Block Cache）: 通过缓存首个变换器块的残差输出来减少计算成本。
• 增强的torch.compile: 利用PyTorch的编译功能来加速模型推理。
• LoRA: 低秩适应（LoRA）技术，用于提高模型效率。

3. 项目安装和配置的准备工作与详细步骤

准备工作

• 确保你的系统已安装Python。
• 安装git（如果尚未安装）。
• 确保你的系统支持NVIDIA CUDA（对于GPU加速）。

安装步骤

1. 克隆项目仓库到本地：

   git clone https://github.com/chengzeyi/Comfy-WaveSpeed.git
   

2. 进入项目目录：

   cd Comfy-WaveSpeed
   

3. 根据你的需求和环境配置项目。以下是一个基本的配置示例：

   # 安装项目依赖
   pip install -r requirements.txt
   
   # 如果需要编译模型，确保你的环境支持torch.compile
   # 并且根据你的GPU和系统配置调整相应参数
   

4. 在ComfyUI中使用Comfy-WaveSpeed。以下是一个示例工作流：

   {
     "nodes": [
       {
         "name": "Load Diffusion Model",
         "type": "comfy.nodes.LoadDiffusionModel",
         "inputs": {
           "model_path": "your_model_path"
         }
       },
       {
         "name": "Apply First Block Cache",
         "type": "wavespeed.nodes.ApplyFirstBlockCache",
         "inputs": {
           "residual_diff_threshold": 0.12
         }
       },
       {
         "name": "Compile Model+",
         "type": "wavespeed.nodes.CompileModel",
         "inputs": {
           "mode": "max-autotune"
         }
       },
       {
         "name": "Generate",
         "type": "comfy.nodes.Generate"
       }
     ]
   }
   

5. 运行你的ComfyUI工作流，确保一切按预期工作。

请注意，具体配置可能会根据你的具体需求和系统环境有所不同。务必参照项目文档和ComfyUI的官方指南进行适当的调整。

Comfy-WaveSpeed [WIP] The all in one inference optimization solution for ComfyUI, universal, flexible, and fast. 项目地址: https://gitcode.com/gh_mirrors/co/Comfy-WaveSpeed