【免费下载】 ComfyUI-MultiGPU 安装与配置指南

ComfyUI-MultiGPU 安装与配置指南

【免费下载链接】ComfyUI-MultiGPU This custom_node for ComfyUI adds one-click "Virtual VRAM" for any GGUF UNet and CLIP loader, managing the offload of layers to DRAM or VRAM to maximize the latent space of your card. Also includes nodes for directly loading entire components (UNet, CLIP, VAE) onto the device you choose. Includes 16 examples covering common use cases. 项目地址: https://gitcode.com/gh_mirrors/co/ComfyUI-MultiGPU

1. 项目基础介绍

ComfyUI-MultiGPU 是一个开源项目，旨在帮助用户通过优化 GPU 使用，提高深度学习模型训练的效率。它主要通过将模型层移动到 CPU 或其他 GPU 上，释放主 GPU 的显存（VRAM），从而为更大的批量处理、更高的分辨率或更长时间的视频处理提供空间。该项目主要使用 Python 编程语言。

2. 项目使用的关键技术和框架

• DisTorch: 是 ComfyUI-MultiGPU 中的核心技术，用于管理模型层在 GPU 和 CPU 之间的分配，实现虚拟显存（Virtual VRAM）功能。
• GGUF (General Generative Unet Framework): 是 ComfyUI 的一个扩展，用于支持量化模型，并与 ComfyUI-MultiGPU 深度集成。
• ComfyUI: 是一个用于构建和训练深度学习模型的开源框架，提供了一系列的节点和加载器。

3. 安装和配置准备工作及详细步骤

准备工作

• 确保系统中已安装 Python 3.7 或更高版本。
• 安装 Git，用于克隆项目代码。
• 安装 ComfyUI-Manager，以便管理 ComfyUI 的节点和插件。

安装步骤

1. 克隆 ComfyUI-MultiGPU 仓库到本地：

   git clone https://github.com/pollockjj/ComfyUI-MultiGPU.git
   

2. 将克隆的仓库移动到 ComfyUI 的 custom_nodes 目录下：

   mv ComfyUI-MultiGPU /path/to/ComfyUI/custom_nodes/
   

   请将 /path/to/ComfyUI 替换为你的 ComfyUI 安装路径。

3. 打开 ComfyUI-Manager，搜索 ComfyUI-MultiGPU 并按照提示完成安装。

配置步骤

1. 在 ComfyUI 的配置文件中，确保启用了 custom_nodes 功能。

2. 根据你的硬件配置，选择合适的虚拟显存大小。在 ComfyUI-MultiGPU 的配置文件中，你可以找到相应的设置。

3. 如果你有多块 GPU，可以通过 ComfyUI-MultiGPU 提供的 DeviceSelectorMultiGPU 节点，来选择并配置每块 GPU 的使用。

4. 根据项目提供的例子，创建你的工作流程。这些例子已经过了多块 GPU 的测试，可以作为配置的参考。

完成以上步骤后，你就可以开始使用 ComfyUI-MultiGPU 来优化你的 GPU 使用了。记得在操作过程中，可以根据你的具体需求调整配置。

【免费下载链接】ComfyUI-MultiGPU This custom_node for ComfyUI adds one-click "Virtual VRAM" for any GGUF UNet and CLIP loader, managing the offload of layers to DRAM or VRAM to maximize the latent space of your card. Also includes nodes for directly loading entire components (UNet, CLIP, VAE) onto the device you choose. Includes 16 examples covering common use cases. 项目地址: https://gitcode.com/gh_mirrors/co/ComfyUI-MultiGPU