使用3090显卡部署Wan2.1生成视频

---

layout: post
title: 使用3090显卡部署Wan2.1生成视频
catalog: true
tag: [Kubernetes, GPU, AI]

• 使用3090显卡部署Wan2.1生成视频
  • 1. 环境说明
  • 2. 模型下载
  • 3. 克隆仓库
  • 4. 安装依赖
  • 5. 生成视频
    • 5.1. 使用generate脚本生成
    • 5.2. 使用gradio启动UI界面生成
      • 5.2.1. 启动gradio服务
      • 5.2.2. 访问UI，输入prompt，点击生成视频

使用3090显卡部署Wan2.1生成视频

1. 环境说明

名称	规格	备注
内存VRAM	22GB	22G不够用，需要更大的内存，如果没有的话可以用swap内存代替
显卡	3090	NVIDIA
显存	24GB
CUDA	12.5	CUDA >= 11.7 否则会失败

2. 模型下载

使用 hfs.sh脚本下载模型

./hfd.sh Wan-AI/Wan2.1-T2V-1.3B --tool aria2c -x 10 --hf_token xxxxxxx --hf_username xxxxxxx

3. 克隆仓库

git clone git@github.com:Wan-Video/Wan2.1.git

4. 安装依赖

Note: CUDA >= 11.7 torch >= 2.4.0

cd Wan2.1
pip install -r requirements.txt

5. 生成视频

5.1. 使用generate脚本生成

Note: 一定要配置 --offload_model True --t5_cpu 否则GPU内存不够会在保存视频时OOM

 python generate.py  --task t2v-1.3B --size 832