DB-GPT项目Docker部署完全指南

DB-GPT项目Docker部署完全指南

DB-GPT DB-GPT - 一个开源的数据库领域大模型框架，旨在简化构建数据库大模型应用的过程。 项目地址: https://gitcode.com/gh_mirrors/db/DB-GPT

前言

DB-GPT是一款基于大语言模型的数据库智能助手，能够帮助开发者更高效地进行数据库操作和数据分析。本文将详细介绍如何使用Docker容器化技术部署DB-GPT项目，包括两种主要部署方式：代理模型部署和本地模型GPU部署。

部署方式选择

在开始部署前，我们需要根据自身硬件条件和需求选择合适的部署方式：

1. 代理模型部署：适合没有GPU设备的用户，通过API调用云端模型
2. 本地模型GPU部署：适合拥有NVIDIA GPU的用户，可本地运行模型获得更好性能

代理模型部署方案

环境准备

此方案无需GPU环境，仅需：

• 已安装Docker的Linux/Windows/macOS系统
• 有效的SiliconFlow API密钥

部署步骤

1. 拉取官方镜像

   docker pull eosphorosai/dbgpt-openai:latest
   

2. 运行容器

   docker run -it --rm -e SILICONFLOW_API_KEY=你的API密钥 \
    -p 5670:5670 --name dbgpt eosphorosai/dbgpt-openai
   

3. 访问服务 容器启动后，在浏览器中访问：

   http://localhost:5670
   

技术细节说明

• 该方案通过环境变量SILICONFLOW_API_KEY注入API密钥
• 端口5670是DB-GPT的默认Web服务端口
• 使用--rm参数确保容器停止后自动清理

本地模型GPU部署方案

硬件与软件要求

• NVIDIA GPU（建议显存≥8GB）
• 已安装NVIDIA驱动和CUDA工具包
• 已安装NVIDIA Container Toolkit

详细部署流程

1. 模型下载

建议国内用户使用ModelScope下载模型：

mkdir -p ./models
cd ./models
git lfs install
git clone https://www.modelscope.cn/Qwen/Qwen2.5-Coder-0.5B-Instruct.git
git clone https://www.modelscope.cn/BAAI/bge-large-zh-v1.5.git
cd ..

2. 配置文件准备

创建dbgpt-local-gpu.toml文件：

[models]
[[models.llms]]
name = "Qwen2.5-Coder-0.5B-Instruct"
provider = "hf"
path = "/app/models/Qwen2.5-Coder-0.5B-Instruct"

[[models.embeddings]]
name = "BAAI/bge-large-zh-v1.5"
provider = "hf"
path = "/app/models/bge-large-zh-v1.5"

3. 运行容器

docker run --ipc host --gpus all \
  -it --rm \
  -p 5670:5670 \
  -v ./dbgpt-local-gpu.toml:/app/configs/dbgpt-local-gpu.toml \
  -v ./models:/app/models \
  --name dbgpt \
  eosphorosai/dbgpt \
  dbgpt start webserver --config /app/configs/dbgpt-local-gpu.toml

4. 数据持久化（可选）

为确保数据安全，建议挂载数据目录：

mkdir -p ./pilot/{data,message,alembic_versions}

然后修改运行命令，添加以下挂载参数：

-v ./pilot/data:/app/pilot/data \
-v ./pilot/message:/app/pilot/message \
-v ./pilot/alembic_versions:/app/pilot/meta_data/alembic/versions

性能优化建议

1. 对于多GPU环境，可使用--gpus '"device=0,1"'指定使用特定GPU
2. 大模型推理时可添加--shm-size 8g增加共享内存
3. 生产环境建议移除--rm参数并添加-d参数以守护进程方式运行

常见问题排查

1. GPU无法识别：

   • 确认已正确安装NVIDIA Container Toolkit
   • 运行nvidia-smi验证驱动状态

2. 模型加载失败：

   • 检查模型路径是否正确
   • 确认模型文件完整（特别是.gitattributes和.git目录）

3. 端口冲突：

   • 可修改-p 参数使用其他端口，如-p 5671:5670

结语

通过Docker部署DB-GPT项目能够大大简化环境配置过程，无论是使用代理模型还是本地GPU模型，都能快速搭建起智能数据库助手环境。建议初次使用者从代理模型开始体验，待熟悉后再尝试本地GPU部署以获得更好的性能和定制能力。

DB-GPT DB-GPT - 一个开源的数据库领域大模型框架，旨在简化构建数据库大模型应用的过程。 项目地址: https://gitcode.com/gh_mirrors/db/DB-GPT