db-gpt安装指南（docker版本）

快乐的打字员

已于 2023-09-25 14:54:00 修改

阅读量5.5k

点赞数 1

分类专栏： LLM 文章标签： docker 容器 db-gpt toolkit

于 2023-08-24 00:41:53 首次发布

本文链接：https://blog.youkuaiyun.com/haohaizijhz/article/details/132463479

版权

LLM 专栏收录该内容

16 篇文章 ¥9.90 ¥99.00

订阅专栏

本文提供了一种在无法上网的封闭环境服务器上部署db-gpt的方法，通过在外网环境中构建docker镜像并导出。详细步骤包括下载v0.3.6源码，根据服务器CUDA版本11.7构建镜像，导出镜像到目标服务器，安装NVIDIA GPU支持，启动容器，并配置LLM模型及数据路径。验证安装成功后，可以通过http://localhost:5000进行访问。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

背景是想在封闭环境的服务器上部署db-gpt，封闭环境不能上网，所以需要在外网构建镜像（据说现在可以直接docker pull镜像了，但是奈何不能定制cuda版本，俺们的服务器cuda11.7，所以只能基于源码来构建了）

0 环境介绍

目标服务器的环境：

操作系统是linux的，cpu是x86 64位的。

我的本地笔记本的环境：（以下操作均在我的笔记本进行）

我的笔记本是windows11，为了构建适配linux的镜像，我在windows上装了wsl。

启动wsl，也就启动了一个ubuntu，然后我在wsl里装了个docker，以下操作均在wsl里进行。

当然，如果您有一个可联网的liunx系统的电脑就更好啦。

1 下载源码

下载v0.3.6的源码，截止今天（20230906）建议安装这个我认为“稳定”的版本。

2 构建镜像

依照自己硬件环境，看看是否要调整一下启动参数。

bash docker/build_all_images.sh \
--base-image nvidia/cuda:11.7.1-devel-ubuntu22.04 \
--pip-index-url https://pypi.tuna.tsinghua.edu.cn/simpl

了解本专栏