本地化部署属于你的AI应用开发平台-Dify
文章标签:问题经验 大模型应用 Dify Podman
前言
网上主流是利用docker compose
本地化部署,而利用podman compose
较少,鉴于docker
商业授权问题,本人选择利用podman compose
进行部署,将部署过程中遇到的问题记录如下,希望能为有同样需求的读者提供参考。
一、Podman介绍与安装
Podman是一种容器管理工具,与Docker类似,但无需守护进程,更加安全和轻量。以下是 Podman 的安装步骤:
-
- 进入Podman官网
-
- 点击Download,下载对应版本安装包
- 点击Download,下载对应版本安装包
-
- 下载好后直接点击安装即可
-
- 安装完成后,运行
podman --version
以确认安装成功。安装成功打开Podman Desktop
显示如下:
- 安装完成后,运行
-
-
- 打开WSL(Windows Subsystem for Linux),进入最重要的部分,配置国内镜像源,以加速后续的容器镜像拉取。
-
- 输入命令
sudo vi /etc/containers/registries.conf.d/999-podman-machine.conf
命令编辑配置文件
- 输入命令
-
- 将以下内容粘贴上即可:
unqualified-search-registries = ["docker.io"]
[[registry]]
prefix = "docker.io"
location = "docker.io" # 原镜像地址
[[registry.mirror]] # 添加镜像加速地址
location = "docker.registry.cyou"
[[registry.mirror]]
location = "docker-cf.registry.cyou"
[[registry.mirror]]
location = "dockercf.jsdelivr.fyi"
[[registry.mirror]]
location = "docker.jsdelivr.fyi"
[[registry.mirror]]
location = "dockertest.jsdelivr.fyi"
[[registry.mirror]]
location = "dockercf.jsdelivr.fyi"
[[registry.mirror]]
location = "mirror.aliyuncs.com"
[[registry.mirror]]
location = "dockerproxy.com"
[[registry.mirror]]
location = "mirror.baidubce.com"
[[registry.mirror]]
location = "docker.m.daocloud.io"
[[registry.mirror]]
location = "docker.nju.edu.cn"
[[registry.mirror]]
location = "docker.mirrors.sjtug.sjtu.edu.cn"
[[registry.mirror]]
location = "docker.mirrors.ustc.edu.cn"
[[registry.mirror]]
location = "mirror.iscas.ac.cn"
[[registry.mirror]]
location = "docker.rainbond.cc"
[[registry.mirror]]
location = "docker.1ms.run"
[[registry.mirror]]
location = "docker.xuanyuan.me"
-
- 保存并退出编辑器
-
- 使用
cat /etc/containers/registries.conf.d/999-podman-machine.conf
命令验证配置是否正确
- 使用
二、部署步骤
1.获取Dify代码
(1)打开Dify官网(https://dify.ai)
(2)点击主页右上角GitHub 图标,自动跳转到Dify项目页面(若网站打不开多试几次)
(3a)若需要部署最新版 Dify,直接点击 Code 按钮,复制仓库地址
(3b) 若需要部署历史版本,选择 Tags,选择对应版本,复制地址或下载 ZIP 文件
(4)复制好地址后打开Git bash(如果电脑没有这个软件,需要安装一下Git bash)
(5)在准备存放Dify 源码的目录下右键,选择Open Git Bash Here
(6)输入命令:git clone <https://github.com/langgenius/dify> (你复制的地址)
,克隆 Dify 代码仓库
2.部署Dify
(1)打开WSL(确保 WSL 已安装并运行)
(2)使用 cd
命令进入 Dify 代码的 docker 子目录
(3)在 Python 虚拟环境中安装 podman-compose
库
(4)输入 podman-compose up -d
命令启动 Dify
(5)若遇到找不到 network 的错误,自定义创建网络:
podman network create dify_network(可自定义名称)
(5a)在 docker-compose.yml 中修改:
networks:
# create a network between sandbox, api and ssrf_proxy, and can not access outside.
default:
external: true
name: dify-network
(5b)接着将sandbox
、api
、worker
对应容器定义的networks
配置更改为-default
(6)运行 podman-compose down -v
删除容器及内容
(7)为确保删除干净,可以运行命令 podman ps -a
查看是否有dify相关容器残留,若有,则运行podman rm -f <容器名或容器ID>
(8)重新启动Dify podman-compose up -d
(9)若遇到拉取不到 plugin_daemon
的错误,更换镜像源为 swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/langgenius/dify-plugin-daemon:0.0.3-local
plugin_daemon:
# image: langgenius/dify-plugin-daemon:0.0.4-local
image: swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/langgenius/dify-plugin-daemon:0.0.3-local
restart: always
(10)重复(6)-(8)
(11)若遇到 PostgreSQL
初始化权限错误:
initdb: error: could not change permissions of directory "/var/lib/postgresql/data/pgdata": Operation not permitted fixing permissions on existing directory /var/lib/postgresql/data/pgdata ... chmod: /var/lib/postgresql/data/pgdata: Operation not permitted The files belonging to this database system will be owned by user "postgres". This user must also own the server process.
(11a)此错误表明 PostgreSQL 数据库在初始化时,试图将数据目录的所有权设置为 postgres 用户,但当前运行容器的用户没有足够的权限来执行此操作。以下是解决此问题的步骤:
(11b)创建命名卷:在宿主机上创建一个命名卷,用于存储 PostgreSQL 的数据:
podman volume create pgdata
(11c)修改配置文件:在 Podman 的配置文件中,将挂载方式改为使用刚才创建的命名卷。例如,在 docker-compose.yaml
中找到 PostgreSQL 服务的配置段,将 volumes
字段修改为:
volumes:
- pgdata:/var/lib/postgresql/data
(11d)接着在文件的 volumes
部分定义该命名卷:
volumes:
pgdata:
(11e)确保容器以 postgres 用户运行:在配置文件中,确认 PostgreSQL 服务的 user 字段设置为 postgres
(12)重复(6)-(8)
3.配置Dify
现在Dify已经运行起来了,让我们来配置它:
(1)打开浏览器,访问 localhost:80
即进入Dify的设置页面
(2)创建管理员账户:设置用户名、邮箱和密码
(3)完成之后,正式进入Dify的世界。
(4)后续想要使用还需要在设置页面配置大模型供应商
总结
本文主要记录了使用podman-compose
本地化部署Dify
时遇到的问题和解决方法。在部署过程中,可能会因环境差异遇到各种问题,但通过查阅资料和不断尝试,总能找到解决办法。希望本文能为有同样需求的读者提供一些帮助,让大家在AI应用开发的道路上少走弯路。