本地化部署属于你的AI应用开发平台-Dify

本地化部署属于你的AI应用开发平台-Dify

文章标签:问题经验 大模型应用 Dify Podman

前言

网上主流是利用docker compose本地化部署,而利用podman compose较少,鉴于docker商业授权问题,本人选择利用podman compose进行部署,将部署过程中遇到的问题记录如下,希望能为有同样需求的读者提供参考。


一、Podman介绍与安装

Podman是一种容器管理工具,与Docker类似,但无需守护进程,更加安全和轻量。以下是 Podman 的安装步骤:

    1. 进入Podman官网
    1. 点击Download,下载对应版本安装包
      在这里插入图片描述
    1. 下载好后直接点击安装即可
    1. 安装完成后,运行 podman --version 以确认安装成功。安装成功打开Podman Desktop显示如下:
  • 在这里插入图片描述

    1. 打开WSL(Windows Subsystem for Linux),进入最重要的部分,配置国内镜像源,以加速后续的容器镜像拉取。
    1. 输入命令 sudo vi /etc/containers/registries.conf.d/999-podman-machine.conf 命令编辑配置文件
    1. 将以下内容粘贴上即可:
unqualified-search-registries = ["docker.io"]
[[registry]]
prefix = "docker.io"
location = "docker.io"  # 原镜像地址
[[registry.mirror]]     # 添加镜像加速地址
location = "docker.registry.cyou"
[[registry.mirror]]
location = "docker-cf.registry.cyou"
[[registry.mirror]]
location = "dockercf.jsdelivr.fyi"
[[registry.mirror]]
location = "docker.jsdelivr.fyi"
[[registry.mirror]]
location = "dockertest.jsdelivr.fyi"
[[registry.mirror]]
location = "dockercf.jsdelivr.fyi"
[[registry.mirror]]
location = "mirror.aliyuncs.com"
[[registry.mirror]]
location = "dockerproxy.com"
[[registry.mirror]]
location = "mirror.baidubce.com"
[[registry.mirror]]
location = "docker.m.daocloud.io"
[[registry.mirror]]
location = "docker.nju.edu.cn"
[[registry.mirror]]
location = "docker.mirrors.sjtug.sjtu.edu.cn"
[[registry.mirror]]
location = "docker.mirrors.ustc.edu.cn"
[[registry.mirror]]
location = "mirror.iscas.ac.cn"
[[registry.mirror]]
location = "docker.rainbond.cc"
[[registry.mirror]]
location = "docker.1ms.run"
[[registry.mirror]]
location = "docker.xuanyuan.me"
    1. 保存并退出编辑器
    1. 使用 cat /etc/containers/registries.conf.d/999-podman-machine.conf 命令验证配置是否正确

二、部署步骤

1.获取Dify代码

(1)打开Dify官网(https://dify.ai)

(2)点击主页右上角GitHub 图标,自动跳转到Dify项目页面(若网站打不开多试几次)

在这里插入图片描述
(3a)若需要部署最新版 Dify,直接点击 Code 按钮,复制仓库地址

(3b) 若需要部署历史版本,选择 Tags,选择对应版本,复制地址或下载 ZIP 文件

(4)复制好地址后打开Git bash(如果电脑没有这个软件,需要安装一下Git bash)

(5)在准备存放Dify 源码的目录下右键,选择Open Git Bash Here

(6)输入命令:git clone <https://github.com/langgenius/dify> (你复制的地址),克隆 Dify 代码仓库

2.部署Dify

(1)打开WSL(确保 WSL 已安装并运行)

(2)使用 cd 命令进入 Dify 代码的 docker 子目录

(3)在 Python 虚拟环境中安装 podman-compose

(4)输入 podman-compose up -d 命令启动 Dify

(5)若遇到找不到 network 的错误,自定义创建网络:

     podman network create dify_network(可自定义名称)

(5a)在 docker-compose.yml 中修改:

networks:
  # create a network between sandbox, api and ssrf_proxy, and can not access outside.
  default:
    external: true
    name: dify-network

(5b)接着将sandboxapiworker对应容器定义的networks配置更改为-default

(6)运行 podman-compose down -v 删除容器及内容

(7)为确保删除干净,可以运行命令 podman ps -a查看是否有dify相关容器残留,若有,则运行podman rm -f <容器名或容器ID>

(8)重新启动Dify podman-compose up -d

(9)若遇到拉取不到 plugin_daemon 的错误,更换镜像源为 swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/langgenius/dify-plugin-daemon:0.0.3-local

plugin_daemon:
    # image: langgenius/dify-plugin-daemon:0.0.4-local
    image: swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/langgenius/dify-plugin-daemon:0.0.3-local
    restart: always

(10)重复(6)-(8)

(11)若遇到 PostgreSQL 初始化权限错误:

initdb: error: could not change permissions of directory "/var/lib/postgresql/data/pgdata": Operation not permitted fixing permissions on existing directory /var/lib/postgresql/data/pgdata ... chmod: /var/lib/postgresql/data/pgdata: Operation not permitted The files belonging to this database system will be owned by user "postgres". This user must also own the server process.

(11a)此错误表明 PostgreSQL 数据库在初始化时,试图将数据目录的所有权设置为 postgres 用户,但当前运行容器的用户没有足够的权限来执行此操作。以下是解决此问题的步骤:

(11b)创建命名卷:在宿主机上创建一个命名卷,用于存储 PostgreSQL 的数据:

podman volume create pgdata

(11c)修改配置文件:在 Podman 的配置文件中,将挂载方式改为使用刚才创建的命名卷。例如,在 docker-compose.yaml 中找到 PostgreSQL 服务的配置段,将 volumes 字段修改为:

volumes:
  - pgdata:/var/lib/postgresql/data

(11d)接着在文件的 volumes 部分定义该命名卷:

volumes:
  pgdata:

(11e)确保容器以 postgres 用户运行:在配置文件中,确认 PostgreSQL 服务的 user 字段设置为 postgres

(12)重复(6)-(8)

3.配置Dify

现在Dify已经运行起来了,让我们来配置它:

(1)打开浏览器,访问 localhost:80 即进入Dify的设置页面

(2)创建管理员账户:设置用户名、邮箱和密码

(3)完成之后,正式进入Dify的世界。

(4)后续想要使用还需要在设置页面配置大模型供应商

总结

本文主要记录了使用podman-compose本地化部署Dify时遇到的问题和解决方法。在部署过程中,可能会因环境差异遇到各种问题,但通过查阅资料和不断尝试,总能找到解决办法。希望本文能为有同样需求的读者提供一些帮助,让大家在AI应用开发的道路上少走弯路。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值