本地部署Dify+deepseek-r1接入本地知识库

前言:

本文将介绍如何在Linux ubuntu 22.04系统上使用Docker方式快速部署大语言模型应用开发平台Dify。

  • Dify是一款开源的大语言模型(LLM)应用开发平台,结合了后端即服务(Backend as a Service)和LLMOps的理念,使开发者能够迅速构建生产级的生成式AI应用。即使是非技术人员,也能参与到AI应用的定义和数据运营中。
  • Dify支持开源并可自部署到本地服务器,帮助用户打造自己的AI系统应用。

本示例将采用Docker进行部署,首先需要确保设备上已安装Git、Docker和Docker Compose。

一、部署Dify应用开发平台:

1、准备依赖服务:

git安装:

[root@hcss-ecs-6f98 ~]# apt install -y git

docker安装:

[root@hcss-ecs-6f98 ~]# curl -fsSL https://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -

[root@hcss-ecs-6f98 ~]# add-apt-repository "deb [arch=amd64] https://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"

[root@hcss-ecs-6f98 ~]# apt-get install -y docker-ce

root@hcss-ecs-6f98:/etc/docker# docker --version
Docker version 28.0.1, build 068a01e

[root@hcss-ecs-6f98:/etc/docker# cat /etc/docker/daemon.json 
{
  "registry-mirrors": [
    "https://docker.mirrors.aliyuncs.com",
    "https://registry.docker-cn.com",
    "https://mirror.ccs.tencentyun.com",
    "http://hub-mirror.c.163.com",
    "https://ommju0xg.mirror.aliyuncs.com",
    "https://docker.registry.cyou",
    "https://docker-cf.registry.cyou",
    "https://dockercf.jsdelivr.fyi",
    "https://docker.jsdelivr.fyi",
    "https://dockertest.jsdelivr.fyi",
    "https://mirror.aliyuncs.com",
    "https://dockerproxy.com",
    "https://mirror.baidubce.com",
    "https://docker.m.daocloud.io",
    "https://docker.nju.edu.cn",
    "https://docker.mirrors.sjtug.sjtu.edu.cn",
    "https://docker.mirrors.ustc.edu.cn",
    "https://mirror.iscas.ac.cn",
    "https://docker.rainbond.cc"
  ]
}


[root@hcss-ecs-6f98:/etc/docker# systemctl daemon-reload
[root@hcss-ecs-6f98:/etc/docker# systemctl restart docker

docker-compose安装:

安装docker-compose服务: 

[root@hcss-ecs-6f98 yum.repos.d]# sudo curl -L "https://github.com/docker/compose/releases/download/$(curl -s https://api.github.com/repos/docker/compose/releases/latest | grep '\"tag_name\":' | sed -E 's/.*\"([^\"]+)\".*/\1/')/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

[root@hcss-ecs-6f98 yum.repos.d]# chmox +x /usr/local/bin/docker-compose

docker-compose的版本: 

root@hcss-ecs-6f98:/usr/local/bin# docker-compose --version
Docker Compose version v2.33.1

 

2、克隆 Dify 源代码至本地环境:

[root@hcss-ecs-6f98 ~]# git clone https://github.com/langgenius/dify.git
Cloning into 'dify'...
remote: Enumerating objects: 143470, done.
remote: Counting objects: 100% (6/6), done.
remote: Compressing objects: 100% (4/4), done.
remote: Total 143470 (delta 4), reused 2 (delta 2), pack-reused 143464 (from 2)
Receiving objects: 100% (143470/143470), 76.19 MiB | 1.50 MiB/s, done.
Resolving deltas: 100% (105367/105367), done.

查看dify源代码目录:

[root@hcss-ecs-6f98 ~]# ll dify
total 284
drwxr-xr-x 22 root root  4096 Feb 27 10:36 api
-rw-r--r--  1 root root    56 Feb 27 10:36 AUTHORS
-rw-r--r--  1 root root  9250 Feb 27 10:36 CONTRIBUTING_CN.md
-rw-r--r--  1 root root 12605 Feb 27 10:36 CONTRIBUTING_JA.md
-rw-r--r--  1 root root  9897 Feb 27 10:36 CONTRIBUTING.md
-rw-r--r--  1 roo
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

jiang0615csdn

你对鼓励是我最大的动力来源

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值