Dify大语言模型应用开发平台的简单本地部署

如果你想自己编写一个应用来调用本地DeepSeek大模型来处理业务逻辑,创建属于你自己的界面设计,借助Dift应用开发平台无疑是最简单的实现,无代码可视化的界面设计,足够亲民了。

💞更多内容,可关注公众号“ 一名程序媛 ”,我们一起从 0 - 1 学编程💞

1 拉取Github源代码

官方已经将Docker启动所需的配置编写好,我们只需拉取下来仓库源码执行即可

git clone https://github.com/langgenius/dify.git

2 创建环境配置文件

上一步已经拉取了源码文件,切换进入docker目录,拷贝一份示例配置作为默认配置文件

cd dify/docker
cp .env.example .env

3 拉取Docker镜像并创建容器

这一步可能会卡住一些人,没有更好的办法,只能找一些当前可用的Registry Mirrors镜像加速站点来下载镜像(安全性如何,我也不确定,姑且能用)

docker compose up -d

4 浏览访问

如果以上步骤都没能拦住你,那说明你的Dify已经安装成功,默认容器里开放了80端口供Web访问,打开浏览器,输入你的Docker主机IP试一下吧,我这边是输入IP回车后,即进入了管理员账号密码设置界面

http://192.168.220.50

5 配置本地大模型

  1. 点击右上角用户头像 》 设置
  2. 选择左侧“模型供应商”,右侧即会出现大模型相应的插件
  3. 下拉找到Ollama点击“安装”,稍等片刻即会出现在上方的“模型列表”中
  4. 点击“添加模型”,
    1. 类型:LLM
    2. 模型名称:deepseek-r1:1.5b(这个要选择你在ollama中拉取时的名称),
    3. 基础URLhttp://192.168.220.50:11434(也即你的Ollama访问地址)
    4. 其他保持默认,点击“保存”即可
  5. 最后点击“系统模型设置”,确认下你的“系统推理模型”是否加载进来(因为只添加了一个模型,这里出现的即是deepseek
  6. 点击右上角的Esc退出到外部控制台,切换到“工作室”即可“创建空白应用”来调取大模型啦

后续的更多玩法,敬请期待啦……

💞更多内容,可关注公众号“ 一名程序媛 ”,我们一起从 0 - 1 学编程💞
在这里插入图片描述

内容概要:本文档详细介绍了Dify应用开发平台部署流程。Dify作为一个结合了BaaS与LLMOps理念的开源大语言模型应用开发平台,主要面向开发者及希望参与AI应用构建的人群。部署前,需保证系统已装好docker和git,这是用于拉取项目代码和运行环境的基础工具。具体部署操作分为几步执行:首先是新建dify文件夹作为存放项目的主目录,在此之下利用git指令从指定的GitHub地址克隆整个Dify源代码下来;其次是在获取的项目根路径找到docker相关脚本所在位置,依次复制配置示例环境变量,借助docker compose来一键启动所有的组件。一旦发现控制台提示共有九个容器均处于健康运转状态便标志着Dify部署完成。部署完毕后,访问浏览器输入特定URL即可打开初始设置页面录入管理后台账号基本信息,从而开始Dify之旅。 适用人群:对快速创建基于大语言模型的生成式AI应用感兴趣的初学者或者有一定编程经验想要深入定制或拓展该平台功能的技术爱好者。无论是IT专业人员还是非技术人员都可以从中受益并且参与到应用程序定义及其相关的数据运营管理工作中。 使用场景及目标:适用于那些想要在本地环境中试用或是进行自定义开发的企业内部研究团队或者个人开发者。其目的在于使用户能够脱离复杂的云服务搭建出一套完整的AI解决方案原型系统以便进行演示和技术验证活动。 其他说明:部署指南提供了详细的命令行操作指导,每一步都有明确指示。需要注意的是部署过程中可能涉及到较长时间等待,特别是第一次拉起全部服务时。另外还提到若无法通过命令获取代码可选择直接下载预先打包好的版本。对于网络条件不是很好或者是遇到了技术难题的情况下不失为一种折衷方法。同时提醒初次使用的用户务必牢记创建超级管理员账户所需的认证凭证资料。
### 大语言模型开发平台 DIfy 使用指南 #### 平台概述 Dify 是一款专注于大语言模型的应用构建平台,集成了 GPT 技术与工作流模式。该平台旨在简化开发者创建复杂应用程序的过程,使得即使不具备深厚人工智能背景的人也能快速上手[^1]。 #### 安装配置 为了开始使用 Dify 进行项目开发,需先安装必要的环境依赖项以及设置好本地或云端的工作空间。如果计划部署多模态大模型,则可以考虑借助像 Ollama 这样的工具来辅助完成模型的加载和初始化操作[^2]。 ```bash pip install dify-cli ``` 上述命令用于安装官方提供的命令行客户端,它能帮助用户更方便地管理和控制平台上运行的任务和服务。 #### 创建首个应用实例 启动一个新的会话之后,可以通过图形化界面或是 CLI 来定义想要实现的功能逻辑。这里推荐采用工作流的方式来进行设计,因为这种方式能够给予更高的灵活性和支持更为复杂的业务场景需求。 ```json { "version": "0.1", "nodes": [ { "id": "start_node", "type": "input", "next": ["process_data"] }, ... ] } ``` 这段 JSON 片段展示了如何描述一个简单的工作流程结构;实际编写时可根据具体应用场景调整节点间的连接关系及其属性参数。 #### 测试与优化 当初步搭建完成后,务必进行全面细致的功能验证以确保预期效果得以达成。期间可能需要反复迭代改进算法性能、微调超参直至满意为止。此外,还应该关注资源消耗情况以便做出合理的硬件选型决策。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值