大模型工具与案例:云服务器部署dify与使用

dify介绍

dify是一个知名的LLM工作流搭建平台。当然本身是不提供任何AI模型的。

如果您可以装wsl,可以在本机部署参考windows安装dify-江鸟阁长

因为笔者的windows电脑不可以安装wsl,所以本文会带大家在linux云服务器上部署。目前很多厂家都推出了一键部署,但是价格也有差
阿里云 通用型服务器 70rmb/月
华为云比较便宜,我这边选的服务器是西南贵州,成功部署大约不到一块钱一小时
如果是直接使用官方线上的那么只能创建5个应用,并且无法与我们的本地应用交互,但不必部署花钱。5个应用满了可以删除后等待一段时间重新再创建即可。

华为云服务器部署

第一步:充钱,5rmb+

在这里插入图片描述

第二步:选择合适的地址

一般是选离自己比较近的,远一些的可能会有一定网络延迟。另外处于性价比可以选择西南地区:
点击单机部署
在这里插入图片描述

第三步:一直点击下一步

只有参数配置会让您输入密码。其余都是点下一步自动配置
在这里插入图片描述

第四步:等待大约5分钟

您输入自己的服务器地址即可看到
在这里插入图片描述
在这里插入图片描述

### 部署 Dify 模型于 Linux 服务器 #### 虚拟机环境准备 对于操作系统的选取,常见的选择包括 Ubuntu 和 CentOS 这样的 Linux 发行版本[^1]。为了确保顺利运行,所选虚拟机应至少配备两个 CPU 核心及不低于 4GB 的 RAM。 #### 安装必要的软件组件 在选定的操作系统环境中需安装一系列基础软件来支持 Dify部署: - **Docker**: 实现应用程序的容器化,简化了开发、测试和生产环境之间的一致性维护。 - **Git**: 版本控制系统,便于获取最新的源码库副本。 - **Python 3.10.x**: 提供执行后端逻辑所需的语言解释器;鉴于 Dify 后端依赖于此版本的 Python。 - **Anaconda (可选)**: 对于那些希望更简便地管理和隔离不同项目间 Python 环境的人来说是一个不错的选择。 - **PostgreSQL**: 关系型数据库管理系统,用来存储持久化的数据记录。 - **Redis**: 键值对存储解决方案,通常作为高速缓存层使用以提升性能效率。 上述每种工具的具体安装备忘录应当参照各自官方网站提供的最新指南或在线资源中的说明文档完成设置过程。 针对 Ollama 组件,在 Linux 平台上可以通过命令行脚本来实现自动化安装流程: ```bash curl -fsSL https://ollama.com/install.sh | sudo bash sudo usermod -aG ollama $USER sudo systemctl start ollama ``` 这些指令会下载并执行来自 Ollama 官方网站的安全 Shell 脚本文件来进行初始化配置工作,并赋予当前登录账户相应的权限以便后续管理操作能够正常开展[^2]。 最后,考虑到实际应用场景可能涉及更高阶的需求,比如利用端计算资源加速训练进程或是优化推理速度,则可以借鉴腾讯 HAI 服务平台的经验案例,探索更多可能性[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

非常大模型

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值