零基础AI开发系列教程:Dify接入大模型

Dify 接入大模型

Dify 是基于大语言模型的 AI 应用开发平台,初次使用Dify时,需要设置模型供应商,全球主流的模型供应商都支持,例如 OpenAI 的 GPT 系列、Anthropic 的 Claude 系列、Google 的 Gemini 系列、阿里的通义千问(Qwen)、深度求索的DeepSeek等等。

1. 获取API Key

如果是生产环境使用,去对应供应商的官网注册并且购买额度。

如果是个人学习、开发使用,可以使用硅基流动提供的或者使用自己本地部署的大模型。硅基流动提供多种大模型可供调用,包括当下流行的DeepSeek-R1,DeepSeek-V3、QwQ-32B、BGE-M3 等等

目前注册可以免费领取2000万token,用来学习基本也够了,注册地址:
官方注册地址

输入手机号、短信验证码,登录即可,没有注册过会自动注册
image-20250331214038113

API密钥 -> 新建 API 密钥。将新建好的密钥妥善保管
image-20250331211245595

2. 配置模型供应商

初次使用Dify时,需要设置模型供应商

点击右上角头像,点击"设置"
image-20250323212557663

1.1 安装模型供应商

点击"模型供应商",找到硅基流动,鼠标移动上去,点击安装
image-20250331220625438

点击设置,输入前面获取的API Key,点击保存
image-20250331220830816

点击"显示模型"可以看到所有支持的模型
image-20250331221046788

其他模型供应商添加方式同理。

如果你本机电脑没有部署大模型,用模型供应商提供的服务就可以了。

如果你本地部署了大模型,请往下看,确保已经启动了相关服务。参考往期的文章:Ollama安装教程、DeepSeek私有化部署

1.2 添加本地部署的大模型

找到Ollama,点击"添加模型"
image-20250323212727875

模型类型选择大语言(LLM)模型
模型名称是在Ollama里安装的模型,可以在命令行窗口通过Ollama list查看已安装的模型。 deepseek-r1:7b
image-20250331222054924

基础 URL:http://host.docker.internal:11434
image-20250323220902582

说明:因为我们的Dify是采用Docker容器的方式部署的,如果没有做端口穿透的话,默认是访问容器内的11434端口,而Ollama是安装在宿主机(即运行 Docker 的机器),host.docker.internal 会自动解析为宿主机的内部 IP 地址(如 192.168.x.x 或 127.0.0.1),使得容器内的应用能通过该域名直接访问宿主机上运行的服务

在LLM节点,可以看到既可以选择在线的大模型,也可以选择本地部署的大模型
image-20250401105157954

至此,模型供应商配置完毕

👉 搜索"北灵聊AI"获取最新更新,免费领取教程资料和源码

内容概要:本文档详细介绍了Dify应用开发平台的部署流程。Dify作为一个结合了BaaS与LLMOps理念的开源大语言模型应用开发平台,主要面向开发者及希望参与AI应用构建的人群。部署前,需保证系统已装好docker和git,这是用于拉取项目代码和运行环境的基础工具。具体部署操作分为几步执行:首先是新建dify文件夹作为存放项目的主目录,在此之下利用git指令从指定的GitHub地址克隆整个Dify源代码下来;其次是在获取的项目根路径找到docker相关脚本所在位置,依次复制配置示例环境变量,借助docker compose来一键启动所有的组件。一旦发现控制台提示共有九个容器均处于健康运转状态便标志着Dify部署完成。部署完毕后,访问浏览器输入特定URL即可打开初始设置页面录入管理后台账号基本信息,从而开始Dify之旅。 适用人群:对快速创建基于大语言模型的生成式AI应用感兴趣的初学者或者有一定编程经验想要深入定制或拓展该平台功能的技术爱好者。无论是IT专业人员还是非技术人员都可以从中受益并且参与到应用程序定义及其相关的数据运营管理工作中。 使用场景及目标:适用于那些想要在本地环境中试用或是进行自定义开发的企业内部研究团队或者个人开发者。其目的在于使用户能够脱离复杂的云服务搭建出一套完整的AI解决方案原型系统以便进行演示和技术验证活动。 其他说明:部署指南提供了详细的命令行操作指导,每一步都有明确指示。需要注意的是部署过程中可能涉及到较长时间等待,特别是第一次拉起全部服务时。另外还提到若无法通过命令获取代码可选择直接下载预先打包好的版本。对于网络条件不是很好或者是遇到了技术难题的情况下不失为一种折衷方法。同时提醒初次使用的用户务必牢记创建超级管理员账户所需的认证凭证资料。
<think>好的,我现在需要帮助用户了解如何将Dify与OpenAI API集成。首先,我应该回忆一下Dify的基本信息。Dify是一个开源的LLM应用开发平台,支持多种模型集成,包括OpenAI。用户提到参考了meta-llama-3-70b-instruct的体验地址,但实际问的是OpenAI集成,可能引用需要调整。 接下来,我需要分步骤说明集成过程。第一步通常是获取API密钥,用户需要在OpenAI官网注册并生成API密钥。然后,在Dify的后台设置中配置这个密钥。可能还需要指导用户如何进入Dify的设置界面,比如导航到“模型供应商”部分,选择OpenAI,然后输入API密钥。 接下来是创建应用的部分,用户需要知道如何在Dify中创建新应用,选择模型类型,比如GPT-3.5或GPT-4。这里可能需要提到模型参数设置,如温度、最大token数等,这些参数影响生成结果。 然后,部署和测试应用是关键步骤。用户创建完应用后,需要保存配置,然后通过API或Playground测试功能是否正常。需要提醒用户检查响应是否符合预期,以及如何处理可能的错误,比如API密钥错误或模型不可用。 注意事项部分需要涵盖费用问题,因为使用OpenAI API会产生费用。同时,网络连通性也很重要,确保Dify服务能访问OpenAIAPI。可能还需要提到模型版本更新,建议用户定期检查更新以获得新功能。 相关问题部分,用户可能会关心其他模型的集成,如如何在Dify中使用本地模型,或者如何处理API限流问题。此外,应用监控和日志查看也是常见问题,需要预先考虑。 需要确保回答结构清晰,步骤明确,使用中文,并且正确应用LaTeX格式。同时,检查引用是否正确,用户提供的引用是关于Llama的,可能不太相关,但根据用户要求,还是需要在末尾添加引用标识。可能用户引用的内容有误,但按照指示处理即可。</think>### Dify 与 OpenAI API 集成指南 #### 1. 获取 OpenAI API 密钥 - 访问 [OpenAI 平台](https://platform.openai.com) - 创建账户或登录后,在「API Keys」页面生成新密钥 - 密钥格式示例:`sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx`[^1] #### 2. 配置 Dify 后台设置 ```python # 示例配置代码(Dify 后台自动处理) MODEL_PROVIDERS = { "openai": { "api_key": "YOUR_API_KEY", "api_base": "https://api.openai.com/v1" } } ``` - 进入 Dify 管理界面「设置 > 模型供应商」 - 选择 OpenAI 并填入 API 密钥 - 可选配置自定义 API 终结点(企业版支持) #### 3. 创建应用流程 $$ \text{应用创建路径} = \text{工作区} \rightarrow \text{新建应用} \rightarrow \text{选择模型} $$ - 选择模型类型:GPT-3.5/GPT-4 - 设置温度参数($T \in [0,2]$,控制输出随机性) - 配置最大 token 数($max\_tokens \leq 4096$) #### 4. 部署与测试 - 通过 API 终结点调用: ```bash curl -X POST "https://api.dify.ai/v1/completion" \ -H "Authorization: Bearer {DIFY_API_KEY}" \ -H "Content-Type: application/json" \ -d '{"inputs": {"prompt": "你好"}, "model": "gpt-3.5-turbo"}' ``` - 使用 Dify Playground 实时测试对话流 #### 注意事项 1. 费用计算:OpenAI API 按 token 计费($0.002/1k tokens$) 2. 网络要求:确保服务器可访问 `api.openai.com` 3. 版本更新:及时同步 OpenAI 模型更新(如 GPT-4 Turbo)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值