估计用时:1小时
实践目标:通过在Dify中使用管理员类型账号进行平台初始化的大模型接入配置,已满足后续智能体应用开发对大模型的基本依赖需求。
为什么要接入大模型?
Dify 是基于大语言模型的 AI 应用开发平台,初次使用时你需要先在 Dify 的 设置 界面完成对 模型供应商 的添加并进行配置。
实验步骤:
步骤1:添加模型供应商
1.1 使用管理员类型账号登录平台,点击右上角的用户头像,选择 【设置】选项,进入到系统配置界面。
1.2 点击选择左侧菜单栏中的【模型供应商】选项,打开模型供应商添加和配置界面
步骤2:添加模型供应商
在完成这个操作之前,我们要了解一个知识点。
Dify为了支持智能体应用实现不同的功能,需要不同类型的大模型支持。
因此,我们在开发智能体应用之前,Dify初始化要预先添加配置好系统模型。系统模型将成为智能体创建默认使用的模型(开发时也支持个性化自行更改)。
系统模型 的类型总共有5种,它们分别是:
1. 系统推理模型:主要支持智能体应用完成自主分析和推理计算;(必配)
2. Embedding 模型:主要支持大模型对用户输入的提示词进行分词处理;(必配)
3. Rrerank模型:用于知识库或响亮数据库的增强检索能力支持,改善 LLM 的搜索结果;
4. 语音转文字模型:将对话型应用中,将语音转文字用的是该类型的模型;
5. 文本转语音模型:将对话型应用中,将文本转语音用的是该类型的模型。
扩展说明:不同类型的模型有不同的模型供应商。
模型供应商有两种:
1. 自有模型。该类型的模型供应商提供的是自己开发的模型。如深度求索(DeepSeek)、通义千问(Qwen)等;
2. 托管模型。该类型的模型供应商代理提供第三方模型。如 硅基流动(SilconFlow)等。f
具体操作:
2.1 在 模型供应商列表 中 找到 深度求索,点击【安装】按钮,稍等平台自动安装模型访问代理。
提示安装成功后,在界面上方的 待配置 区域,会出现 深度求索 模型供应商的配置选项。
2.2 点击 模型供应商配置选项中的【设置】进入到 模型配置 界面。按照下图指示,点击界面 获取 深度求索 API Key,并复制粘贴并点击【保存】即可。
配置好后,我们可以点击 深度求索 模型供应商选项卡中的 现显示模型,查看我们可以使用模型列表。如下图所示:
步骤3:系统模型配置
在 模型供应商 添加配置好后,我们点击 【系统模型设置】,将 deepseek-chat 模型配置到系统默认的 系统推理模型 中。
说明:所有 模型供应商 的配置基本一致,按照操作方法完成对 硅基流动 等其他模型供应商的配置。
依照以上点的方法,逐步完成我们所需模型供应商的添加和配置,最终我们完成模型供应商对系统模型的配置。
总结
通过本案例的实践操作,我们掌握了在Dify平台完成对各种模型的添加和系统模型的设置。今后随着我们智能体应用的需求,我们可以个性化添加各种模型供应商,选取最优的模型配置。