实践03:Dify系统模型配置

估计用时:1小时

实践目标:通过在Dify中使用管理员类型账号进行平台初始化的大模型接入配置,已满足后续智能体应用开发对大模型的基本依赖需求。

为什么要接入大模型?

Dify 是基于大语言模型的 AI 应用开发平台,初次使用时你需要先在 Dify 的 设置 界面完成对 模型供应商 的添加并进行配置。

实验步骤:

步骤1:添加模型供应商

1.1  使用管理员类型账号登录平台,点击右上角的用户头像,选择 【设置】选项,进入到系统配置界面。

1.2  点击选择左侧菜单栏中的【模型供应商】选项,打开模型供应商添加和配置界面

步骤2:添加模型供应商

在完成这个操作之前,我们要了解一个知识点。

Dify为了支持智能体应用实现不同的功能,需要不同类型的大模型支持。

因此,我们在开发智能体应用之前,Dify初始化要预先添加配置好系统模型系统模型将成为智能体创建默认使用的模型(开发时也支持个性化自行更改)。

系统模型 的类型总共有5种,它们分别是:

1. 系统推理模型:主要支持智能体应用完成自主分析和推理计算;(必配)

2. Embedding 模型主要支持大模型对用户输入的提示词进行分词处理;(必配)

3. Rrerank模型:用于知识库或响亮数据库的增强检索能力支持,改善 LLM 的搜索结果;

4. 语音转文字模型将对话型应用中,将语音转文字用的是该类型的模型;

5. 文本转语音模型:将对话型应用中,将文本转语音用的是该类型的模型。

扩展说明:不同类型的模型有不同的模型供应商。 

模型供应商有两种:

1. 自有模型。该类型的模型供应商提供的是自己开发的模型。如深度求索(DeepSeek)、通义千问(Qwen)等;

2. 托管模型。该类型的模型供应商代理提供第三方模型。如 硅基流动(SilconFlow)等。f

 具体操作:

2.1  在 模型供应商列表 中 找到 深度求索,点击【安装】按钮,稍等平台自动安装模型访问代理。

提示安装成功后,在界面上方的 待配置 区域,会出现 深度求索 模型供应商的配置选项。

2.2 点击 模型供应商配置选项中【设置】进入到 模型配置 界面。按照下图指示,点击界面 获取 深度求索 API Key,并复制粘贴并点击【保存】即可。

配置好后,我们可以点击 深度求索 模型供应商选项卡中的 现显示模型,查看我们可以使用模型列表。如下图所示:

步骤3:系统模型配置

模型供应商 添加配置好后,我们点击 【系统模型设置】,将 deepseek-chat 模型配置到系统默认的 系统推理模型  中。

说明:所有 模型供应商 的配置基本一致,按照操作方法完成对 硅基流动 等其他模型供应商的配置。

依照以上点的方法,逐步完成我们所需模型供应商的添加和配置,最终我们完成模型供应商对系统模型的配置。 

总结

通过本案例的实践操作,我们掌握了在Dify平台完成对各种模型的添加和系统模型的设置。今后随着我们智能体应用的需求,我们可以个性化添加各种模型供应商,选取最优的模型配置。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值