Dify使用02-Dify集成Ollama

Dify集成Ollama实现AI本地化
原创 已于 2025-11-06 15:55:54 修改 · 1k 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#Dify #ollama #ai

于 2025-11-06 15:53:52 首次发布
部署运行你感兴趣的模型镜像

Dify系列文章

Dify使用01-Dify安装与部署
Dify使用-常见问题及解决方案
Dify使用02-Dify集成Ollama

Dify使用02-Dify集成Ollama

环境说明

编号软件环境说明
1Ollama安装在本机上
2Dify安装在本机WSL的Ubuntu中
3本机Windows11

1、Ollama安装及配置

步骤一：下载Ollama

由于本机只有英特尔集显，因此去魔搭社区下载英特尔优化版Ollama，也可以去Ollama官网下载。

步骤二：Ollama配置远程访问

Ollama默认仅支持本机访问，需通过修改环境变量让其可以远程访问，windows电脑配置方法是在环境变量中新增OLLAMA_HOST，配置的值为0.0.0.0:11434

步骤三：启动Ollama并验证Ollama可访问

启动Ollama后，在浏览器输入本机IP:11434显示Ollama is running则表示Ollama可以远程访问。
在这里插入图片描述
使用Ollama拉取一个qwen3:8b模型，用于后续使用。

2、Dify集成Ollama

步骤一：安装Ollama插件

点击dify插件，然后搜索Ollama，安装Ollama插件即可。
在这里插入图片描述

步骤二：添加Ollama本地模型

进入设置页面

在这里插入图片描述

进入ollama添加模型页面

在设置页面，点击模型供应商，即可看到模型列表有Ollama，此时点击ollama的添加模型。
在这里插入图片描述

添加Ollama本地模型

表单说明如下：

字段说明
模型名称与ollama模型名称相对应，如qwen3:8b
模型类型可选值为LLM(大语言模型）、Text Embedding（文本嵌入模型）、Rerank（重新排序模型）
基础URLOllama的访问地址，为“http://主机IP:11434”
模型类型可选值为对话、补全
模型上下文长度若不清楚就填默认值4096
最大token上限若不清楚就填默认值4096
是否支持 Vision模型支持图片理解则选是，否则选否
是否支持函数调用模型支持选是，否则选否
填写完成后，点击添加，此时ollama下会显示该模型。
在这里插入图片描述

3、基于Ollama构建Dify应用

步骤一：创建并发布应用

进入dify工作室，点击创建空白应用
在这里插入图片描述
配置应用名称和描述。
在这里插入图片描述
配置应用要调用的模型。
在这里插入图片描述
完成配置后，点击发布

步骤二：使用应用

点击探索，此时工作区就有应用，点击应用即可使用。
在这里插入图片描述

常见问题

1、Dify无法访问Ollama

可参照以下顺序去排查：
（1）未配置OLLAMA_HOST参数，开放Ollama远程访问： 环境变量增加OLLAMA_HOST参数后，重启Ollama；
（2）OLLAMA_HOST参数不生效： Ollama英特尔优化版配置OLLAMA_HOST参数不生效，是因为ollama-serve.bat有设置OLLAMA_HOST，会覆盖系统设置，所以需要修改ollama-serve.bat，改为set OLLAMA_HOST=0.0.0.0:11434。
（3）Ollama IP填写错误： Dify通过Docker部署，此时填写127.0.0.1这样的IP，Dify是无法正确识别的，需要填写Ollama所在主机的具体IP地址，Dify才能正确识别。

2、Ollama插件添加模型后，Dify页面模型为空

原因： Dify默认配置对插件安装过程的​​超时限制较短​​，且依赖下载可能因网络问题失败.
解决方法: 进入/dify/docker目录下，修改env文件，改成如下值即可。

PLUGIN_PYTHON_ENV_INIT_TIMEOUT=1200
PLUGIN_MAX_EXECUTION_TIMEOUT=900
# PIP_MIRROR_URL=https://pypi.tuna.tsinghua.edu.cn/simple
PIP_MIRROR_URL=https://pypi.tuna.tsinghua.edu.cn/simple

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调

解决安装了最新的Dify1.3.1但是安装Ollama后无法成功添加模型问题
CoffeMilk的博客
05-04 5584
解决Dify1.3.1安装Ollama后无法成功添加大语言模型DeepSeek，导致无法使用大语言模型问题
（实测有效）本地部署dify，ollama插件添加模型失败解决办法
最新发布
s_wander的博客
09-25 426
Ollama插件模型不显示的解决方法
解决Dify的Ollama插件添加模型时保存成功但模型为空的问题
weixin_41270006的博客
07-13 742
最近组里安排了点调研Dify任务。我跟着一步一步走，前面都挺顺利，但在Dify的Ollama中引入大模型这一步卡住了：按照原文，我添加了本地安装的deepseek-r1:1.5b，点击“保存”，提示“保存成功”但模型列表却是空的。我摸索了半天，改了一通配置终于搞定，其中关键的一步配置在CXXN上看到了一些蛛丝马迹，但CXXN搞的付费订阅非常恶心，我从其他渠道弄明白以后，总结了一下自己做的操作，共享出来。
【大模型】解决最新的Dify1.3.1版本 无法基于Ollama成功添加模型
qq_43757282的博客
05-11 2338
在Windows环境下部署DeepSeek + Dify企业级本地私有化知识库时，若遇到模型添加成功但接口返回值为空的问题，可以通过修改.env文件中的ollama相关配置来解决。具体操作包括启用自定义模型、指定Ollama的API地址为http://host.docker.internal:11434，并调整docker-compose.yml中plugin_daemon服务的配置以避免安装超时。修改后需终止docker并使用docker compose up -d命令重启服务。通过这些步骤，可以有效解决
大模型应用开发平台Dify部署（进阶篇）
sugar_luo的博客
03-19 2619
Ollama+daify部署比较简单，对硬件要求也不高，主要是docker的安装（换国内镜像）和局域网设置可能会遇到问题。大模型部署跟云计算类似，可分为公有/私有/混合，公有的更新快、性能好、使用方便、不需要运维，私有的保护隐私、限制少、灵活性高，须根据实际需要进行选择。
dify离线安装插件无法连接ollama模型
GGlow的博客
05-20 2353
增加环境变量：
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
2301_81888214的博客
02-13 1033
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
dify插件离线工具dify-plugin-windows-amd64.exe
08-14
用户无需访问互联网，就可以将dify插件集成到其支持的应用程序中。这对于需要在安全级别较高的网络环境中工作的用户尤其有用。例如，政府机关、金融机构或者在封闭网络中运行的公司，这些场景下用户往往无法直接访问...
dify 离线 ollama插件安装包
09-25
dify 离线 ollama插件安装包
幕僚云私有化部署Dify+Ollama+DeepSeek-r1
02-14
私有化部署Dify+Ollama+DeepSeek-r1的详细步骤可能包括系统需求分析、软硬件环境搭建、系统安装配置、功能集成测试以及后续的维护升级等环节。系统需求分析阶段，需要对企业当前的数据处理需求进行深入理解，明确...
Dify知识库：使用Dify与BGE-M3搭建RAG（检索增强生成）应用
xiezhipu的博客
12-01 4765
RAG 是 “Retrieval-Augmented Generation” 的缩写，这一术语首次由Facebook AI Research (FAIR)团队在2020年提出，并在他们发表的论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中得到了详细的介绍和解释。
DIFY 浅尝 - DIFY + Ollama 添加模型
04-26 678
你应该可以看到部署好的Open WebUI，并假设有下载好你感兴趣的模型。应该可以打开 Dify，设置用户登录后应该可以看到以下界面。其他的字段都按照官方文档指引先填写了，这里遇到了两个问题。，里面有介绍接入各种模型供应商的方法。找到Ollama，点击设置。
dify安装ollama插件及OLLAMA模型添加失败问题完整解决方法
symstandsun的博客
05-11 6858
plugin_daemon-1 | 2025/05/10 17:37:36 stdio.go:160: [INFO]plugin langgenius/ollama:0.0.6: Installed model: ollama 提示ollama安装成功，再添加模型就不会有问题了。安装dify1.2.0和1.3.1均出现OLLAMA插件安装失败或插件安装后添加模型失败的问题，具体表现为一是添加ollama插件时没反应，需要二次添加才成功；二是添加模型时点保存报500错误或点保存后没反应，无法成功添加。
本地部署AI模型遇到的坑Deepseek、Docker、Dify、Ollama
weixin_45814639的博客
03-13 1741
修改完后，Dify部署目录里，修改nginx监听端口（二次重装发现这里不用修改，只需改上面的配置文件就可以，当启动容器后，这里会自动修改成81端口，而且上面有句话让改.env文件，按理说应该取的.env中端口值，但是我没改，文件中依旧默认80，但是nginx启动用的是Linux文件中修改的81端口，难道.env配置中的端口没用嘛）原先里面的服务是6-alpine，从这里运行，会添加至新的容器，结果发现单独运行也是报错的，而latest是可以运行的，那么应该是某些原因不支持6-alpine这个版本。
Dify大模型本地部署教程：私有化部署，详细步骤，轻松体验！
2401_84204413的博客
03-10 5857
Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。1、Dify 云服务版：任何人都可以零设置尝试。它提供了自部署版本的所有功能，并在沙盒计划中包含 200 次免费的 GPT-4 调用。2、Dify Premium：是一款 AWS AMI 产品，允许自定义品牌，并可作为 EC2 一键部署到你的 AWS VPC 上。前往 AWS Marketplace 进行订阅并使用，它适合以下场景：3、Dify 社区版
DeepSeek + Dify部署本地大模型和知识库
huang9604的博客
02-06 7442
DeepSeek + Dify部署本地大模型和知识库
dify ollama bge-m3
03-30
<think>好的，我现在需要回答用户关于Dify、Ollama和BGE-M3的差异和关系的问题。首先，我得仔细分析这三个工具各自的定位和功能。 Dify是一个应用开发平台，支持构建RAG应用，用户可以通过界面配置工作流，不需要太多编码。而Ollama是专注于本地运行大型语言模型的工具，帮助开发者在本地部署和运行模型。BGE-M3则是嵌入模型，用于将文本转换为向量，适合处理多语言和多模态数据。 接下来要明确它们之间的关系。比如，在RAG应用中，Dify可能使用BGE-M3来处理文档的嵌入，然后利用Ollama来运行生成模型。需要检查引用中的信息，是否有提到它们的整合方式。引用2和3提到Dify使用BGE-M3进行文档处理，并通过Ollama部署模型，这说明了它们如何协同工作。 然后要比较差异，从功能定位、使用场景和技术特点入手。Dify是平台，Ollama是模型工具，BGE-M3是模型，三者在技术栈中的位置不同。应用场景方面，Dify适合快速开发应用，Ollama适合本地模型运行，BGE-M3用于向量转换。 还需要确保回答结构清晰，符合用户的要求，分点比较和关系说明。同时要加入相关问题，如应用场景、技术整合、性能优化等，以符合系统级指令中的生成相关问题部分。 最后，检查引用是否正确标注，比如Dify与BGE-M3的搭建步骤在引用2和3，Ollama的部署在引用4，确保每个引用标记对应正确的内容。同时，避免使用Markdown格式，保持自然的中文表达。</think>### Dify、Ollama 与 BGE-M3 的差异与关系分析 #### 一、核心定位差异 1. **Dify** - **定位**：低代码应用开发平台，专注于构建基于大语言模型（LLM）的应用程序（如RAG、聊天机器人）[^2][^5]。 - **功能**：提供可视化工作流设计、知识库管理、模型集成等功能，支持快速搭建生成式AI应用[^1]。 - **示例**：通过Dify可直接调用BGE-M3模型处理文档嵌入，并结合Ollama部署的LLM生成回答[^3]。 2. **Ollama** - **定位**：本地化LLM部署与运行工具，支持在开发者环境中快速启动和管理开源模型[^3][^4]。 - **功能**：提供命令行接口（CLI）拉取、运行模型（如Llama 2、BGE-M3），简化模型本地化部署流程。 - **示例**：通过`ollama pull bge-m3`下载模型并在本地运行，供Dify调用[^4]。 3. **BGE-M3** - **定位**：多语言/多模态嵌入模型，专注于将文本、图像等数据转换为向量表示。 - **功能**：支持文本相似度计算、跨模态检索，为RAG提供向量化基础[^5]。 - **示例**：在Dify中，BGE-M3用于处理知识库文档的嵌入，实现高效的语义搜索[^2]。 #### 二、技术关系 1. **协作场景** - **Dify 整合 BGE-M3 与 Ollama**： - Dify通过调用Ollama部署的BGE-M3模型完成文档嵌入，再结合其他LLM（如DeepSeek-R1）生成最终回答。 - 公式化流程： $$ \text{文档} \xrightarrow{\text{BGE-M3嵌入}} \text{向量} \xrightarrow{\text{Dify检索}} \text{关联内容} \xrightarrow{\text{Ollama-LLM}} \text{生成结果} $$ 2. **依赖关系** - BGE-M3作为嵌入模型，可为Dify和Ollama提供向量化支持。 - Ollama为Dify提供本地模型运行环境，降低云端依赖。 #### 三、关键对比表 | 维度 | Dify | Ollama | BGE-M3 | |--------------|---------------------|---------------------|----------------------| | **类型** | 应用开发平台 | 模型运行工具 | 嵌入模型 | | **核心功能** | 工作流设计/应用构建 | 本地模型部署与管理 | 多模态数据向量化 | | **使用场景** | RAG应用开发 | 本地LLM实验与测试 | 语义搜索/跨模态检索 | | **技术栈** | 高层应用框架 | 模型中间件 | 底层算法模型 | #### 四、典型应用场景 1. **RAG系统搭建**（引用）： - Dify配置知识库，调用BGE-M3生成文档向量； - Ollama部署生成模型（如Llama 2），完成问答生成。 2. **本地化测试**（引用[^5]）： - 利用Ollama在功能测试环境中运行BGE-M3，验证多语言支持能力。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不会画画的画师

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值