Dify开发Deepseek本地知识库检索应用

最新推荐文章于 2025-04-08 17:28:53 发布
最新推荐文章于 2025-04-08 17:28:53 发布
阅读量1.2k 收藏 8
点赞数 14
分类专栏： AI 文章标签： ollama dify deepseek RAG 本地知识库 ai
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/ymtianyu/article/details/146261353
版权

之前有使用AnythingLLM以及Page Assist来加载本地文档作为知识库进行上下文聊天背景，但效果不是很理想（也有可能没玩明白），今天使用本地部署的Dify自定义开发一个相同功能的应用。

💞更多内容，可关注公众号“ 一名程序媛 ”，我们一起从 0 - 1 学编程💞

1 Ollama运行大模型

这个教程已经很多了，有不懂的也可以参考之前的文章按步走即可，这里重点提一下要拉取的模型

ollama pull deepseek-r1:1.5b
ollama pull nomic-embed-text

确保Ollama is running...

在Dify 》 设置 》 模型供应商中将拉取的模型添加进来

2 添加知识库

切换到“知识库”界面，点击“创建知识库”
拖动本地文档以上传，点击“下一步”进行“知识库预处理”，也即“分段和清洗”

这一步是关键，分段的结果直接决定着后续知识招回的结果
通过设置“分段标识符”来解析我们自己的文档，点击“预览块”来查看分段结果，如果非预期，则调整标识符后，再次预览，如果始终达不到预期分段效果，则要考虑修改源文档后再次上传处理

分段预览Ok后，索引方式可选择“经济”或“高质量”，描述里已经说的很清楚，经济方式不消耗tokens，但效果可能不理想
这里选择“高质量”，Embedding模型选择Ollama拉取的nomic-embed-text

检索设置可默认“向量检索”，也可选择“混合检索”效果可能会更好
最后“保存并处理”，等待完成即可

3 创建空白应用

  1. 回到“工作室”界面，点击“创建空白应用”
  2. 应用类型选择“Chatflow”，这种可以反复询问确认以贴合本意
  3. 设置一个可识别的名称，“创建”即可

4 编排本地知识库应用

默认可能已经添加了三个节点：开始，LLM大语言模型，直接回复

不管默认如何，我们在“开始”节点之后添加一个“知识检索”节点，右侧会显示节点属性

  • 我们在“查询变量”里选择“开始”下的“sys.query”变量，也即用户聊天窗口中的输入内容
  • 再在“知识库”属性下添加刚才建立的本地文档知识库

点击“LLM”大模型节点，在其属性设置中“模型”选择“deepseek-r1:1.5b”

  • “上下文”选择“知识检索”下的“result”变量
  • “SYSTEM”提示词可编辑为如下内容

你要根据用户输入的问题{{#sys.query#}}和提供的参考{{#context#}}，找出最符合的一条记录，
然后直接输出找到的这条最符合的记录。

点击“直接回复”节点，在回复内容中直接使用“LLM”下的“text”变量即可

5 完善应用

完成以上操作，一个应用也就完成了，但效果如何，还需要反复调试
点击“预览”，尝试交流一下，根据deepseek思考的过程，可以知道我们给出的提示词是否Ok，如果让大模型很矛盾，则我们要回头去调整提示词
如果看到思考过程中，对于检索出来的片段，deepseek不能很好的获取我们的问题结果，则要考虑是不是我们提供的数据定义不够明确，考虑是否需要完善知识库

经过反复调试，你终将拥有一个你自己打造的听话又适用的AI助手，不会“瞎”回答了！

💞更多内容，可关注公众号“ 一名程序媛 ”，我们一起从 0 - 1 学编程💞
在这里插入图片描述

【DeepSeek R1构建本地RAG知识库】Dify调优优化
少说，多做
02-27 1595
在AI技术快速迭代的当下，检索增强生成（RAG）已成为解决大模型幻觉、知识更新滞后等痛点的核心方案。DeepSeek R1作为国产高性能开源大模型，结合Dify这一低代码AI应用开发平台，能够快速搭建安全可控的本地化知识库系统。本文将从零开始，详解如何通过DeepSeek R1实现本地知识检索增强，并借助Dify的灵活配置完成Prompt工程优化、响应质量调优及系统性能提升。
深入 Dify 源码，定位知识库检索的大模型调用异常
易迟的专栏
07-15 5281
之前在 GPU 服务器上部署了Dify 服务，使用的是 Dify 与 Xinference 组合，Xinference 部署的大模型是。基于本地部署的服务构建了知识库，并利用首页提供的任务流模板创建了一个 RAG 工作流知识库检索环节预期不需要调用大模型，实际却调用了大模型；本地没有配置 GPT3.5, 为什么会选择 GPT3.5 模型；这篇文章就从问题出发，借助源码与对应的服务 API 请求信息，定位问题的根本原因。从本轮的追踪来看，知识库检索选择N选1召回。
本地 AI 知识库秒搭！DeepSeek + Dify 打造你的智能问答助手
a543768773的博客
04-02 1160
想让 AI 记住你的知识库，能秒回精准答案？本教程教你 零成本 在本地部署 DeepSeek + Dify，打造 专属 AI 知识库！💡 你将学会： ✅ DeepSeek 本地大模型部署，让 AI 随时在线 🖥️ ✅ Dify 知识库集成，支持 PDF / Markdown / 网页数据 📚 ✅ 无缝连接 AI 与知识库，打造超强 检索增强生成（RAG）系统 🔍 ✅ API 接口调用，让你的 AI 轻松接入各类应用 🚀 🚀 完全离线运行！无隐私泄露风险！ 快来试试，打造你的智能 AI 知识管
使用Dify和deepseek模型编排中医知识检索工作流
最新发布
AutumnorLiu的博客
04-08 621
然后上下文选择知识检索，此处必须在SYSTEM里填写系统提示词，这里我使用“根据用户输入{input}和知识检索结果{context}输出回答，禁止出现"think"相关内容”输入“患者双下肢肿痛，面色萎黄，举步缓慢，舌质淡，苔薄白，右脉沉缓，左脉微弱，开什么药方？进入编排画布后，默认有一个开始节点，点击右边+号，选择知识检索，同时在"开始"节点添加一个变量，文本类型，变量名称叫input。知识库创建好了后，进入主页面，选择创建空白应用，随后选择“工作流”，输入名字后点击创建。点击"发布"后进行测试。
大模型入门实战：通过 HuggingFace 调用 Llama3
python12345_的博客
01-10 1570
至此，我们成功演示了如何通过 Hugging Face 的 Transformers 调用 Llama 模型，并获取了模型的回答。但是如果你的需求只是简单地调用模型，而无需进行微调或复杂的部署，可以尝试使用 Ollama。它不仅操作更加便捷，还提供了开箱即用的 RESTful 接口，适合快速集成到生产环境中。下一篇，我将会讲解如何通过 Ollama 下载部署 Llama 模型并调用。
Dify知识库优化实战：分段与数据清洗，提升LLM检索效率与回答精准性
2401_85343303的博客
03-15 4953
将内容上传至知识库后，要对内容进行分段与数据清洗。
dify案例分享-知识库检索整合Ragflow
Python_cocola的博客
03-06 3324
关于ragflow 安装比较复杂，大家可以去开源github上查看它的安装，本次就不带大家安装了。项目开源地址：https://github.com/infiniflow/ragflow项目文档: https://ragflow.io/docs/dev/目前这个项目用到的组件比较多，用到Elasticsearch、Kibana、MySQL、MinIO、Redis、RAGFlow等，大家可以参考官方文档部署好应用程序。这里我们需要注意的几点。
dify-1.0.1 + deepseek调用本地知识库
zhulong1984的博客
03-14 871
Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。 由于 Dify 内置了构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排，并同时提供了一套易用的界面和 API。
Deepseek+Dify部署本地知识库及应用
qq_23435961的博客
02-24 1010
Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用
超实用！用 Ollama + DeepSeek + Dify 搭建本地知识库，提升企业效率
Happiness is everywhere
02-13 3429
本文介绍了如何使用 Ollama + DeepSeek + Dify 搭建本地知识库，帮助企业高效管理信息。通过简单配置，可实现智能问答、文档检索等功能，提升效率并保障数据安全。
Docker、Ollama、Dify 及 DeepSeek 安装配置与搭建企业级本地私有化知识库实践
qq_33665793的博客
02-09 1938
4. **DeepSeek**：DeepSeek 是一款针对大数据的搜索引擎，能够帮助企业在本地搭建高效的深度搜索系统，支持语义搜索、文档推荐、快速检索等功能，非常适合用于企业级知识库的检索和推荐服务。本文将介绍如何利用 **Docker**、**Ollama**、**Dify** 和 **DeepSeek** 等工具来搭建一个企业级本地私有化知识库，具体包括安装、配置和实现企业需求的步骤。- **多模态处理**：使用 Dify 来扩展系统的多模态功能，可以支持文本、图像等不同类型的数据输入。
Dify与DeepSeek搭建个人知识库
我是赛博AI Lewis
03-25 651
通过Dify与DeepSeek的本地化部署，用户可快速构建高效、安全的个人知识库。该方案尤其适合对数据隐私要求高的场景，且通过灵活的模型配置（如切换不同规模的DeepSeek版本）平衡成本与性能。创建“聊天助手”类型应用，并在上下文配置中添加知识库，启用RAG（检索增强生成）功能。若响应速度慢，可升级模型版本（如DeepSeek-R1-67B）或增加硬件资源。在Dify中创建知识库，支持上传PDF、TXT、Markdown等格式文件。：检查Docker镜像源配置，替换为国内源（如华为云、网易云）。
【LLM】快速了解Dify 0.6.10的核心功能：知识库检索、Agent创建和工作流编排（二）
qq_33934427的博客
06-12 8359
【LLM】快速了解Dify 0.6.10的核心功能：知识库检索、Agent创建和工作流编排（二）
Dify知识库：使用Dify与BGE-M3搭建RAG（检索增强生成）应用
xiezhipu的博客
12-01 4300
RAG 是 “Retrieval-Augmented Generation” 的缩写，这一术语首次由Facebook AI Research (FAIR)团队在2020年提出，并在他们发表的论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中得到了详细的介绍和解释。
注意力机制、自注意力机制、多头注意力机制、通道注意力机制、空间注意力机制超详细讲解
2401_84494441的博客
02-24 2177
举几个栗子：看人–>看脸看文章–>看标题看段落–>看开头这时候大家应该大致知道注意力机制是个什么东西了吧~注意力机制其实是源自于人对于外部信息的处理能力。由于人每一时刻接受的信息都是无比的庞大且复杂，远远超过人脑的处理能力，因此人在处理信息的时候，会将注意力放在需要关注的信息上，对于其他无关的外部信息进行过滤，这种处理方式被称为注意力机制。
DeepSeek+dify知识库，查询数据库的两种方式（api+直连）
python123456_的博客
03-20 3377
一直有小伙伴介绍在问我，怎么让在个ai应用客户端直接连接数据库查询。dify官方没有现成的组件可以直接用。当时我想的是两种方式，一种是基于代码执行模块直接查询数据库，一种是基于Http请求，调用自己封装接口来查询数据库。想干这事之前先梳理下流程让kimi给我生成一个文章表，并且插入10条数据，我们可以告诉kimi，文章长度多大，这样内容可以丰富些。直接让kimi生成一个暴露接口查数据库的服务，有简单的优化了下,将下面的内容放入到server.py文件中启动服务创建一个空白应用。
当下热点：DeepSeek+Dify 本地知识库，用了都说太香了！
优快云_224022的博客
02-22 2424
之前我做了个AnythingLLM+DeepSeek去搭建本地知识库的教程，我发现阅读数挺高的，说明大家挺喜欢这个系列。但是我最近又发现 Dify+DeepSeek 去搭建本地知识库才是最牛的，，比德芙还要丝滑~今天这篇文章，纯小白也可以跟着做，不需要有计算机技术基础哦，一起来动手搭建本地最强知识库吧！
使用Dify搭建DeepSeek本地知识库
热门推荐
wanganui的博客
02-07 1万+
在当今的信息时代，构建一个高效的知识管理系统对于企业和个人来说都至关重要。DeepSeek作为一个强大的深度学习模型，能够帮助我们理解和处理大量的文本信息。而Dify则是一个新兴的平台，旨在简化AI应用的开发和部署过程。本文将详细介绍如何使用Dify来搭建基于DeepSeek的本地知识库系统。
docker+dify+deepseek+本地知识库
03-09
<think>嗯，用户想在Docker里配置Dify和DeepSeek连接本地知识库。首先，我需要回忆一下Dify和DeepSeek的基本配置步骤。根据引用[3]，Dify的安装需要克隆仓库、设置环境变量并用docker compose启动。那如何让DeepSeek集成进去呢？可能需要在Dify的配置里指定模型路径或API端点，尤其是本地部署的DeepSeek模型。 接下来，本地知识库的连接。Dify支持RAG，可能需要将本地的文档路径挂载到Dify的容器里，或者配置数据库连接。用户提到的是本地知识库，所以可能是指文档存储的位置。在docker compose文件中，可能需要添加volume挂载，把宿主机的文档目录映射到容器内相应的路径。 然后，检查环境变量，特别是模型相关的设置，比如DEEPKEEP_MODEL_PATH或者API密钥。如果DeepSeek是通过API访问的，可能需要配置API密钥；如果是本地运行的模型，可能需要设置本地服务的地址和端口。 还要考虑网络配置，确保Dify容器能访问DeepSeek服务。如果DeepSeek也在Docker中运行，可能需要使用同一个Docker网络，或者通过links连接。用户的问题可能涉及到多个容器之间的通信，需要确认docker compose中的服务定义是否正确关联。 另外，查看Dify的文档是否有关于集成本地模型的具体步骤，比如修改哪个配置文件或环境变量。引用[3]提到在.env文件中配置环境变量，可能需要在这里添加DeepSeek的相关参数。 最后，测试配置后的系统是否能正确调用DeepSeek处理知识库的数据。可能需要进入Dify的管理界面，创建应用并选择DeepSeek作为模型，然后上传文档测试RAG功能。如果遇到连接问题，检查日志，docker compose logs 服务名，看看是否有网络错误或配置错误。 总结步骤应该是：安装Dify，配置环境变量，部署DeepSeek模型，挂载知识库目录，设置模型连接参数，启动服务并测试。需要确保每一步的配置正确，特别是路径和网络设置。</think>### 分步指南：Docker 中配置 Dify 与 DeepSeek 连接本地知识库 #### 1. 基础环境准备 **步骤说明**：确保 Docker 服务已正确安装并运行 ```bash # 启动 Docker 服务并设置开机自启 sudo systemctl start docker sudo systemctl enable docker ``` 引用[^1]提到的基础操作需优先完成，确保容器环境正常[^1]。 --- #### 2. 部署 Dify 平台 **步骤说明**：通过 Docker Compose 启动 Dify 容器 ```bash # 克隆 Dify 仓库并进入目录 git clone https://github.com/langgenius/dify.git cd dify/docker # 复制环境变量模板并修改配置 cp .env.example .env # 编辑 .env 文件（需指定本地知识库路径和模型参数） vim .env # 启动 Dify 容器 docker compose up -d ``` 在`.env`文件中需关注以下关键参数： ```bash # 本地知识库存储路径映射（示例） VOLUME_PATH=/path/to/local/knowledge:/app/knowledge # DeepSeek 模型集成参数（根据实际部署方式调整） DEEPSEEK_API_KEY=your_api_key DEEPSEEK_MODEL_ENDPOINT=http://deepseek-container:port/v1 ``` 引用[^3]强调了环境变量对服务连接的重要性[^3]。 --- #### 3. 配置 DeepSeek 本地服务 **场景分析**： - **若使用 API 服务**：直接在 Dify 后台配置 API 密钥和端点 - **若本地部署模型**：需在 Docker 中运行 DeepSeek 容器并与 Dify 网络互通 **示例配置**： ```bash # 创建共享网络（若需要容器间通信） docker network create ai-network # 启动 DeepSeek 容器（假设已构建镜像） docker run -d --name deepseek \ --network ai-network \ -p 8000:8000 \ deepseek-image:latest ``` 在 Dify 的模型管理界面添加自定义模型，填写容器内服务地址。 --- #### 4. 集成本地知识库 **操作步骤**： 1. 在 Dify 控制台创建应用，启用 **RAG 功能** 2. 通过 **数据集管理** 上传本地文档（需确保容器内路径可访问） 3. 在应用工作流中绑定 DeepSeek 模型和知识库数据集 **关键配置点**： - 挂载本地知识库目录到容器（通过 Docker 卷映射） - 数据集解析设置需匹配文档格式（如 PDF/Markdown） --- #### 5. 验证与调试 **验证方法**： ```bash # 查看容器日志确认服务状态 docker compose logs -f dify-worker # 测试知识库检索功能 curl -X POST http://localhost/api/v1/knowledge-test \ -H "Content-Type: application/json" \ -d '{"query": "测试问题"}' ``` 若返回结果包含知识库内容，则集成成功。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值