零基础AI开发系列教程:Dify + DeepSeek搭建本地私有化知识库

Dify + DeepSeek搭建本地私有化知识库

1. 配置模型供应商

第一次使用时,如果没有设置过模型供应商,则需要设置,设置好后,后续就无须再设置,可以直接使用

点击右上角头像,点击"设置"
image-20250323212557663

1.1 添加本地部署的大语言模型

模型供应商,下拉找到Ollama,点击"添加模型"
image-20250323212727875

模型类型:选择LLM

模型名称:deepseek-r1:7b,deepseek-r1:7b是我们之前在Ollama教程里安装的模型,可以在命令行窗口通过Ollama list查看已安装的模型名称。
image-20250324203219441
关于Ollama和DeepSeek的安装,可以参考我之前的文章。
如果还没有安装DeepSeek,可以通过ollama run deepseek-r1:7b命令安装

基础 URL:http://host.docker.internal:11434
说明:因为我们的Dify是采用Docker容器的方式部署的,如果没有做端口穿透的话,默认是访问容器内的11434端口,而Ollama是安装在宿主机(即运行 Docker 的机器),host.docker.internal 会自动解析为宿主机的内部 IP 地址(如 192.168.x.x 或 127.0.0.1),使得容器内的应用能通过该域名直接访问宿主机上运行的服务
image-20250323220902582

1.2 安装文本嵌入(Text Embedding)模型

bge-m3为例,在Ollama官网https://ollama.com/library,搜索bge-m3,选择567m,点击右侧复制命令,在CMD中运行:ollama pull bge-m3:567m,和DeepSeek的安装一样,需要等待模型下载完,并且启动成功
image-20250323224357276

1.3 添加文本嵌入(Text Embedding)模型

这里模型类型选择Text Embedding
模型名称:bge-m3:567m
基础 URL和前面一样:http://host.docker.internal:11434
image-20250323230818488

2. 创建知识库

知识库 -> 创建知识库
image-20250323230922021

导入已有文本 -> 选择文件
image-20250323231106761

可以一次选择多个文件
image-20250324195222508

选择好后点击下一步
image-20250324195244388

image-20250324195304143

嵌入已完成
image-20250324195325010

3. 创建聊天助手

工作室 -> 创建空白应用 -> 聊天助手 -> 输入应用名称 -> 创建
image-20250323233655998

根据你的要求填写对应的提示词、选择使用的大模型:deepseek-r1:7b
image-20250324211031750

选择引用的知识库,点击添加
image-20250324211246156

在聊天框输入问题测试:忘记密码怎么办、如何注册账号
image-20250324210828323

对比文档里的内容
image-20250323234324117

当提问一个知识库里不包含的问题时,由于我们设置不给它乱回答,所以会回答「抱歉,我暂时无法回答这个问题。该信息未收录在知识库中。」
image-20250324211650881

《零基础小白AI实战教程:手把手教你打造专属的智能体》🚀 系列教程更新中!
✅ 已更新:AI实践虚拟化平台安装
✅ 已更新:Docker Desktop 安装
✅ 已更新:Ollama安装教程
✅ 已更新:DeepSeek私有化部署
✅ 已更新:Dify私有化部署
✅ 已更新:Dify + DeepSeek搭建本地私有化知识库

👉 关注公众号"北灵聊AI"获取最新更新
零基础AI学习交流群🤖,群里有全套教程的资料和源码,加入即可领取

### DifyDeepSeek 技术文档与使用教程 #### 一、Dify 的介绍及其应用 Dify 是一款用于快速创建和部署 AI 应用程序的强大工具,支持开发者轻松集成各种大型语言模型 (LLM),并提供了一系列开箱即用的功能模块来加速开发过程。对于希望利用先进的人工智能技术提升业务效率的企业而言,Dify 提供了一个理想的解决方案[^1]。 #### 二、DeepSeek 功能特性概述 DeepSeek 则专注于为企业级用户提供高性能的知识检索服务,能够帮助企业建立私有化知识库管理系统。它不仅具备强大的文本处理能力,还特别擅长于理解复杂语义结构以及挖掘深层次的信息关联,在此基础上实现了精准的内容匹配和服务推荐机制[^3]。 #### 三、基于 Dify 构建 DeepSeek 多模态增强版 为了进一步拓展 DeepSeek 的应用场景范围,可以通过引入 Dify 来为其增添更多维度的数据感知能力和交互方式。具体来说就是采用 DeepSeek-R1 版本作为核心推理引擎,并借助 Dify 实现对图像识别、语音合成等多种媒体类型的全面支持,从而形成一个多感官融合的信息查询平台[^2]。 #### 四、两者之间的对比分析 | 比较项 | Dify | DeepSeek | |------------|----------| | 主要用途 | 创建AI应用程序 | 建立企业级知识库 | | 集成模式 | 可与其他API无缝对接 | 支持多种主流LLM模型 | | 数据处理 | 强化多模态数据解析 | 文档解析 | | 用户体验优化 | 自定义UI设计 | 精准内容匹配 | #### 五、安装配置指南 针对想要尝试这两款产品的技术人员,以下是简要的操作指引: ##### 安装环境准备 确保服务器满足最低硬件要求,并完成 Python 环境搭建工作;同时建议预先熟悉 Docker 容器技术和 Kubernetes 编排框架的相关概念以便后续操作更加顺利。 ##### 下载源码包 访问官方网站获取最新版本的软件分发文件,按照提示说明解压至指定目录下即可开始下一步设置流程。 ##### 初始化数据库 根据实际需求选择合适的数据库类型(MySQL 或 PostgreSQL),执行初始化脚本来创建必要的表单结构及初始数据集。 ##### 启动服务实例 通过命令行界面启动各个组件的服务进程,注意监听端口号是否冲突以及其他可能影响正常运行的因素存在。 ```bash docker-compose up -d ```
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值