保姆级教程：DeepSeek+RAG技术实现企业级知识库搭建

最新推荐文章于 2025-06-05 11:32:45 发布
最新推荐文章于 2025-06-05 11:32:45 发布
阅读量893 收藏 23
点赞数 12
CC 4.0 BY-SA版权
文章标签： 人工智能 面试 职场和发展 自然语言处理 后端
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/aolan123/article/details/147789483

1.为什么不直接使用网页版deepseek？

  • 需求: 绝对的隐私保护 和 个性化知识库构建
  • ​​​​​​​场景: 如果你希望大模型能根据你们企业的规章制度来回答问题，那么你一般需要上传企业规章制度的附件; 但你仍然可能面临的问题有:
    • 数据隐私问题: 联网使用大模型数据隐私性无法得到绝对保证
    • 上传文件的限制问题: 网页版AI对于文件上传的数量、大小一般有限制并且通常需要付费
    • 仅通过附件扩展上下文功能有限: 每次在新对话中提问相关问题时，仍需要重新上传附件修改删除对话中已有的附件困难

前排提示，文末有大模型AGI-优快云独家资料包哦！

2.如何实现网页版DeepSeek不能实现的需求?

  • 隐私保护
    • 通过对话大模型(如DeepSeek)的 本地部署 解决隐私问题
  • 个性化知识库构建
    • 使用 RAG技术 (Retrieval-Augmented-Generation，检索增强生成) 构建个人知识库。为此我们需要:
      • 本地部署RAG技术所需要的开源框架 RAGFlow
      • 本地部署 Embedding大模型 (或者直接部署自带Embedding模型的RAGFlow版本)

3.目标效果预览

  • 知识库：

  • 根据知识库问答：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

4.为什么要使用RAG技术?RAG和模型微调的区别?

  • 大模型的幻觉问题
    • 在面对某些输入时，生成的内容不准确、不完整或误导性的现象
  • 微调技术和RAG技术:
    • 微调: 在已有的预训练模型基础上，再结合特定任务的数据集进一步对其进行训练，使得模型在这一领域中表现更好(考前复习)
    • RAG: 在生成回答之前，通过信息检索从外部知识库中查找与问题相关的知识，增强生成过程中的信息来源，从而提升生成的质量和准确性(考试带小抄)
    • 共同点: 都是为了赋予模型某个领域的特定知识，解决大模型的幻觉问题
  • RAG (Retrieval-Augmented Generation) 的原理:
    • 检索(Retrieval): 当用户提出问题时，系统会从外部的知识库中检索出与用户输入相关的内容
    • 增强(Augmentation): 系统将检索到的信息与用户的输入结合，扩展模型的上下文。然后再传给生成模型(也就是Deepseek)
    • 生成(Generation): 生成模型基于增强后的输入生成最终的回答。由于这一回答参考了外部知识库中的内容，因此更加准确可读

5.什么是Embedding?为什么需要“Embedding模型”?

  • 检索(Retrieval) 的详细过程:
    • 准备外部知识库: 外部知识库可能来自本地的文件、搜索引擎结果、API等等
    • 通过 Embedding (嵌入) 模型，对知识库文件进行解析: Embedding 的主要作用是将自然语言转化为机器可以理解的高维向量，并且通过这一过程捕获到文本背后的语义信息(比如不同文本之间的相似度关系)
    • 通过 Embedding(嵌入) 模型，对用户的提问进行处理: 用户的输入同样会经过嵌入(Embedding)处理，生成一个高维向量
    • 拿用户的提问去匹配本地知识库: 使用用户输入生成的这个高纬向量，去查询知识库中相关的文档片段。在这个过程中，系统会利用某些相似度度量(如余弦相似度)去判断相似度
  • 模型的分类: Chat模型、Embedding模型;
  • 简而言之: Embedding模型是用来对你上传的附件进行解析的

6.本地部署全流程

下载 ollama，通过ollama将 DeepSeek 模型下载到本地运行

  • ​​​​​​​下载ollama平台
    • ollama是一个用于本地运行和管理大语言模型(LLM)的工具。
  • 配置环境变量
    • OLLAMA_HOST : 0.0.0.0:11434
      • 作用:让虚拟机里的RAGFlow能够访问到本机上的 Ollama
      • 如果配置后虚拟机无法访问，可能是你的本机防火墙拦截了端口11434
      • 不想直接暴露 11434 端口: SSH 端口转发来实现;
      • 更新完两个环境变量记得重启;
    • OLLAMA_MODELS : 自定义位置
      • 作用:ollama 默认会把模型下载到C盘，如果希望下载到其他盘需要进行配置
  • 通过ollama下载模型deepseek-r1:7b
    • ollama run deepseek-r1:7b
详细步骤：
1. ollama下载

下载链接：Ollama

2. ollama安装

检测是否安装成功，cmd-ollama 如出现以下内容，则安装成功

3. ollama环境变量配置

​​​​​​​

4. ollama下载运行deepseek-r1模型​​​​​​​

下载 RAGflow 源代码和 Docker，通过 Docker 来本地部署RAGflow

  • 下载RAGflow源代码
  • 下载Docker
    • Docker 镜像是一个封装好的环境，包含了所有运行 RAGFlow 所需的依赖、库和配置
    • 如果安装遇到踩坑，可以自行搜索一下报错或者问一下gpt
    • 如果镜像拉不下来，尝试修改docker的镜像源
详细步骤：
1. docker下载

下载链接：Docker: Accelerated Container Application Development

2. docker安装

检测是否安装成功，cmd-docker 如出现以下内容，则安装成功

3. docker镜像源配置

4. RAGflow下载

下载链接：ragflow/README_zh.md at main · infiniflow/ragflow · GitHub

$ git clone https://github.com/infiniflow/ragflow.git
​​​​​​​5. RAGflow配置文件修改

我们需要使用带有embedding models 的版本

打开.env文件，将slim版本注释，完整版注释打开

6. docker运行ragflow
$ cd ragflow
$ docker compose -f docker/docker-compose.yml up -d

使用docker ps 查看已经运行启动的镜像，如下则表示运行成功

在RAGflow中构建 个人知识库 并实现基于个人知识库的对话问答

  • docker成功启动后，浏览器输入 localhost:80 来访问RAGFlow
  • 在 “模型提供商” 中添加我们本地部署的 deepseek-r1:7b 模型
  • 在 “系统模型设置” 中配置Chat模型 (deepseek-r1:7b) 和 Embedding模型 (用RAGFlow自带的即可)
  • 创建知识库，上传文件，解析文件
  • 创建聊天助手 (注意prompt和tokens的配置)
  • 开始对话
详细步骤：
1. 注册及登录，第一个注册的用户为管理员

2. 模型配置

3. 知识库配置

4. 问答助手配置及问答

开始聊天：

7.只想迅速搭建个人知识库，可以不本地部署吗?

  • ——当然可以!这样实现起来更简单，而且效果一般来说会更好
  • 具体步骤:
    • 下载RAGFlow源代码和docker，通过docker本地部署RAGFlow(RAGFlow目前没有官方的网页版)
    • 在RAGFlow中配置任意的Chat模型和Embedding模型(你需要到这些模型对应的官网去付费申请apiKey)
  • 优点:
    • 不用本地部署大模型，简单易操作
    • 企业大模型性能一般更优越
  • 缺点:
    • 隐私安全问题
    • 调用企业大模型API的成本

详细步骤：

我们找到想要使用的API模型，去官网申请API-KEY配置后即可，以通义千问为例：

1. 申请API-KEY

2. 配置大模型

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！
在这里插入图片描述

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
在这里插入图片描述
在这里插入图片描述

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

【DeepSeek R1构建本地RAG知识库】向量(Embedding)模型选型
少说，多做
02-12 3550
检索增强生成（RAG）是生成式 AI 中的一类应用，支持使用自己的数据来增强 LLM 模型的知识。RAG 通常会用到三种不同的AI模型，即 Embedding 模型、Rerankear模型以及大语言模型。本文将介绍如何根据您的数据类型以及语言或特定领域选择合适的 Embedding 模型。用一句话解释Embedding的本质“Embedding是将文本（词、句、段落）映射到高维稠密向量的技术，其核心是将语义信息编码为计算机可计算的数学表示。
DeepSeek+本地知识库：真的太香了
一个喜欢诗和远方的程序媛
03-12 2637
两种主流的搭建方案，保姆级教程，分别是基于 Cherry Studio 和基于 AnythingLLM 的搭建方法。
基于DeepSeek+RAGFlow的企业知识库搭建
2401_85343303的博客
04-14 1214
随着大语言模型LLM在各个场景的落地应用，RAG（Retrieval-Augmented Generation，检索增强生成）成为提升模型实用性和准确性的关键技术。企业利用 RAG 开发智能客服，提升响应效率；科研机构整合文献资源，加速知识挖掘；开发者则打造个性化助手，满足多样化需求。如何高效准确构建各自领域的知识库成为影响检索效果的关键，本文介绍基于DeepSeek + RAGFlow的知识库搭建实践，包括以下方面：1. RAG基本概念2. RAGFlow框架介绍3. RAGFlow安装。
【保姆级教程】Windows环境下基于DeepSeek+RAGFlow搭建企业级知识库
呱牛 Just do IT
04-14 1746
【Windows环境保姆级教程】基于DeepSeek+RAGFlow的企业知识库搭建
【小白教程】手把手教你基于DeepSeek+RAGFlow搭建企业知识库，全程干货，建议收藏！！
最新发布
嘴巴吃糖了
06-05 915
随着大语言模型LLM在各个场景的落地应用，RAG（Retrieval-Augmented Generation，检索增强生成）成为提升模型实用性和准确性的关键技术。企业利用 RAG 开发智能客服，提升响应效率；科研机构整合文献资源，加速知识挖掘；开发者则打造个性化助手，满足多样化需求。如何高效准确构建各自领域的知识库成为影响检索效果的关键，本文介绍基于DeepSeek + RAGFlow的知识库搭建实践，包括以下方面：
【AI落地应用实战】DeepSeek + RagFlow + 本地私有知识库 构建本地知识库系统实战指南
2401_85325397的博客
03-03 1359
大模型应用的关键，不只是构建好模型算法，更重要的是做好数据的处理、挖掘等问题。数据贯穿了大模型从预训练到产业落地的全过程。
基于DeepSeek构建个人级与企业级大模型本地知识库
荷露叮咚网络学苑
02-25 1549
大模型最典型最成熟的应用非知识库莫属了，构建本地大模型知识库的主流技术组件组合通常围绕检索增强生成（RAG）框架展开，涵盖前端交互、向量存储、嵌入模型、推理大模型等核心模块。本文介绍基于大模型构建本地知识库的技术原理，特别是RAG原理，并演示操作个人用的基于轻量版Cherry studio及企业级Dify的知识库构建方案，通过本文档的学习，您可以建设自己个人的或企业级的知识库。
deepseek-r1本地部署和企业知识库搭建
weixin_51020083的博客
02-08 6207
deepseek-r1本地部署以及知识库搭建
DeepSeek+ragflow打造企业知识库！真香警告
m0_59163425的博客
03-07 2558
fastgpt的知识库，是我认为目前最简单好用的知识库了，我一直用了很久。不过评论区多次提到另外一位热门选手：ragflowragflow其实我去年也用过，但是并没有深入一直去使用，因为当时我用着老是有各种各样的问题，比如上传的文件老是解析失败，用着用着突然访问不了了，问答拆分等解析模式非常慢等等。最关键的是当时因为搞各种本地大模型，本地部署，资源不够用了，，，而ragflow又非常吃资源内存需求是fastgpt和dify的4倍；CPU是fastgpt和dify的2倍；
【初级篇】如何使用DeepSeek和Dify构建高效的企业级智能客服系统
网易搬砖头
03-10 2188
定义‌：Dify知识库是基于RAG（检索增强生成）技术的结构化数据管理系统，支持企业将文档、FAQ、规范信息等非结构化数据进行向量化处理，供大语言模型（LLM）动态调用‌。‌核心作用‌实时信息更新‌：通过持续更新知识库内容，确保LLM生成回答时依赖最新数据，避免因预训练数据过时导致的错误‌。‌精准上下文支持‌：用户提问时，系统通过关键词检索召回知识库中高相关度的内容区块，为LLM提供补充信息，提升回答准确性‌。‌多场景适配。
【AutoDL + Langchain-Chatchat】从零构建高效本地 RAG 知识库问答系统：实战保姆级教程（含避坑指南）
拾光夕拾的博客
01-20 1390
本文详细阐述如何在AutoDL云平台，如何利用Langchain-Chatchat构建高效的本地RAG知识库问答系统，并深入解析RAG架构。从环境搭建到实战部署，从问题排查到性能优化，提供一份全面实用的指南，助力开发者快速构建智能问答应用。
[保姆级教程]从0开始本地大模型搭建私用知识库(第一部分：安装)
m0_71142057的博客
03-22 8053
从0开始搭建完全离线的基于大模型的本地知识库
最详细的deepseek-r1:7b+RagFlow本地知识库搭建教程
日常分享工作中的一些技术干货。
03-03 3684
目前在官方发布的最版本v0.16.0中，还是会存在长文本回复中断问题这个问题，并且Github官方仓库中有很多关于此问题的issuse，后续看ragflow官方团队发布最新版本时是否会解决这个问题。，可以让 Ollama 监听所有可用的网络接口，从而允许外部网络访问：0.0.0.0:11434，否则在RagFlow中，模型url无法使用本地IP进行注册。嵌入模型提供数据表示，Img2txt和Sequence2txt模型生成文本，Rerank模型优化结果，聊天模型生成最终回复，TTS模型将文本转为语音。
DeepSeek-R1 + RAG搭建本地知识库，收藏这一篇就够了！！
Gaga246的博客
02-17 2236
利用DeepSeek-R1与RAG（Retrieval-Augmented Generation，检索增强生成）技术可以快速搭建本地知识库。 为确保本地知识库的高效搭建，需先准备DeepSeek-R1模型、相关文档/数据集及部署工具（如Ollama）， 随后安装Ollama并部署DeepSeek-R1 ，同时选择并配置文本嵌入模型，最后收集/整理文档并确保其唯一标识符和文本内容， 利用文本嵌入模型转换文档为向量以构建快速检索的索引。
深度解锁AI私有知识库：用 DeepSeek 和 RAGFlow 打造企业级智能平台
m0_59164304的博客
03-03 1685
这个分个人还是企业，如果个人用，其实各种免费在线知识库也够用了，但对于企业来说可不能图方便，需考虑以下方面数据隐私：使用本地部署方式，所有数据都保存在自己控制的服务器中，避免了外部服务带来的数据隐私泄露风险。高度可定制：根据自身需求进行配置与扩展，能够灵活地适配各种业务场景。智能问答：结合RAG和DeepSeek的能力，可以让知识库具备智能问答功能，提升工作效率。可扩展性：支持大规模数据的处理与管理，能够持续扩展和更新知识库内容。
Deepseek + RAG：创建本地运行智能体
热门推荐
Thales624的博客
01-24 1万+
学习如何通过，构建本地运行的智能 RAG 聊天机器人！本教程将带您逐步了解如何利用 RAG 技术，结合 AI 推理和知识检索能力，创建更加准确且知识丰富的 AI 响应。
基于DeepSeek构建RAG 系统综合指南（含代码），零基础小白收藏这一篇就够了！！
嘴巴吃糖了
03-06 1302
在人工智能飞速发展的当下，从海量文档中高效处理、理解和检索信息，成为众多领域的关键需求。检索增强生成（Retrieval-Augmented Generation，RAG）技术应运而生，它代表了 AI 信息处理方式的重大进步。传统语言模型仅依赖预先训练的数据，而 RAG 系统在生成回复前，会动态检索相关信息，就如同为 AI 配备了一个专属 “图书馆”，在回答问题前可随时查阅参考。
保姆级教程！6个步骤讲清楚用DeepSeek搭建本地知识库
bugyinyin的博客
02-07 1万+
本地部署的最大意义在于利用DeepSeek大模型的能力加上自己的知识库，可以训练出一个符合自己需求的大模型。 想象下如果你是一个医生，有一堆科研资料。你想拥有一个大模型机器人，学习了你所有的资料。每当你想查科研资料找到答案的时候，自己问这个机器人就好了。省去了自己很多查找资料的时间 这就是本地部署+知识库的作用。是DeepSeek官网不具备的。因为这是训练的你的私有资料。 今天就来分享下这个搭建过程。用到的工具组合是Docker+Dify+DeepSeek Dify是基于LLM的大模型知识库问答系统
DeepSeek接入个人知识库，保姆级教程来了！
EnjoyEDU的博客
02-27 1883
RAGFlow 是一款基于深度文档理解的开源检索增强生成（Retrieval-Augmented Generation，RAG）引擎，旨在通过结合信息检索和生成式 AI 的优势，解决现有技术在数据处理和生成答案方面的挑战。
本地部署deepseek+RAG技术怎么搭建组织知识库
03-20
<think>好的，用户想了解如何基于DeepSeek和RAG技术在本地搭建组织级知识库。首先，我需要回顾之前提供的引用内容，确保回答准确。根据引用[2]和[3]，搭建流程大致分为环境准备、模型部署、知识库构建和集成应用几个步骤。 首先，用户需要安装Ollama来本地部署DeepSeek模型，如引用[3]提到的。接着，处理组织文档，进行文本分块和向量化存储，这部分涉及RAG的核心步骤。然后，需要配置检索系统，比如使用FAISS或Chroma，并将DeepSeek与检索系统集成。可能还需要考虑前端界面的搭建，比如使用Open WebUI，如引用[2]中提到的。 用户可能遇到的问题包括环境配置错误、文档处理效率、检索精度等，需要给出优化建议，比如调整分块大小或优化prompt。此外，引用[1]提到DeepSeek-R1与RAG结合的效果，可以强调其在提高回答准确性方面的优势。 需要确保步骤清晰，分点说明，同时语言简洁。最后，生成的相关问题要覆盖部署工具、RAG原理、优化方法等，帮助用户深入理解。</think>### 分步指南：基于 DeepSeek 和 RAG 搭建本地知识库 #### 一、环境准备 1. **安装 Ollama 框架** 使用开源工具Ollama部署DeepSeek模型（推荐DeepSeek-R1或DeepSeek-V3），支持Windows/Linux/macOS系统[^3]： ```bash curl -fsSL https://ollama.com/install.sh | sh ollama run deepseek-r1 ``` 2. **文档处理工具链** 安装Python依赖库： ```python pip install langchain unstructured chromadb sentence-transformers ``` #### 二、知识库构建流程 1. **文档预处理** - 将组织文档（PDF/Word/TXT）统一转换为纯文本 - 使用LangChain的`RecursiveCharacterTextSplitter`进行分块（建议每块500字） ```python from langchain.text_splitter import RecursiveCharacterTextSplitter splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50) ``` 2. **向量化存储** - 选择嵌入模型（如`all-MiniLM-L6-v2`） - 使用Chroma或FAISS建立向量数据库[^2] ```python from langchain.vectorstores import Chroma from langchain.embeddings import HuggingFaceEmbeddings embeddings = HuggingFaceEmbeddings(model_name="all-MiniLM-L6-v2") vector_db = Chroma.from_documents(docs, embeddings, persist_directory="./db") ``` #### 三、RAG系统集成 1. **检索增强配置** ```python from langchain.chains import RetrievalQA qa_chain = RetrievalQA.from_chain_type( llm=deepseek_model, retriever=vector_db.as_retriever(search_kwargs={"k": 3}), return_source_documents=True ) ``` 2. **DeepSeek模型接入** 通过Ollama API调用本地模型： ```python from langchain.llms import Ollama deepseek_model = Ollama(model="deepseek-r1", temperature=0.3) ``` #### 四、部署优化建议 1. **性能调优** - 调整分块大小（200-1000字） - 增加元数据过滤（部门/文档类型/时间） - 设置缓存机制减少重复查询 2. **安全增强** ```python # 添加权限验证层 from fastapi import Depends, HTTPException def verify_token(token: str = Header(...)): if token != VALID_TOKEN: raise HTTPException(status_code=403) ``` #### 五、验证测试 ```python response = qa_chain("我司2024年差旅费标准是多少？") print(f"答案：{response['result']}\n来源：{response['source_documents'][0].metadata}") ``` 输出示例： ``` 答案：根据2024年财务制度第三章第五条，国内差旅住宿标准为一线城市800元/晚，二线城市600元/晚 来源：{‘source’: ‘财务管理制度.pdf’, ‘page’: 12} ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值