企业本地知识库的搭建和使用「RAGFlow」，大模型入门到精通，收藏这篇就足够了！

关注

原创最新推荐文章于 2026-03-29 09:49:00 发布 2.3k 阅读 AI 写同款· GEO 优化 ›

本地如何通过Ollama部署llama3、phi3等本地大模型？来运行阿里的通译千问大模型，生成内容质量还可以而且速度也很快，（题外：生成的文章如果收录不是很好，最好不要用markdown格式和html格式，直接用文本格式）包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。阅读详情

一、介绍

前面我们讲到《企业本地知识库的搭建选型方案》，本节我们介绍其中的：RAGFlow。RagFlow 是一款开源的 RAG（Retrieval-Augmented Generation）引擎，专注于深度文档理解，能够助力企业及个人构建高效的 RAG 工作流程。借助大语言模型（LLM），它可以精准处理各种复杂格式的数据，为用户提供可靠的问答服务，并附上详实的引用依据。

RAGFlow特点和核心功能：

深度文档理解： 能够从各类复杂格式的非结构化数据中提取真知灼见。真正在无限上下文（token）的场景下快速完成大海捞针测试。对于用户上传的文档，它需要自动识别文档的布局，包括标题、段落、换行等，还包含难度很大的图片和表格。对于表格来说，不仅仅要识别出文档中存在表格，还会针对表格的布局做进一步识别，包括内部每一个单元格，多行文字是否需要合并成一个单元格等。并且表格的内容还会结合表头信息处理，确保以合适的形式送到数据库，从而完成 RAG 针对这些细节数字的“大海捞针”。
可控可解释的文本切片： RAGFlow 提供多种文本模板，用户可以根据需求选择合适的模板，确保结果的可控性和可解释性。因此 RAGFlow 在处理文档时，给了不少的选择：Q&A，Resume，Paper，Manual，Table，Book，Law，通用… 。当然，这些分类还在不断继续扩展中，处理过程还有待完善。后续还会抽象出更多共通的东西，使各种定制化的处理更加容易。
降低幻觉： RAGFlow 是一个完整的 RAG 系统，而目前开源的 RAG，大都忽视了 RAG 本身的最大优势之一：可以让 LLM 以可控的方式回答问题，或者换种说法：有理有据、消除幻觉。我们都知道，随着模型能力的不同，LLM 多少都会有概率会出现幻觉，在这种情况下，一款 RAG 产品应该随时随地给用户以参考，让用户随时查看 LLM 是基于哪些原文来生成答案的，这需要同时生成原文的引用链接，并允许用户的鼠标 hover 上去即可调出原文的内容，甚至包含图表。如果还不能确定，再点一下便能定位到原文。RAGFlow 的文本切片过程可视化，支持手动调整，答案提供关键引用的快照并支持追根溯源，从而降低幻觉的风险。
兼容各类异构数据源： RAGFlow支持丰富的文件类型，包括 Word 文档、PPT、excel 表格、txt 文件、图片、PDF、影印件、复印件、结构化数据, 网页等。对于无序文本数据，RAGFlow 可以自动提取其中的关键信息并转化为结构化表示；而对于结构化数据，它则能灵活切入，挖掘内在的语义联系。最终将这两种不同来源的数据统一进行索引和检索，为用户提供一站式的数据处理和问答体验。
自动化 RAG 工作流： RAGFlow 支持全面优化的 RAG 工作流可以支持从个人应用乃至超大型企业的各类生态系统；大语言模型 LLM 以及向量模型均支持配置，用户可以根据实际需求自主选择。；基于多路召回、融合重排序，能够权衡上下文语义和关键词匹配两个维度，实现高效的相关性计算；提供易用的 API，可以轻松集成到各类企业系统，无论是对个人用户还是企业开发者，都极大方便了二次开发和系统集成工作。

RAGFlow系统结构：

官网：https://ragflow.io/docs/dev/

github：https://github.com/infiniflow/ragflow

二、本地部署和运用

先决条件：

CPU ≥ 4 cores (x86);

RAM ≥ 16 GB;

Disk ≥ 50 GB;

Docker ≥ 24.0.0 & Docker Compose ≥ v2.26.1。

本地部署和配置：

注意需要依赖docker环境和本地大模型推理引擎框架ollama。

>$ vim /etc/sysctl.conf #添加或修改文件句柄大小，linux：vm.max_map_count=262144；mac：docker run --rm --privileged --pid=host alpine sysctl -w vm.max_map_count=262144
>$ ollama pull deepseek-r1:8b #部署模型
>$ git clone https://github.com/infiniflow/ragflow.git
>$ cd ragflow/docker
>$ vim .env #确保下面打开和关闭的注释正确（参考下图）
>$ docker compose up -d #docker 启动下面5个组件 （参考下图）
>$ docker logs -f ragflow-server # 查看运行日志，下面有解析失败的的情况可以查询下失败的详情

http://127.0.0.1/login 打开浏览器直接注册账号登录，用户名和密码。

添加模型和向量模型：

接入模型：【我的图像】->【模型提供商】->【带添加的模型】->【添加模型】，新增推理模型和向量模型如下：

在【系统模型设置】中配置聊天模型和嵌入模型为我们刚刚添加的模型：

知识库：

创建建议应用：【知识库】->【创建知识库】如下（与其他本地知识库框架不同的是RAGFlow提供了不同场景文档格式（General、Q&A、Resume、Manual、Table、Paper、Book、Laws、Presentation、One、Knowledge Graph、Tag）的切分方案）:

创建知识库并上传文档：

知识库配置完成后上传文件，【数据集】-> 【上传文件】，如下：

数据分块做Chunking，对于我这个招聘场景每个分片最多可以设置2048个token，这里不同的场景需要做不同的Chunking策略，等待解析状态变成成功后即完成。

创建应用：

RAGFlow提供的应用主要有三种模式：

聊天： 基于 LLM 构建对话式交互的助手。
搜索： 基于知识库内容进行搜索的助手模式，能快速在知识库上精准搜索出用户的匹配内容并返回给用户。
Agent： 能够分解任务、推理思考、调用工具的对话式智能助手。

【聊天】->【新建助理】:

案例： 下面以最近实施的一个项目为例，企业怎么高效准确的通过招聘jd匹配最合适的求职者，提高企业的招聘效率，让hr从繁重的人工筛选简历中释放出来，让hr的工作重心回归企业的发展和员工关怀上。我们可以通过把企业人才储备库中的优质候选人导入到内网的知识库，有招聘需求时随时准确高效的找到优质候选人简历，应用编排的时候还可以配置标准化的变量输入格式，提高问题的识别度和准确性：