40K Star——开源RAG引擎+Agent应用平台，适用于搭建个人或企业级私有知识库

RAGFlow是由Infiniflow团队开发的一款开源检索增强生成（RAG）引擎，其核心目标是通过结合大语言模型（LLM）与深度文档理解技术，为用户提供高效、精准的知识库问答服务。该工具特别擅长处理复杂格式的非结构化数据（如Word、PDF、表格、图片等），并支持本地化部署，适用于从个人应用到企业级场景的多样化需求。

开源地址：https://github.com/infiniflow/ragflow

开源协议：Apache-2.0 license

01.

核心功能

深度文档理解与智能解析

RAGFlow通过自研的深度文档解析技术，能够精准提取多模态数据中的关键信息，包括扫描件、影印件、网页等复杂格式。例如，医疗领域的结构化数据（如CSV文件）可通过其模板化分块功能实现高效向量化，为后续检索提供可靠基础。

可控的文本切片与可视化

系统支持基于模板的文本分块策略，用户可根据需求选择不同的分块模板，并实时查看分块过程的可视化结果。这种“可解释性”设计有效降低了模型生成中的“幻觉”现象，确保答案的可追溯性。

多源异构数据兼容

RAGFlow兼容超过20种文件类型，包括PPT、Excel、PDF、图片等，并支持从数据库、API等多种数据源实时检索信息。例如，在医疗问诊助手的搭建中，用户可上传包含数十万条QA对的CSV文件，系统会自动解析并构建知识索引。

自动化RAG工作流

从文档上传、分块、向量化到检索生成，RAGFlow提供端到端的自动化流程。其多路召回与融合重排序算法显著提升检索效率，结合动态参数调整（如温度值、Top P等），可灵活适配不同业务场景。

02.

技术优势

高性能混合检索

采用稠密向量+稀疏向量+结构化检索的混合模式，支持亿级数据量的毫秒级响应。通过集成ColBERT等先进算法，RAGFlow在保证检索精度的同时降低了延迟，适用于金融、医疗等高实时性场景。

本地化部署能力

用户可通过Docker快速部署私有化服务，支持与Ollama、Xinference等工具集成本地大模型（如Qwen-7B）。例如，医疗场景中可完全在本地运行知识库、向量模型和LLM，确保数据隐私。

动态反馈与自优化

系统内置自动化质量检测机制，若生成结果不符合预设标准（如引用缺失），会自动触发重新检索或参数调整流程。这种闭环优化显著提升了问答系统的长期稳定性。

03.

应用场景

智能客服与医疗问诊

通过整合医疗QA数据集（如PubMed论文数据），RAGFlow可构建本地化问诊助手，根据患者症状动态生成诊断建议，并精准引用医学文献。

法律合规支持

从法律文本中提取条款，自动生成合同审查报告。例如，系统可快速定位《民法典》中相关条文，并生成条款解读与修订建议。

企业知识管理

支持将内部文档（技术手册、市场报告）转化为可交互的知识库。员工可通过自然语言查询获取精准答案，同时溯源至原始文件的具体段落。

教育科研辅助

为学生提供动态解题步骤推导，或为研究人员自动生成文献综述。例如，输入“量子计算最新进展”，系统可检索预印本网站并生成结构化摘要。

04

部署指南

环境要求

• 硬件：4核CPU/16GB内存/50GB磁盘
• 软件：Docker≥24.0.0、Docker Compose≥v2.26.1

快速启动

# 克隆仓库并启动服务
git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker
docker compose -f docker-compose-CN.yml up -d

启动后访问http://localhost即可进入管理界面，需注意提前设置vm.max_map_count≥262144以避免内存问题。

模型配置

• 本地模型：通过Ollama部署Qwen等模型，在RAGFlow中配置http://host.docker.internal:11434作为基础URL。
• 云端API：支持DeepSeek、OpenAI等主流模型，需在service_conf.yaml中填写API密钥。

---

RAGFlow通过深度文档解析与混合检索算法的深度结合，解决了传统RAG系统在复杂格式处理与精准召回上的痛点。其开源特性与模块化设计，使其成为企业构建私有知识库的理想选择。随着2024年4月新增的对话API与本地模型支持，RAGFlow正在推动RAG技术从实验室走向产业落地。开发者可通过其GitHub仓库快速体验完整功能，或参考社区案例拓展应用边界。

 如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

基于此，我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近70次后，终于把整个AI大模型的学习门槛，降到了最低！

在这个版本当中：

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲，跟着我做即可，为了让学习的道路变得更简单，这份大模型教程已经给大家整理并打包，现在将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

三、LLM大模型系列视频教程

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

五、AI产品经理大模型教程

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

• 目标：了解AI大模型的基本概念、发展历程和核心原理。

• 内容：

  • L1.1 人工智能简述与大模型起源
  • L1.2 大模型与通用人工智能
  • L1.3 GPT模型的发展历程
  • L1.4 模型工程
  • L1.4.1 知识大模型
  • L1.4.2 生产大模型
  • L1.4.3 模型工程方法论
  • L1.4.4 模型工程实践
  • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

• 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

• 内容：

  • L2.1 API接口
  • L2.1.1 OpenAI API接口
  • L2.1.2 Python接口接入
  • L2.1.3 BOT工具类框架
  • L2.1.4 代码示例
  • L2.2 Prompt框架
  • L2.3 流水线工程
  • L2.4 总结与展望

阶段3：AI大模型应用架构实践

• 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

• 内容：

  • L3.1 Agent模型框架
  • L3.2 MetaGPT
  • L3.3 ChatGLM
  • L3.4 LLAMA
  • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

• 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

• 内容：

  • L4.1 模型私有化部署概述
  • L4.2 模型私有化部署的关键技术
  • L4.3 模型私有化部署的实施步骤
  • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

​