17个传统 RAG 框架
传统的RAG(Retrieval-Augmented Generation)框架,是一种集成了多个关键环节的综合体系,这些环节包括文本切块(Chunk)、向量转换(向量化)、数据存储、信息检索、二次排序、内容生成、内容评估等。该框架的精髓在于能够灵活适应各种策略,例如文档处理方法和检索策略等。其中,具有代表性的实现有RAGFlow(专注于深度文档理解)、QAnything(引入重排序 Rerank 机制)以及高度可配置的 Dify 等。这些实现虽然在细节上有所差异,但基本原理相似。以下是17个传统 RAG 框架的总结:
1、AnythingLLM,具备完整的 RAG(检索增强生成)和AI代理能力。Github 地址:https://github.com/Mintplex-Labs/anything-llm
2、MaxKB,基于大型语言模型的知识库问答系统。即插即用,支持快速嵌入到第三方业务系统。Github 地址:https://github.com/1Panel-dev/MaxKB
3、RAGFlow,一个基于深度文档理解的开源RAG(检索增强生成)引擎。Github 地址:https://github.com/infiniflow/ragflow
4、Dify,一个开源的大型语言模型应用开发平台。Dify直观的界面结合了AI工作流、RAG流程、代理能力、模型管理、可观测性功能等,让您能快速从原型阶段过渡到生产阶段。Github 地址:https://github.com/langgenius/dify
5、FastGPT,基于LLM构建的知识型平台,提供即开即用的数据加工和模型调用能力,允许通过流程可视化进行工作流编排。Github 地址:https://github.com/labring/FastGPT
6、Langchain-Chatchat,基于Langchain和ChatGLM等不同大模型的本地知识库问答。Github 地址:https://github.com/chatchat-space/Langchain-Chatchat
7、QAnything,基于Anything的问题和答案。Github 地址:https://github.com/netease-youdao/QAnything
8、Quivr,使用Langchain、GPT 3.5/4 turbo、Private、Anthropic、VertexAI、Ollama、LLMs、Groq等与文档(PDF、CSV等)和应用程序交互,本地和私有的替代OpenAI GPTs和ChatGPT。Github 地址:https://github.com/QuivrHQ/quivr
9、RAG-GPT,RAG-GPT利用LLM和RAG技术,从用户自定义的知识库中学习,为广泛的查询提供上下文相关的答案,确保快速准确的信息检索。Github 地址:https://github.com/open-kf/rag-gpt
10、Verba,由Weaviate驱动的检索增强生成(RAG)聊天机器人。地址:https://github.com/weaviate/Verba
11、FlashRAG,一个用于高效RAG研究的Python工具包。Github 地址:https://github.com/RUC-NLPIR/FlashRAG
12、LightRAG,检索器-代理-生成器式的RAG框架。Github 地址:https://github.com/SylphAI-Inc/LightRAG
13、kotaemon,一个开源的干净且可定制的RAG UI。Github 地址:https://github.com/Cinnamon/kotaemon,
14、RAGapp,在企业中使用Agentic RAG的最简单方式。Github 地址:https://github.com/ragapp/ragapp
15、TurboRAG,通过预计算的KV缓存加速检索增强生成,适用于分块文本。Github 地址:https://github.com/MooreThreads/TurboRAG
16、TEN,实时多模态AI代理框架。Github 地址:https://github.com/TEN-framework/ten_framework
17、AutoRAG,RAG AutoML工具。Github 地址:https://github.com/Marker-Inc-Korea/AutoRAG
7个 GraphRAG 框架
GraphRAG 框架在微软颇受欢迎,随后衍生出了多个轻量级改进版本,例如LightRAG 和 nano-GraphRAG。同时,也有一些独具特色的变体,如 KAG。这些框架的核心改进在于,它们在传统 RAG 的基础上,加强了实体、社区以及文本切块(Chunk)之间的联系,并融入了现有知识图谱(KG)的知识,以此来提高信息检索的召回率和准确性。
这里总结7个:
1、LightRAG,简单快速的Graphrag检索增强生成。Github 地址:https://github.com/HKUDS/LightRAG
2、GraphRAG-Ollama-UI,使用Ollama的GraphRAG,带有Gradio UI和额外功能。Github 地址:https://github.com/severian42/GraphRAG-Ollama-UI
3、microsoft-GraphRAG,一个模块化的基于图的检索增强生成(RAG)系统。地址:Github https://github.com/microsoft/graphrag
4、nano-GraphRAG,一个简单、易于修改的GraphRAG实现。Github 地址:https://github.com/gusye1234/nano-graphrag
5、KAG,基于OpenSPG引擎的知识增强生成框架,用于构建知识增强的严格决策制定和信息检索知识服务。Github 地址:https://github.com/OpenSPG/KAG
6、Fast-GraphRAG,GraphRAG的轻量化版本。Github 地址:https://github.com/circlemind-ai/fast-graphrag
7、Tiny-GraphRAG,一个小巧的GraphRAG实现。地址:https://github.com/limafang/tiny-graphrag
在探索先进的信息处理技术领域,RAG 框架及其多样化的应用方案,比如:Naive RAG、Agentic RAG、Advanced RAG 等等,已经成为行业内的热门话题。为了帮助技术爱好者们深入理解和应用这些技术,我们精心打造了 AI Agent 项目实战训练营。这个训练营旨在通过实战演练,让您直接体验到从数据切割到内容生成的全流程,掌握关键技术的应用要领。我们承诺,通过专业的指导和实战操作,您将能够系统地提升自己在信息处理技术方面的实践能力。现在就加入我们,一起在 Agent 项目实战训练营中开启您的技术成长新篇章!
AI Agent 为啥如此火爆?
第一、这是大势所趋,我能正在经历一场重大技术变革,还不像当年的互联网的兴起,这是一场颠覆性的变革,掉队就等于淘汰,因为未来所有应用都将被AI Agent 重写一遍;
第二、现在处于红利期,先入场的同学至少会享受4~5年的红利,拿高薪,并且会掌握更多的资源。
第三、企业需求旺盛,越来越多的企业开始在 AI Agent 领域进行创新尝试,这为我们提供了丰富的岗位机会和广阔的发展空间。
最近两年一直在研究大模型应用技术,大模型的价值太大了,AI Agent 的潜力太大了,“未来所有应用都将被 AI Agent 重写一遍”这句话也是今天听到最多的一句话。我的团队这两年,尤其是今年接了很多开发 AI Agent 的项目,越来越多的企业都开始做这方面的创新尝试。
AI Agent 足够重要,但也足够复杂,我这两年的实践的结论是,想开发出一个能够可靠稳定的 Agent 应用实在太难了,大模型技术本身的复杂度,大模型推理的不确定性等等,这些困难直接导致很人对其望而却步,或是遇到问题无从下手。一般的技术同学想要自己掌握 Agent 太难了。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。