大模型开发者必看：LightRAG架构详解与实战，建议永久收藏

原创 于 2026-01-07 13:39:24 发布 · 703 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #学习 #大模型 #转行 #ai #产品经理 #程序员

一、系统架构

LightRAG使用模块化架构，包含四个主要组件：

  • 文档处理管道：将文档分割成片段并提取实体和关系
  • 存储层：管理向量嵌入、知识图谱和文档状态
  • 检索引擎：使用向量搜索和图遍历实现各种检索策略
  • 响应生成：使用 LLM 基于检索到的上下文创建连贯的响应

二、核心组件

LightRAG 围绕几个相互作用的组件构建，每个组件都有特定的职责：

组件描述关键类
存储层管理不同类型的数据，具有专门的后端BaseKVStorage, BaseVectorStorage, BaseGraphStorage, DocStatusStorage
文件处理管道将文档转换为块、实体和关系extract_entities, merge_nodes_and_edges
知识图谱管理实体和关系连接BaseGraphStorage
查询引擎使用知识图谱处理用户查询kg_query, naive_query
LLM集成与不同的语言模型接口lightrag/llm/

三、存储架构

LightRAG采用多层存储架构，具有针对不同数据类型的专用组件。这种设计允许灵活选择后端，并针对每种数据类型进行优化性能。

存储系统使用可插拔架构，具有多种实现选项：

  • 键值(KV)存储：

  • 存储完整文档、文本块和 LLM 响应缓存

  • 默认实现：JsonKVStorage

  • 其他后端：Redis、MongoDB

  • 向量存储：

  • 存储语义搜索的向量嵌入

  • 默认实现：NanoVectorDBStorage

  • 其他后端：Faiss、Milvus、Qdrant

  • 图存储：

  • 存储知识图谱结构

  • 默认实现：NetworkXStorage

  • 其他后端：Neo4j、MongoDB、PostgreSQL

  • 文档状态存储：

  • 跟踪文档处理状态

  • 默认实现：JsonDocStatusStorage

存储后端多种可配置项：

存储类型功能可用后端
KV存储文档和文本块存储JsonKVStorage, PGKVStorage, RedisKVStorage, MongoKVStorage
向量存储嵌入向量存储NanoVectorDBStorage, PGVectorStorage, MilvusVectorDBStorage, ChromaVectorDBStorage, FaissVectorDBStorage, MongoVectorDBStorage, QdrantVectorDBStorage
图存储图边和节点存储NetworkXStorage, Neo4JStorage, PGGraphStorage, AGEStorage, MemgraphStorage
文档状态存储文档处理状态JsonDocStatusStorage, PGDocStatusStorage, MongoDocStatusStorage

四、文档处理管道

LightRAG 通过一个复杂的管道处理文档，将原始文本转换为知识图谱，同时保留原始上下文：

  • 文本处理步骤：

  • 文档摄取：接收文档并分配唯一 ID。

  • 分块：根据标记大小将文档拆分为更小的块。

  • 实体提取：使用 LLM 识别每个块中的实体和关系。

  • 知识图谱构建：实体成为节点，关系成为边。

  • 向量嵌入：块、实体和关系嵌入以进行语义搜索。

  • 多模态拓展：

五、查询引擎

LightRAG提供了多种不同的检索模式，用于确定如何检索信息：

  • naive：简单的向量搜索，没有知识图谱
  • local：关注上下文相关的信息
  • global：利用全局知识图谱连接
  • hybrid：结合本地和全局检索方法
  • mix：结合知识图谱和向量检索

通过更改QueryParam中的mode参数来尝试不同的模式。

模式描述用法
naive简单的块向量搜索基本文档检索
local针对查询中相关实体的知识图谱遍历专注的上下文知识
global更广泛的知识图谱探索广泛的知识综合
hybrid结合本地和全局方法深度和广度之间的平衡
mix使用所有检索方法的复杂方法最全面的检索
bypass直接LLM查询，不进行检索当不需要外部知识时

六、LLM和嵌入集成

LightRAG设计用于与各种LLM提供商和嵌入模型一起工作，提供模型选择的灵活性：

  • LLM集成

  • 支持的 LLM 提供商：OpenAI、Azure OpenAI、Anthropic、Hugging Face、Ollama

  • 模型选择：通过环境变量或直接API进行配置

  • 流式支持：异步流式响应以实现实时交互

  • 缓存：内置响应缓存以减少API调用

  • 嵌入模型

  • 嵌入函数：可插拔的嵌入函数用于向量表示

  • 批量处理：高效的批量处理以进行文档嵌入

  • 缓存：嵌入缓存以减少冗余计算

七、数据流架构

LightRAG中的完整数据流从文档摄取到查询响应遵循循环模式：

八、扩展

LightRAG提供了几个扩展和集成点：

  • 自定义知识图谱集成：

  • 直接插入自定义知识图谱

  • 与外部图数据源集成

  • 重排序：

  • 可选的重排序模型以改进检索质量

  • 与各种重排序服务兼容

  • 可视化工具：

  • 知识图谱可视化功能

  • 与Neo4j和其他可视化库集成

  • Web UI和API服务器：

  • 内置Web界面用于文档管理

  • REST API用于与其他应用程序集成

普通人如何抓住AI大模型的风口？

领取方式在文末

为什么要学习大模型？

目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。

目前，开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景，其中，应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。
在这里插入图片描述

随着AI大模型技术的迅速发展，相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业：
在这里插入图片描述

人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！

最后

只要你真心想学习AI大模型技术，这份精心整理的学习资料我愿意无偿分享给你，但是想学技术去乱搞的人别来找我！

在当前这个人工智能高速发展的时代，AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长，真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料，能够帮助更多有志于AI领域的朋友入门并深入学习。

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
在这里插入图片描述

大模型全套学习资料展示

自我们与MoPaaS魔泊云合作以来，我们不断打磨课程体系与技术内容，在细节上精益求精，同时在技术层面也新增了许多前沿且实用的内容，力求为大家带来更系统、更实战、更落地的大模型学习体验。

图片

希望这份系统、实用的大模型学习路径，能够帮助你从零入门，进阶到实战，真正掌握AI时代的核心技能！

01 教学内容

图片

  • 从零到精通完整闭环：【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块，内容比传统教材更贴近企业实战！

  • 大量真实项目案例： 带你亲自上手搞数据清洗、模型调优这些硬核操作，把课本知识变成真本事‌！

02适学人群

应届毕业生‌： 无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌： 非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能突破瓶颈： 传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

image.png

vx扫描下方二维码即可
在这里插入图片描述

本教程比较珍贵，仅限大家自行学习，不要传播！更严禁商用！

03 入门到进阶学习路线图

大模型学习路线图，整体分为5个大的阶段：
图片

04 视频和书籍PDF合集

图片

从0到掌握主流大模型技术视频教程（涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向）

图片

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路（不吹牛，真有用）
图片

05 行业报告+白皮书合集

收集70+报告与白皮书，了解行业最新动态！
图片

06 90+份面试题/经验

AI大模型岗位面试经验总结（谁学技术不是为了赚$呢，找个好的岗位很重要）图片
在这里插入图片描述

07 deepseek部署包+技巧大全

在这里插入图片描述

由于篇幅有限

只展示部分资料

并且还在持续更新中…

真诚无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发
在这里插入图片描述

构建高效复杂系统的关键：架构与模块详解
曾经“等你生日那天”都遥远得像未来，如今却可欢愉的挥手说“下个十年见”
02-03 11万+
复杂系统是由多个相互关联、相互作用的组件组成的大型系统，通过这些组件的协同工作来完成特定的任务或提供特定的服务。在设计复杂系统时，通常会考虑以下五个关键模块：接入系统 (Access System)+应用系统 (Application System)+基础平台 (Foundation Platform)+中间件 (Abundant External Middleware)+支撑系统 (Supporting System)
单体到微服务：电商平台架构的演变与可扩展性探索
热门推荐
曾经“等你生日那天”都遥远得像未来，如今却可欢愉的挥手说“下个十年见”
10-14 10万+
可扩展性是软件架构中至关重要的特性，它确保系统能够在需求增长和规模扩大的情况下保持高效运行。为实现可扩展性，首要考虑模块化设计，将系统分解为独立、低耦合的模块，使得扩展时能够有针对性地进行修改而不影响整体。同时，水平扩展和垂直扩展是两种常见的扩展策略，前者通过增加节点或服务器来分担负载，后者则通过提升单节点性能来处理更多请求。弹性设计是实现可扩展性的关键，系统需要能够动态地分配和释放资源，以适应负载的波动。采用服务化架构，将系统拆解成小型服务单元，有助于独立开发和扩展。
使用SQLBot实现Text-2-SQL本地部署教程
Kanen001的博客
09-01 3147
SQLBot是一款基于大模型和 RAG 的智能问数系统。开箱即用: 只需配置大模型和数据源即可开启问数之旅，通过大模型和 RAG 的结合来实现高质量的 text2sql；易于集成: 支持快速嵌入到第三方业务系统，也支持被 n8n、MaxKB、Dify、Coze 等 AI 应用开发平台集成调用，让各类应用快速拥有智能问数能力；安全可控: 提供基于工作空间的资源隔离机制，能够实现细粒度的数据权限控制。
SQLBot（ChatBI）：基于大语言模型和RAG的智能数据分析工具-全流程操作指南
09-06 2098
SQLBot 是一款基于大语言模型（Large Language Model，LLM）和 RAG（Retrieval Augmented Generation，检索增强生成）的智能问数系统。借助 SQLBot，用户可以实现数据的即问即答，快速提炼获取所需的数据信息及可视化图表，并且支持进一步开展智能分析。【数据源】用来管理各类数据连接信息，是后续的智能问数和数据分析中数据的来源。新建/填加数据源：点击右上角绿色按钮可新建数据源，支持多种类型；数据源搜索：顶部搜索框支持按名称关键字快速查找数据源；
极速掌握数据！基于大模型和 RAG 的智能问数系统 SQLBot 来了！
weixin_44626085的博客
08-27 858
SQLBot是一款基于大模型和RAG技术的智能数据库查询系统，具有开箱即用、易于集成和安全可控三大优势。用户只需简单配置即可快速部署，支持与多种AI平台集成，并提供细粒度的数据权限控制。安装仅需执行几条Docker命令或通过1Panel应用商店完成，默认访问地址为http://服务器IP:8000。该系统通过直观的UI界面简化数据查询流程，为企业和个人提供高效的智能问数体验。文末还推荐了DataEase、1Panel等同类型开源项目供用户参考。
一文搞懂AI大模型学习路线：核心知识点 + 实战路径全解析
Android_XG的博客
07-18 901
一文搞懂AI大模型学习路线：核心知识点 + 实战路径全解析
大模型中的token是什么？
金木AI
02-21 1万+
如果我们将这个句子分解成单词级别的token，那么包含的token有：“The”, “quick”, “brown”, “fox”, “jumps”, “over”, “the”, “lazy”, “dog”。例如，将单词"jumps"分解成"jump"和"s"，“walked"分解成"walk"和"ed”。大模型的token可以是单词级别的，也可以是子词级别的，甚至是字符级别的，具体取决于模型的设计和训练方式。大模型的"token"是指在自然语言处理（NLP）任务中，模型所使用的输入数据的最小单元。
Spring Cloud微服务架构实战教程：从零搭建电商系统源码详解
最新发布
12-15
本资源提供一套完整的Spring Cloud微服务架构实战项目，涵盖电商系统核心模块。通过详细教程和源码解析，帮助开发者掌握微服务拆分、...适合中高级Java开发者学习微服务架构设计与实战应用，提升分布式系统开发能力。
软件开发者路线图：从学徒到高手
01-27
《软件开发者路线图：从学徒到高手》完整版，以前下载过6.3M那种，只有1、2章，此为完整版，旨在分享好东西
大模型自我认知微调的实战教程
herosunly的博客
12-30 4万+
本文主要介绍了大模型自我认知微调的实战教程，希望对学习大语言模型的同学们有所帮助。微调成功并保留原有能力的截图如下所示： 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 3. 实战代码 3.1 配置数据集 3.2 lora微调
Dify智能体：通用合同审查助手.yml
07-27
Dify智能体：通用合同审查助手.yml
一文读懂大模型（LLM）的 Token：Token 究竟是什么？一文看懂！
weixin_72959097的博客
07-11 1908
在大模型（LLM）的世界里，token 是一个基础且重要的概念。接下来，让我们一文读懂大模型中的 token 究竟是什么。
一起来聊聊大模型的token
一起来研究langchain和langchain-chatchat
05-24 6600
学习大模型的朋友肯定听说过大模型接口按token，自己编写代码的时候也经常看到token这个词，那它究竟是什么呢，我们一起来探究一下在大模型中，token不一定是一个完整的词。它可以是一个词、一部分词、字符甚至是标点符号。这取决于所使用的分词方法。子词分词方法（如 BPE 和 WordPiece）在现代 NLP 模型中非常常见，因为它们能够高效地处理各种语言现象，同时保持词汇表的紧凑性。
【写给小白的LLM】AI大模型中的 token 到底是个什么？
javatiange的博客
05-24 1101
本文介绍了AI大模型中的核心概念——Token。Token是文本处理的最小单位，相当于AI理解语言的"积木块"，可以是一个单词、标点符号或子词。文章解释了中英文Token的差异：中文1个Token约1-2个汉字，英文1个Token约0.75个单词。Token数量直接影响AI服务的计费（如ChatGPT按Token收费）和内容长度限制（如GPT-3.5最多支持4096 Tokens）。技术层面，Token通过分词算法转换，每个Token对应唯一ID和数学向量。文章还提供了优化Token使用
一文读懂大模型中的token
2401_85378759的博客
12-14 7825
学习大模型的朋友肯定听说过大模型接口按token，自己编写代码的时候也经常看到token这个词，那它究竟是什么呢，我们一起来探究一下在大模型中，token不一定是一个完整的词。它可以是一个词、一部分词、字符甚至是标点符号。这取决于所使用的分词方法。子词分词方法（如 BPE 和 WordPiece）在现代 NLP 模型中非常常见，因为它们能够高效地处理各种语言现象，同时保持词汇表的紧凑性。带有空格前缀（如Ġworld）和不带空格前缀（如world。
大模型中token名词解释
caoyongsheng的博客
08-22 3862
单值属性只有一个值，例如"北京"这个实体的"天气"属性只有一个值"晴"。多值属性可以有多个值，例如"北京"这个实体的"人口"属性有多个值"1,000,000"、"2,000,000"、"3,000,000"等等。显式属性是指在知识图谱中明确定义的属性，例如"北京"这个实体的"天气"属性。隐式属性是指在知识图谱中没有明确定义的属性，例如"北京"这个实体的"人口"属性。例如，"北京"这个实体有一个"天气"属性，"天气"这个属性是一个关系，它将"北京"这个实体和"晴"这个实体连接起来。
一文搞懂Transformer的位置编码
xian0710830114的专栏
10-08 2万+
本文介绍Transformer的位置编码，有图有表有推导，看不懂你打我！！！在Transformer出现以前，NLP任务大多是以RNN、LSTM为代表的循环处理方式，即一个token一个token的输入到模型当中。这种设计存在天生的缺陷。为了解决这些缺陷，Transformer把token的顺序信号加到词向量上帮助模型学习这些信息，这就位置编码（Positional Encoding）。接下来的内容不会涉及Self-Attention等牛逼的创新设计，只讨论位置编码，希望对大家有所帮助。
一文搞懂Transformer中的位置编码Positional Encoding
baidu_33000721的博客
04-09 2408
Transformer中Positional Encoding的思考
大模型语义分析之嵌入(Embedding)模型
2401_85328934的博客
12-30 1574
嵌入是大模型的基础，而嵌入的底层结构就是向量，而表示方式就是矩阵嵌入——Embedding，可能有些人了解过这个词，也可能没了解过这个词；但不管怎么说，嵌入在大模型技术中扮演着非常重要的角色；它是很多上层技术的基础。大模型的底层数学结构是向量，而由于计算机只能进行数值计算；因此向量在计算机中是通过矩阵结构进行表示的，优点就在于计算简单；并且能进行升维和降维操作。大模型之嵌入——Embedding今天在研究RAG技术的时候，一直在思考一个问题，嵌入；
lightrag
05-26
### 关于 LightRAG 的 IT 技术相关信息 LightRAG 是一种基于检索增强生成（Retrieval-Augmented Generation, RAG）的技术框架，旨在通过结合检索模块和生成模型来提升自然语言处理任务的效果。以下是关于 LightRAG 的一些关键技术点和技术实现细节： #### 1. **双级检索范式** 为了更有效地从具体文档片段及其复杂依赖关系中提取相关信息，LightRAG 提出了在详细和抽象两个层面上生成查询键的方法[^2]。这种设计使得系统能够更好地理解上下文并提供高质量的结果。 #### 2. **Docker 部署方式** 可以通过 Docker 容器化的方式部署 LightRAG 系统。以下是一个典型的命令示例： ```bash docker run -it -d -p 8020:8020 \ -e FASTCHAT_WORKER_API_TIMEOUT=600 \ -e TIKTOKEN_CACHE_DIR=/home/data/LightRAG/data-gym-cache \ --restart=always \ -v "/home/data/LightRAG:/home/data/LightRAG" \ -v /etc/localtime:/etc/localtime:ro \ lightrag ``` 此命令设置了容器运行环境中的端口映射、环境变量以及数据挂载路径等参数[^1]。这些配置有助于确保系统的稳定性和性能优化。 #### 3. **图谱生成能力** LightRAG 不仅支持传统的文本检索功能，还具备强大的图谱生成能力。它可以从结构化的知识库中抽取实体间的关系，并将其转化为语义网络形式用于后续分析或展示[^1]。 #### 4. **应用场景** 该技术广泛应用于问答系统、对话机器人等领域，在需要融合外部知识源的任务场景下表现出色。其核心优势在于能够在不牺牲效率的前提下显著提高生成内容的相关度与准确性。 #### 示例代码：启动 FastChat 工作节点 如果希望进一步扩展 LightRAG 功能，则可以考虑集成其他开源工具如 FastChat 来构建更加完善的解决方案。下面给出一段简单的 Python 脚本作为参考： ```python import os os.environ['FASTCHAT_WORKER_API_TIMEOUT'] = '600' os.environ['TIKTOKEN_CACHE_DIR'] = '/path/to/cache' def start_light_rag(): command = ( f"docker run -it -d -p 8020:8020 " "-e FASTCHAT_WORKER_API_TIMEOUT=${FASTCHAT_WORKER_API_TIMEOUT} " "-e TIKTOKEN_CACHE_DIR=${TIKTOKEN_CACHE_DIR} " "--restart=always " "-v \"/data/lightrag:/data/lightrag\" " "lightrag" ) os.system(command) start_light_rag() ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值