M-RAG:让你的RAG更快、更强、更高效

OpenViking上下文数据库Golang集成实践 技术创新文件系统范式:将AI Agent的上下文管理从扁平向量存储提升为结构化文件系统分层检索策略:L0/L1/L2三层加载机制,减少62.1%的Token消耗记忆自迭代:会话提交触发Agent经验沉淀,实现越用越智能工程实践完整Golang实现:提供生产级可用的OpenViking客户端库企业级集成方案:涵盖文档摄入、检索、会话管理等全流程性能优化成果:检索准确率提升24.1%,响应时间减少53.3%可观测性提升可视化检索轨迹:实现检索过程的白盒化,调试效率提升77.1%全面监控指标。 阅读详情

Retrieval-Augmented Generation (RAG) 通过引入外部知识缓解了大语言模型(LLM)的知识局限和幻觉问题,已成为提升模型可靠性的主流范式。然而,传统RAG系统严重依赖**文本分块(Text Chunking)**策略来构建检索单元,这带来了固有的结构性缺陷。

Figure 1: 分块导致的信息碎片化和结构丢失

如图1所示,分块过程如同用剪刀裁剪文档,会打断原始文档的语义链(Semantic Chains),导致三种关键问题:**信息碎片化(Fragmentation)**破坏了语义连贯性;**噪声引入(Noise Introduction)**增加了无关内容;**全局上下文丢失(Loss of Global Context)**削弱了文档级推理能力。

虽然长上下文LLM的出现让"直接处理完整文档"成为可能,但这并不能解决相关性过滤和证据优先排序的核心需求。为此,本文提出M-RAG,一种无分块(CHUNK-FREE)的检索新范式。

方案:键值解耦的元标记检索

Figure 2: M-RAG整体架构

M-RAG的核心创新在于键值解耦(K-V Decomposition)设计。如图2所示,系统首先通过Marker Extractor从完整文档中提取结构化的元标记(Meta-markers),每个标记 被显式分解为两个互补组件:

  • 检索键(k):轻量级语义锚点(约19-20 tokens),针对查询意图优化,作为高效的"锚点"用于相似度匹配
  • 信息值(v):上下文丰富的内容块(约50-65 tokens),保留完整的事实关系用于生成

Table 1展示了标记提取的Prompt设计原则。系统要求LLM生成细粒度的标记,每个标记严格覆盖1-3个段落(优选1-2个),并通过段落重叠确保完整覆盖。提取过程采用零样本或少样本提示,无需任务特定训练。

组件设计要求
k (检索键)生成一个详细问题,既总结内容又作为检索查询,包含关键实体和概念
v (信息值)200-300字自包含段落,聚焦单一事实,消除代词歧义,绑定具体属性
paragraph_indices最多3个段落索引(0-2个为最佳),必须重复使用段落以确保全覆盖

检索阶段,系统仅在轻量级的k上进行相似度计算(采用HNSW算法),再根据token预算动态选取对应的v进行生成。这种设计实现了检索效率与生成质量的彻底解耦:查询匹配在紧凑的语义空间完成,而生成仍能获得完整的上下文支持。

效率与效果的双重提升

实验在LongBench的NarrativeQA、Qasper和2WikiMultihopQA任务上进行。如Table 2所示,M-RAG在低token预算(128×1)下表现尤为突出,在Qasper任务上相比Fixed-Size、Semantic和PIC基线分别提升**37.2%**、**9.2%和14.2%**,证明了在资源受限场景下的优势。

如图4所示,M-RAG的平均检索延迟显著低于基于分块的方法(在Qasper上仅需214ms,而Semantic需要226ms,PIC需要331ms)。这是因为相似度计算仅在轻量级的k上进行,避免了长文本块的嵌入计算开销。

Figure 4: 检索时间对比

进一步分析表明,M-RAG实现了**99.8%**以上的文档覆盖率,且k与v的token长度比稳定在1:2.5至1:3之间。这种稳定的解耦结构使M-RAG成为传统分块RAG的可扩展、鲁棒替代方案,为长上下文环境下的知识检索提供了新的设计思路。

学AI大模型的正确顺序,千万不要搞错了

🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!

有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!

就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

在这里插入图片描述

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!

我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

Cache-Augmented Generation(CAG):一种更快、更简单的RAG替代方案 ​ Cache-Augmented Generation(CAG)作为一种更快、更简单的替代方案,为RAG技术的四个级别深度解析)带来了革命性的变革。通过预加载知识和预计算推理状态,CAG消除了实时检索的需求,提高了效率和准确性,并简化了系统架构。 ​ 阅读详情

相关推荐

用AI学习graphify

Graphify是一个AI驱动的知识图谱构建工具,能够将代码、文档、论文、图像和视频等多模态数据转换为结构化知识图谱。其核心技术特点包括: 多模态处理能力: 支持25+编程语言的AST解析 处理PDF、Markdown等文档 集成Whisper进行音视频转录 高效知识提取: 采用确定性AST解析与LLM语义提取结合 相比直接读取源文件,查询token消耗最多减少71.5倍 增量更新机制仅处理变更文件 智能分析功能: 自动识别高中心性的"上帝节点" 发现跨领域的"意外连接&quo

我的专栏 750

基于RAG的企业智能客服项目,已拿70万offer!

基于 RAG 构建一套企业智能客服系统📖。

m0_59164520的博客 1445

到底什么是Harness工程?一篇文章从入门到企业落地全解析

随着OpenClaw爆火,Harness Engineering(驾驭工程)成为AI编程时代的热门概念,很多小白对其感到陌生。本文用通俗类比和真实案例,避开复杂术语,从基础定义入手,讲清Harness Engineering的核心逻辑——人类工程师设计“约束系统”(马具),让AI模型(烈马)安全高效地完成代码工作,同时拆解其核心组件、企业落地场景和实战成果,帮小白快速入门,读懂这项能解放人力、提升效率的新技术,轻松掌握它的核心价值和落地思路。

program哲学 3271

从Vibe Coding到可控生产力:Harness Engineering的实践启示

摘要:OpenAI提出的Harness Engineering(工程化治理)理念为AI Agent时代的软件工程提供了关键方法论,旨在解决代码高产出下的质量闭环、上下文管理等核心矛盾。其三大目标包括重构工程师角色、将AI纳入可控体系、实现低成本纠错,通过六大举措(如角色重构、机械化约束、反熵机制等)重构工程流程。该理念与vibe coding高度互补,既保留灵感驱动的敏捷性,又通过工程化体系保障稳定性,最终推动工程师从"代码生产者"升级为"工程体系设计者"。

小程故事多的博客 4400

DCDC系列(一): COT DCDC基本原理

电流环DCDC属于双环控制模式,根据电流检测的位置,分为峰值电流环控制模式、谷值电流环控制模式和平均电流环控制模式,主要由输出电压反馈环和电流环两个环路来实现控制,其瞬态响应比电压环更好,且有自动限流的功能,但仍需要斜坡补偿网络,且对噪声敏感。Stage3: 在下管NMOS打开阶段,由于后级负载此时间段内消耗的电量较少,所以VFB还未低至Vref,所以此阶段中,上管PMOS和下管NMOS均处于关断状态,此时的电感电流为0mA,此阶段测的VSW上的电压就是Cout上的电压VREG;

weixin_40073649的博客 3941

STM32F401RCT6最小系统原理图设计

STM32F401RCT6最小系统原理图设计一、主控芯片二、电源电路三、晶振电路三、下载电路四、完整电路图      本文章基于STM32F401RCT6进行最小系统原理图设计,包含主控芯片,电源,晶振电路,下载电路等几部分 一、主控芯片 主控芯片采用STM32F401RCT6,需注意: VBAT在不接电池的情况下需接3.3V,VDDAVREF+需接3.3V,否则会造成芯片供电不正常,无法启动和识别的情况 VDDAVREF+和VCAP1处电容需按照规格书

weixin_43278295的博客 2万+

bge-m3 vs m3e性能对比:中文场景下谁更适合RAG?

本文介绍了基于星图GPU平台自动化部署🧠 BAAI/bge-m3 语义相似度分析引擎的实践方法。该平台支持高效集成与扩展,适用于中文场景下的RAG系统构建。通过bge-m3模型,可实现高精度的文本嵌入与长文档检索,广泛应用于企业知识库、智能问答等AI应用开发场景。

weixin_35835018的博客 822

六、数据资产平台功能架构

该架构图展示了一个功能完善的数据资产平台,它涵盖了数据资产管理的各个方面,从数据采集、模型设计、编目到使用和分析。通过该平台,企业可以更好地管理数据资产,提高数据利用效率,并为业务决策提供有力支持。

moton2017的博客 1627

更快、更强、更经济!超越GraphRAG的大模型RAG系统LightRAG开源啦!

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享!

m0_56255097的博客 1708

游戏引擎揭秘:大厂为何死磕自研?

游戏引擎本质与商业价值解析 游戏引擎是集成了渲染、物理、动画等核心功能的开发工具包,其价值在于让开发者免于重复编写底层代码,专注于游戏内容创作。商业引擎(如Unity/Unreal)虽降低了开发门槛,但头部厂商仍坚持自研引擎,主要基于以下考量: 经济性:长期项目分摊自研成本后,比商业引擎分成更划算; 可控性:完全掌握底层代码,能针对性优化核心玩法需求; 技术壁垒:专属引擎成为厂商的竞争优势,如米哈游的跨平台渲染技术; 项目适配:超大型游戏(开放世界/MMO)需要深度定制解决方案。 这种"短期高投入

本博客聚焦游戏开发技巧、创业实战心得及大学热门课程干货。这里既有技术深度,也有思维广度,无论你是开发者、创业者还是高校学子,都能在这里找到适合自己的成长之路! 263

Hermes Agent 安装部署完全指南

Hermes Agent安装部署指南提供了两种安装方式:一键脚本安装和手动分步安装。该AI助手支持多平台运行(Linux/macOS/WSL2),核心功能仅需Git作为前置依赖,其他依赖如Python、Node.js等均由安装脚本自动处理。文档详细介绍了系统要求、依赖管理、配置目录结构、环境变量设置以及10个手动安装步骤,并提供了功能模块化选项,用户可根据需求选择安装语音交互、浏览器自动化等扩展功能。安装完成后可通过hermes doctor命令验证环境,并通过交互式向导完成初始化配置。

简简单单Onlinezuozuo 2621

【RAG实践】Rerank,让RAG更近一步

本文介绍了如何结合Rerank技术优化RAG(检索增强生成)系统,通过LlamaIndex框架和通义千问1.5大模型,构建更高效的本地知识库问答机器人。文章重点阐述了Rerank的原理和作用,即通过重新排序和筛选检索结果提升回答准确率。实践环节详细展示了环境配置、模型加载(使用GTE文本向量和bge-reranker-v2-m3)、数据处理以及系统搭建的全流程,并提供了在魔搭社区PAI-DSW平台的运行指南。该方法在不损失准确性的前提下显著提升了查询效率。

2401_84208172的博客 1013

VTK在QT与非QT环境下使用的区别

VTK可以在QT框架内使用,也可以独立于QT使用,这两种使用方式在架构、交互和渲染方面有显著差异。

深之JohnChen的专栏 629

BGE-Reranker-v2-m3与ColBERT对比:RAG系统性能实战评测

本文介绍了如何在星图GPU平台自动化部署BGE-Reranker-v2-m3镜像,实现RAG系统中的文档重排序功能。该镜像专为中文和多语言场景优化,能够深度分析查询与文档的语义匹配,显著提升检索精度,适用于技术文档检索、智能问答等应用场景。

weixin_35750747的博客 888

老 Intel Mac mini 装 OpenClaw:低成本常年在线方案

老款Intel Mac mini部署OpenClaw方案摘要 本文详细介绍了如何利用老款Intel Mac mini低成本部署OpenClaw系统。方案推荐2011-2018款Mac mini,建议升级至16GB内存和SSD存储以提升性能。部署步骤包括:1)安装Ubuntu系统;2)配置Docker环境;3)通过docker-compose部署OpenClaw及其依赖组件(PostgreSQL和Redis);4)进行系统级和Docker层面的性能优化;5)设置开机自启动服务。该方案充分利用老款设备剩余价值,

一键难忘的博客 2476

2025实战|C#上位机+STM32实现LED串灯控制:串口通信+PWM调光+自定义帧协议(附上下位机源码)

粘包:一次收到“BRIGHT:50LED_OFF”,解析完全错乱;乱码:串口波特率/编码不匹配,指令变成“??H??50”;丢帧:数据传输中少字符,比如“BRIGHT:5”,解析出亮度5而非50。因此我们设计字节级自定义帧协议协议先行:无论简单还是复杂场景,先定义清晰的帧协议,避免数据错乱;串口稳字当头:下位机用环形缓冲区接收,上位机加锁发送,避免丢包/粘包;跨线程必处理:C#上位机所有UI更新必须用Invoke,否则必崩溃;硬件是基础:接线、供电、共地这些细节,比代码更易出问题;

这里只有干货:从 Modbus 通信到 MES 对接,从 YOLO 训练到工控机部署,带你搞定工业软件开发全流程。 756

轻量高效的知识图谱RAG系统:LightRAG

LightRAG是港大Data Lab提出一种基于知识图谱结构的RAG方案,相比GraphRAG具有更快更经济的特点。

DEVELOPERAA的博客 3587

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

GraphRAG门槛高,试试更小、更快、更干净的 GraphRAG

微软开源的GraphRAG一直是被寄予厚望的下一代RAG技术,但是其使用门槛过高的问题也一直被人所诟病。Graph RAG(Graph Retrieval-Augmented Generation**)**是一种基于图的知识检索增强技术,它结合了知识图谱的广泛知识表示能力和大语言模型(LLM)的生成能力。不同于使用纯文本片段的简单语义搜索方法。GraphRAG 流程包括从原始文本中提取知识图谱、构建社区层次结构、为这些社区生成摘要,然后在执行基于 RAG 的任务时利用这些结构。

m0_59163425的博客 3486

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

LightRAG+Ollama实战:比 GraphRAG更快更便宜的知识图谱RAG

在RAG这个领域过去半年最大的变化不是 embedding 或检索算法,**而是从向量 RAG 进化到了知识图谱 RAG(GraphRAG)**。微软 2024 年发了 GraphRAG,能解决传统向量 RAG 解决不了的"全局问答"和"跨文档推理"问题,但有两个硬伤:

xx_nm98的博客 340

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

【珍藏干货】RAG检索模块优化:测试开发工程师如何让AI更准、更快、更稳

RAG检索模块优化是测试开发的重要领域,涉及向量化模型、Chunk策略、检索参数、混合检索和知识库更新五大方向。优化需通过建立评测基线、自动化回归评估和性能与语义联合验证,确保提质、降噪、提速。测试开发应构建Evaluation Pipeline,通过量化指标实现优化过程的可度量、可溯源、可复现,而非单纯依赖算法调参。

Android23333的博客 880

BGE-Reranker-v2-M3:多语言RAG场景下的高效重排序利器

本文深入解析了BGE-Reranker-v2-M3模型在多语言RAG场景下的核心优势与应用。该模型通过真正的多语言理解、分层自蒸馏技术、长文本支持以及与BGE-M3的生态协同,有效解决了传统RAG系统因排序粗糙导致的答案不准问题。文章提供了详细的集成与调优实战指南,帮助开发者显著提升检索增强生成系统的答案准确性与响应效率。

weixin_29085865的博客 543

【MLLM】2025-2026年多模态技术发展

Moonshot AI团队的Kimi-VL-A3B-Thinking。它由MoonViT(SigLIP-so-400M)作为图像编码器,以及一个拥有160亿总参数、仅28亿活跃参数的专家混合(MoE)解码器组成。该模型是Kimi-VL基础视觉语言模型的长链推理微调版本,并进一步通过强化学习进行了对齐。作者还发布了一个指令微调版本,名为Kimi-VL-A3B-Instruct。该模型可以接受长视频、PDF文件、屏幕截图等输入,并且还具备代理能力。 小巧但功能强大的模型 通过增加模型参数数量和高质量合成数据来

发现问题,并解决问题,批判性思维 3508

LLMs之RAG之CAG:《Don‘t Do RAG: When Cache-Augmented Generation is All You Need for Knowledge Tasks》翻译与解

​ LLMs之RAG之CAG:《Don't Do RAG: When Cache-Augmented Generation is All You Need for Knowledge Tasks》翻译与解读 目录 《Don't Do RAG: When Cache-Augmented Generation is All You Need for Knowledge Tasks》翻译与解读 Abstract 1、Introduction Conclusion

头部AI社区如有邀博主AI主题演讲请私信—心比天高,仗剑走天涯,保持热爱,奔赴向梦想!低调,专注,谦虚,自律,反思,成长,还算比较正能量的博主,公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然,有点小情怀,也有点使命感呀 1370

M3DocRAG:文档问答用哪个多模态大模型效果最好?

为了突破以上DocVQA方法的局限性,作者推出了M3DOCRAG(Multi-modalMulti-pageMulti-DocumentVisualQuestionAnswering,多模态多页多文档检索增强生成):一个新的多模态RAG框架,能够灵活适应各类文档情境(封闭域和开放域)、问题跳转(单跳和多跳)以及内容形式(文本、图表、图形等)。如上图,M3DOCRAG框架借助多模态检索模型检索相关文档页面,并利用多模态语言模型(MLM)从检索到的页面生成问题答案。

AIBigModel的博客 2510

BGE-Reranker-v2-m3与Embedding对比:语义匹配谁更强?

本文介绍了如何在星图GPU平台自动化部署BGE-Reranker-v2-m3镜像,实现精准语义匹配。该镜像基于先进的Cross-Encoder架构,能够深度理解查询与文档间的语义关系,有效应用于RAG系统、搜索引擎重排序等场景,显著提升复杂语义匹配的准确性和可靠性。

weixin_33298352的博客 667
上一篇: 多模态大模型系统综述全解(非常详细),大模型技术进阶从入门到精通,收藏这一篇就够了!
下一篇: MemSifter 核心机制深度解析(非常详细),4B小模型管理大模型记忆从入门到精通,收藏这一篇就够了!
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2835原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值