多模态RAG技术总结及知识图谱构建分割+抽取+验证三阶段思路

本文详细介绍了组合式多模态RAG的技术演进与核心流程，以及基于分割+抽取+验证的OntoMetric知识图谱构建方法。前者涵盖多模态输入输出组合、检索生成四阶段流程及训练策略；后者通过结构感知分割、本体引导提取和两阶段验证，解决ESG政策文档复杂信息自动化提取难题。

---

今天是2025年12月5日，星期五，珠海，天气晴

继续看技术进展，看RAG进展，看一个组合式多模态RAG总结性梳理，看看这块有哪些思路。

另一个是知识图谱构建进展，看看一个分割+抽取+验证做知识图谱构建思路-OntoMetric

多总结，多归纳，**多从底层实现分析逻辑，**会有收获。

一、组合式多模态RAG总结性梳理

RAG作为一种范式，可以灵活扩展，可以来个暴力组合，写综述。变成从文本RAG到多模态输入-文本输出，再到多模态输入-多模态输出的一个演进。

这块，看一个技术总结，如《A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and Output》，https://doi.org/10.36227/techrxiv.176341513.38473003/v2，https://github.com/INTREBID/Awesome-MM-RAG，所有可能使用的模态组合作为输入和输出，包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。一共54个。

看几个点。

1、看不同输入输出组合的代表方案

2、看核心流程

如下所示，看看几个核心流程：

预检索阶段，关键操作是知识库准备（4种组织方式：单模态嵌入、成对存储、统一嵌入、图构建）和查询准备（5种优化技术：扩展、改写、转换、dropout、多查询）；

检索阶段，关键操作是检索器选择（稀疏、密集、其他3类）、策略制定（混合、分层等）和时机控制（单次、迭代、自适应3种），常用方法包括BM25、CLIP、混合检索；

增强阶段，关键操作是上下文处理（重排序、选择、压缩）和优化（噪声注入、融合），常用方法有FiE（编码器内融合）、FiD（解码器内融合）；

生成阶段，关键操作是生成器构建（5大组件）和增强（提示工程、MLLM微调），常用方法包括StableDiffusion（图像生成）、LoRA微调。

3、看训练策略

训练策略分为两类。

一类是参数冻结策略：直接复用现成模块，无参数更新，适用场景为快速部署、数据标注不足或低计算资源环境，代表研究有PICa、VideoRAG，优势是训练成本低、组件复用性强，劣势是任务适配性有限；

一类是参数可训练策略：包含模块化训练（独立优化各组件，适用场景为需针对性提升特定组件性能的场景，代表研究有VisRAG、RACC，优势是灵活度高、易维护，劣势是组件协同性不足）和端到端训练（联合优化检索器与生成器，适用场景为追求最优系统性能的场景，代表研究有RA-VQA、ReVeaL，优势是性能最优，劣势是计算成本高、部署灵活度差）。

二、分割+抽取+验证做知识图谱构建思路-OntoMetric

继续看一个知识图谱构建的思路，背景是SASB、TCFD、IFRSS2等框架要求企业报告大量ESG指标，相关规则嵌入长文本、非结构化PDF，包含定义、公式、单位等复杂信息，但是人工提取耗时、易错、难以应对框架更新。传统自动化关键词匹配/手工规则缺乏语义覆盖，无法处理复杂依赖。

无约束LLM提取容易出现实体不一致、关系幻觉、缺失溯源，验证失败率高，现有ESG本体又仅含形式化schema，缺乏自然语言描述。

所以，可以细分下实现，拆成多步。

具体的看这个工作《OntoMetric: An Ontology-Guided Framework for Automated ESG Knowledge Graph Construction》(https://arxiv.org/pdf/2512.01289)，搞了一套“自动把ESG政策文档变成规整可用的知识图谱”的流程，核心是用“先拆分、再提取、后校验”的思路解决“文档乱、提取不准、没法审计”的问题。

1、结构感知分割，基于目录（TOC）边界划分文档

ESG政策文档（比如SASB、TCFD）都是几百页的PDF，直接扔给AI提取容易乱。

所以先按文档自带的“目录”拆分，比如“绿色气体排放”“数据安全”这些章节，each章节作为一个“小块”。每个小块都记着自己来自文档的哪几页、原来的标题，方便后续追溯来源。

具体实现上，步骤为：step1.识别目录页面与标题，确定自然分割边界；->step2.合并跨页表格，清理布局冗余；->step3.保留片段标题、页面范围、sectionID等元数据；->step4.确保片段为完整概念单元（如指标定义、公式）

2、本体引导LLM提取

抽取上，如下：

先告诉AI要提取5类信息（实体）：行业（比如银行业）、披露框架（比如SASB）、分类（比如环境类指标）、具体指标（比如碳排放强度）、计算模型（比如碳排放怎么算）；也就是一个是ESGMKGschema，包括5类实体（Industry、ReportingFramework、Category、Metric、Model）、5类关系谓词、7条结构规则；再定好这些信息之间的关系（比如“银行业”用“SASB框架”，“SASB框架”包含“环境类指标”）；

给一个固定模板，让它把提取的信息填成结构化的JSON（比如指标名称、单位、描述都按固定字段填），一个是提示词设计，含系统上下文、本体连接图、实体定义等9个组件；

提取时记着每个信息来自哪个小块、哪一页，避免后续找不到源头。

最后把所有小块的提取结果合并，去掉重复的信息，解析JSON、添加溯源元数据、跨片段整合（ID解析+实体/关系去重）。

3、两阶段验证

为了解决实体不一致、关系幻觉、缺失溯源、验证失败率高的问题，缓解思路是语义验证+规则化schema验证来实现。

两阶段验证层：先通过LLM校验实体类型匹配度，再用6条规则检查结构合规性，剔除幻觉内容；同时全程保留片段/页面级溯源，解决溯源缺失问题。

拆开来看这个验证问题：

两阶段验证分为语义验证（Phase1）和schema验证（Phase2），两阶段结合使验证后的知识图谱同时满足语义正确性与结构有效性。

一个是语义验证，由LLM执行，核心作用是校验每个实体的标签和描述是否与其分配的ESGMKG类型匹配，直接剔除类型错误的实体及依赖关系，解决“实体类型幻觉”问题，减少后续无效校验，例如确认提取的“碳排放强度”确实是ESG指标，而不是财务指标（比如净利润），防止类型认错；

一个是schema验证，基于6条预定义规则执行，核心作用是保障结构合规性，具体包括：

1）实体验证，实体ID必须全局唯一；

2）实体验证，实体需包含类型特定的必填字段；

3）属性验证，指标的代码（code）和单位（unit）不可为空；

4）属性验证，模型（Model）需至少包含一个有效输入变量；

5）关系验证，仅允许ESGMKG定义的5类关系谓词

6）关系验证，每个计算型指标（CalculatedMetric）需精确关联一个模型（Model）

如下：

如何学习AI大模型 ？

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

优快云粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传优快云，朋友们如果需要可以扫描下方二维码&点击下方优快云官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉优快云大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型实战项目&项目源码👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战项目来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）

为什么分享这些资料?

只要你是真心想学AI大模型，我这份资料就可以无偿分享给你学习，我国在这方面的相关人才比较紧缺，大模型行业确实也需要更多的有志之士加入进来，我也真心希望帮助大家学好这门技术，如果日后有什么学习上的问题，欢迎找我交流，有技术上面的问题，我是很愿意去帮助大家的！

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理，鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位，在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利，同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

优快云粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传优快云，朋友们如果需要可以扫描下方二维码&点击下方优快云官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉优快云大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）