RAG相关理论知识与经验整理。
谈到大模型在各垂直领域中的应用，一定离不开RAG，本系列开始分享一些RAG相关使用经验，可以帮助大家在效果不理想的时候找到方向排查或者优化。
本系列以医疗领域为例，用面试题的形式讲解RAG相关知识，开始RAG系列的分享~
本篇主要是理论知识与经验；后续会结合最新的优化方法给出详细的优化代码，和实践中衍生的思考。
下面是本篇的快捷目录。
\1. RAG思路
\2. RAG中的prompt模板
\3. 检索架构设计
一、RAG思路
这里有一张经典的图：
具体步骤是：
- 加载文件
- 读取文本
- 文本分割
- 文本向量化
- 问句向量化
- 在文本向量中匹配出与问句向量最相似的top k个
- 匹配出的文本作为上下文和问题一起添加到 prompt 中
- 提交给 LLM 生成回答
二、RAG中的prompt模板
已知信息：{context}
根据上述已知信息，简洁和专业的来回答用户的问题。如果无法从中得到答案，请说 “根据已知信息无法回答该问题” 或 “没有提供足够的相关信息”，不允许在答案中添加编造成分，答案请使用中文。
问题是：{question}
其中 {context} 就是检索出来的文档。
三、检索架构设计
基于LLM的文档对话架构分为两部分，先检索，后推理。重心在检索（推荐系统），推理一般结合langchain交给LLM即可。
因此接下来主要是检索架构设计内容。
1. 检索要求
- 提高召回率
- 能减少无关信息
- 速度快
2. 检索逻辑
拿到需要建立检索库的文本，将其组织成二级索引，第一级索引是 [关键信息]，第二级是 [原始文本]，二者一一映射。 [关键信息]用于加快检索， [原始文本]用于返回给prompt得到结果。
向量检索基于关键信息embeddig，参与相似度计算，检索完成后基于关键信息与原始文本的映射，将原始文本内容作为 {context} 返回。
主要架构图如下：
3. 切分与关键信息抽取
关键信息抽取前需要先对拿到的文档进行切分。
其实文档切分粒度比较难把控，粒度过小的话跨段落语义信息可能丢失，粒度过大噪声又太多。因此在切分时主要是按语义切分。
因此拿到文档先切分再抽取关键信息，可根据实际情况考虑是否进行文章、段落、句子更细致粒度的关键信息抽取。
下面具体来讲讲方法和经验：
1）切分
- 基于NLP篇章分析（discourse parsing）工具
提取出段落之间的主要关系，把所有包含主从关系的段落合并成一段。这样对文章切分完之后保证每一段在说同一件事情。
- 基于BERT中NSP（next sentence prediction）的训练任务
基于NSP（next sentence prediction）任务。设置相似度阈值t，从前往后依次判断相邻两个段落的相似度分数是否大于t，如果大于则合并，否则断开。
2）关键信息抽取
- 直接存储以标点切分的句子：只适用于向量库足够小（检索效率高）且query也比较类似的情况。
- 传统NLP工具：成分句法分析（constituency parsing）可以提取核心部分（名词短语、动词短语……）；命名实体识别（NER）可以提取重要实体（货币名、人名、企业名……）。
- 生成关键词模型：类似于ChatLaw中的keyLLM，，即：训练一个生成关键词的模型。在医疗领域中，这个方法是目前比较靠谱且能通用的方法。
如何学习AI大模型？
作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
一、全套AGI大模型学习路线
AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！
二、640套AI大模型报告合集
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
四、AI大模型商业化落地方案
作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。
扫一扫
24万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
