在讨论了 RAG 的 chunking、embedding、评估指标、评估流程等技术后,我们进一步探讨 RAG 系统的实际应用。在实际项目中,RAG(Retrieval-Augmented Generation)系统的检索阶段往往是影响生成效果的核心环节。RAG 系统的工作流程包括数据摄取(Data Ingestion)和数据查询(Data Querying),其中检索是至关重要的一步。本文介绍了在一个案例中,团队如何通过2个关键技巧把 RAG 检索准确率从 50% 提高到 95 %
1. 什么是 RAG 检索准确率?为什么它很重要?
RAG 检索准确率(Recall)是衡量检索系统能否找到与用户查询相关的所有文档的指标。它在 RAG 系统中尤为重要,因为如果检索阶段无法提供足够的上下文,即使生成模型再强大,也难以输出高质量结果。高检索准确率是确保生成内容相关性的基础。
检索准确率(Recall)公式如下:
示例:
-
用户查询 “Swedish massage in Helsinki”。
-
数据库中有 10 条相关文档,检索系统返回 9 条相关文档和 1 条不相关文档。
-
检索准确率计算:
2. 案例背景
在这个案例中,我们通过两个关键改进,使系统的检索准确率从 50-60% 提升至 95% 以上。此项目的背景是为客户服务团队构建一个内部聊天机器人,以帮助客服人员更快地访问信息。
项目初始阶段包括:
-
从各种系统中获取数据。
-
预处理、chunking 和 embedding 数据。
-
在 Azure AI Search 中构建搜索索引。
-
将聊天机器人连接到搜索索引。
数据包括有关地点(如水疗中心和健身房)和专家(如按摩治疗师和私人教练)的信息。数据通过将文本字段(描述、城市、地区)合并为一个内容字段,并为向量搜索创建 embeddings 来准备。
最初的搜索查询要么作为向量搜索,要么作为全文 BM25 搜索对内容字段运行。然而,系统仅在 50-60% 的时间内检索到正确的文档。
向量搜索不适合这个应用,因为它优先考虑模糊匹配和语义相似性,而我们的应用需要精确匹配。BM25 搜索也不够,因为它基于术语频率,导致包含更多匹配查询术语的文档优先显示,而不是匹配相关术语的文档。BM25 还存在芬兰语词形变化的问题,稍微的词形变化会阻止文档检索。
3. 初始方案的问题
系统采用了向量搜索 和BM25 全文搜索 的组合,然而:
-
向量搜索:基于语义相似性,但无法精确匹配具体的服务或位置。
-
BM25 搜索:依赖关键字频率,但会优先返回包含高频关键词但相关性低的文档。对于芬兰语等具有词形变化的语言,BM25 的效果进一步降低。
这些问题导致检索结果相关性不足,严重影响了用户体验。
4. 检索准确率从 50-60% 提升至 95% 的两个技巧
通过以下两项关键改进,系统的检索准确率得以显著提升:
1.利用 LLM 改写用户查询
-
解决方案:在查询阶段,借助 LLM 将用户输入改写为结构化查询。例如,将 “Swedish massage in Helsinki” 改写为服务字段包含 “Swedish massage” 且城市字段为 “Helsinki” 的查询。
-
实际效果:精准的查询改写显著提高了检索相关性,减少了 BM25 依赖于关键词频率的问题。
-
成本与问题:
-
性能开销:查询改写需要实时处理,在高并发场景中可能增加响应时间。
-
维护复杂度:需持续优化查询改写逻辑,以适应不断变化的用户需求。
2.利用 LLM 改进索引
-
解决方案:在索引阶段,使用大语言模型(LLM)从自由文本中提取服务信息,生成结构化服务列表作为索引字段。例如,从描述 “This spa offers Swedish massage and aromatherapy” 中提取 “Swedish massage” 和 “aromatherapy”。
-
处理非标准化输入:预处理步骤清洗拼写错误、语言变体等噪声,提升模型一致性。
-
实际效果:索引信息更加精确,解决了向量搜索中模糊匹配导致的相关性不足问题。
-
成本与问题:
-
计算成本:索引构建需要显著的计算资源,特别是在大规模数据场景中。
-
维护复杂度:动态服务信息需要持续更新,确保索引的准确性和实用性。
2个技巧把 RAG 检索准确率从 50% 提高到 95 %
6. 总结
本案例的关键收获如下:
-
核心在于检索阶段的优化:生成效果的提升离不开高质量的检索结果。
-
简单且有效的改进:通过 LLM 改进索引和查询改写,显著提升了系统性能。
-
成本与收益的权衡:虽然增加了部分计算和维护成本,但带来的用户体验提升是值得的。
高效的检索不仅为生成阶段提供了坚实基础,也证明了技术优化应聚焦于用户需求,避免盲目追求复杂性。
## AI大模型学习福利
作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取
2025最新版优快云大礼包:《AGI大模型学习资源包》免费分享
一、全套AGI大模型学习路线
AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!
因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取
2025最新版优快云大礼包:《AGI大模型学习资源包》免费分享
二、640套AI大模型报告合集
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取
2025最新版优快云大礼包:《AGI大模型学习资源包》免费分享
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取
2025最新版优快云大礼包:《AGI大模型学习资源包》免费分享
四、AI大模型商业化落地方案
因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取
2025最新版优快云大礼包:《AGI大模型学习资源包》免费分享
作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。