RAG效果提升入门到精通,吃透RRF这个“王炸”技术,收藏这篇就够了!

字节面试官:什么是RRF,你能解释一下吗? 今天我们来聊聊 RRF(Reciprocal Rank Fusion),如果你简历上写了 RAG 的内容,一定要清楚以下 RRF 相关的问题。 阅读详情

引言

在检索增强生成(RAG)系统中,检索质量直接决定了最终生成结果的准确性和相关性。然而,单一的检索方式往往难以全面捕获用户意图。当我们使用多个检索系统(如BM25关键词搜索和向量语义搜索)时,如何有效融合这些不同来源的结果就成为了关键问题。

倒数排序融合(Reciprocal Rank Fusion, RRF)正是为解决这一问题而生的优雅方案。它无需复杂的参数调优,仅依靠排名位置就能智能地合并多个检索结果,让最相关的文档脱颖而出。

什么是RRF?

倒数排序融合(RRF)是一种将多个排序结果列表合并为单一排序列表的算法。它最初由滑铁卢大学和Google合作开发,其核心思想非常直观:在多个检索系统中都排名靠前的文档,往往更具相关性/更重要。

RRF的最大优势在于:

  • 无需分数归一化 - 不同检索系统的评分标准差异巨大(如BM25分数和余弦相似度),RRF直接使用排名位置,避免了复杂的分数标准化问题
  • 简单而强大 - 算法实现简单,但在实践中表现出色
  • 零样本有效 - 不需要针对特定领域进行训练或调优

RRF的工作原理

核心公式

RRF通过以下公式计算每个文档的最终得分:

RRF_score(d) = ∑ 1 / (k + rank(d))

其中:

  • d 表示某个文档
  • rank(d) 是文档在某个检索结果列表中的排名位置(从1开始)
  • k 是一个常量,通常设为60,用于降低低排名文档的影响
  • 求和符号表示对所有包含该文档的结果列表进行累加

为什么选择k=60?

常量k的作用是平滑排名差异。k=60是经过学术研究验证的经验值,它能在以下两点之间取得良好平衡:

  • 让高排名文档有明显优势
  • 避免低排名文档的贡献完全被忽略

直观理解

让我们通过一个例子来理解RRF的工作机制。

假设有三个检索系统返回了以下结果:

  • 系统A: Doc1, Doc2, Doc3, Doc4, Doc5
  • 系统B: Doc3, Doc1, Doc4, Doc6, Doc2
  • 系统C: Doc2, Doc3, Doc1, Doc8, Doc9

计算Doc1的RRF分数(k=60):

RRF(Doc1) = 1/(60+1) + 1/(60+2) + 1/(60+3)          = 1/61 + 1/62 + 1/63          ≈ 0.0164 + 0.0161 + 0.0159          ≈ 0.0484

计算Doc3的RRF分数:

RRF(Doc3) = 1/(60+3) + 1/(60+1) + 1/(60+2)          = 1/63 + 1/61 + 1/62          ≈ 0.0159 + 0.0164 + 0.0161          ≈ 0.0484

可以看到,Doc1和Doc3在三个系统中都排名靠前,因此获得了相似的高分。而只在单个系统中出现的文档(如Doc6, Doc7)则会得到较低的分数。

RRF在RAG中的应用场景

1. 混合检索融合

这是RRF最典型的应用场景。结合词法搜索和语义搜索的优势:

  • BM25关键词搜索 - 擅长精确匹配专有名词、缩写词、特定术语
  • 向量语义搜索 - 擅长理解语义相关性、同义词、上下文含义

通过RRF融合,既能捕获精确匹配,又不失语义理解。

2. 多查询检索融合

当用户查询较为复杂或模糊时,可以通过LLM生成多个子查询,分别检索后用RRF合并结果。

例如,用户问:“任务分解的挑战是什么?”

可以生成子查询:

  • “任务分解面临的主要困难”
  • “任务分解的局限性”
  • “任务分解实施中的问题”

每个子查询独立检索,然后用RRF融合,确保检索的全面性。

3. 多模态检索融合

在处理多模态数据时,可能需要融合:

  • 文本检索结果
  • 图像检索结果
  • 表格检索结果

RRF同样能够有效整合这些异构的排序列表。

代码实现

Python基础实现

from collections import defaultdictdef reciprocal_rank_fusion(search_results_dict, k=60):    """    使用RRF算法融合多个检索结果        参数:        search_results_dict: 字典,键为查询标识,值为文档ID列表(按相关性排序)        k: RRF常量,默认60        返回:        融合后的文档列表,按RRF分数降序排列    """    # 存储每个文档的RRF分数    fused_scores = defaultdict(float)        # 遍历每个检索结果列表    for query_id, doc_list in search_results_dict.items():        # 遍历文档及其排名        for rank, doc_id in enumerate(doc_list, start=1):            # 累加RRF分数            fused_scores[doc_id] += 1 / (k + rank)        # 按分数降序排序    sorted_docs = sorted(        fused_scores.items(),         key=lambda x: x[1],         reverse=True    )        # 返回文档ID列表    return [doc_id for doc_id, score in sorted_docs]# 使用示例search_results = {    'query_1': ['doc1', 'doc3', 'doc5', 'doc7'],    'query_2': ['doc2', 'doc1', 'doc4'],    'query_3': ['doc5', 'doc3', 'doc2']}fused_results = reciprocal_rank_fusion(search_results)print("融合后的文档排序:", fused_results)

带有完整文档信息的实现

在实际RAG应用中,我们通常需要保留文档的完整信息:

def reciprocal_rank_fusion_with_docs(ranked_results_list, k=60):    """    融合多个检索结果,保留文档完整信息        参数:        ranked_results_list: 列表的列表,每个子列表包含文档对象        k: RRF常量        返回:        融合后的文档列表    """    score_dict = {}        # 对每个检索结果列表    for doc_list in ranked_results_list:        for rank, doc in enumerate(doc_list):            # 使用文档内容和元数据作为唯一标识            doc_key = (                doc.metadata.get("source", ""),                doc.page_content.strip()            )                        # 初始化或更新分数            if doc_key notin score_dict:                score_dict[doc_key] = {                    "doc": doc,                    "score": 0                }                        # 累加RRF分数            score_dict[doc_key]["score"] += 1 / (k + rank)        # 按分数排序    fused_docs = sorted(        score_dict.values(),        key=lambda x: x["score"],        reverse=True    )        return [entry["doc"] for entry in fused_docs]

RAG-Fusion:RRF的进阶应用

RAG-Fusion是一个将RRF应用于RAG的完整工作流:

工作流程

  1. 查询扩展 - 使用LLM将用户原始查询转换为多个相似但角度不同的查询
  2. 并行检索 - 对所有查询(包括原始查询)并行执行检索
  3. RRF融合 - 使用RRF算法合并所有检索结果
  4. 上下文生成 - 将融合后的top-k文档作为上下文传递给LLM生成最终答案

核心逻辑实现

下面是一个伪代码,大家可以参考下RAG中RRF的使用

def rag_fusion_pipeline(original_query, retriever, llm, k=60, top_k=5):    """    RAG-Fusion完整流程    """    # 1. 生成多个查询变体    query_variants = generate_query_variants(original_query, llm)    all_queries = [original_query] + query_variants        # 2. 并行检索    all_results = []    for query in all_queries:        results = retriever.retrieve(query)        all_results.append(results)        # 3. RRF融合    fused_docs = reciprocal_rank_fusion_with_docs(all_results, k=k)        # 4. 选择top-k文档    context_docs = fused_docs[:top_k]        # 5. 生成最终答案    answer = llm.generate(        query=original_query,        context=context_docs    )        return answerdef generate_query_variants(query, llm, num_variants=3):    """    使用LLM生成查询变体    """    prompt = f"""你是一个帮助生成搜索查询的AI助手。    基于用户的原始问题,生成{num_variants}个相关但角度不同的搜索查询。    这些查询应该帮助从不同角度理解用户意图。        原始问题: {query}        请直接输出{num_variants}个查询,每行一个:"""        response = llm.generate(prompt)    variants = [line.strip() for line in response.split('\n') if line.strip()]    return variants[:num_variants]

RRF的优势与局限

优势

  1. 简单高效 - 算法实现简单,计算开销小,易于理解和维护
  2. 无需调参 - k值使用默认的60即可在大多数场景下表现良好,省去了繁琐的参数调优
  3. 跨系统兼容 - 不依赖具体的评分机制,可以轻松整合任意检索系统
  4. 提升检索质量 - 学术研究和实践都证明,RRF的表现优于单一检索方法和简单的分数加权
  5. 增强鲁棒性 - 通过多系统共识,降低单一系统错误的影响

局限性

不过RRF存在几个缺点是:

  1. 忽略相关性分数 - RRF只使用排名信息,丢弃了原始相关性分数,在某些场景下可能损失信息
  2. 需要多次检索 - 必须执行多次检索操作,会增加延迟和计算成本
  3. 文档去重挑战 - 需要准确识别不同结果列表中的相同文档,文档表示不一致时可能出问题
  4. 对检索质量的依赖 - 如果所有检索系统都返回不相关的结果,RRF也无法改善结果质量

大家实践的过程,可以采用以下的方法来使用RFF:

  1. 选择互补的检索方法 - 组合特点不同的检索系统(如词法+语义)能获得最佳效果
  2. 控制检索数量 - 每个查询检索top-20到top-50的文档通常足够,过多会增加噪音
  3. 注意文档标识 - 确保能准确识别和去重相同文档,可以使用内容哈希或稳定的ID
  4. 保留原始查询权重 - 在RAG-Fusion场景中,可以让原始查询的结果参与多次RRF计算,增加其权重
  5. 监控成本 - 多次检索和LLM调用会增加成本,需要在效果和成本间找到平衡

总结

倒数排序融合(RRF)为RAG系统提供了一个简单而强大的结果融合方案。它通过巧妙利用排名信息,避免了分数归一化的复杂性,同时能够有效提升检索质量。

无论是混合检索、多查询检索,还是更复杂的RAG-Fusion流程,RRF都能发挥重要作用。随着Elasticsearch 8.8等主流搜索引擎原生支持RRF,这一技术正在成为构建高质量RAG系统的标准组件。

如何学习大模型 AI ?

我国在AI大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着Al技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国Al产业的创新步伐。加强人才培养,优化教育体系,国际合作并进,是破解困局、推动AI发展的关键。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

2025最新大模型学习路线

明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛,没有明确的学习路线可能会导致新人感到迷茫,不知道应该专注于哪些内容。

对于从来没有接触过AI大模型的同学,我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

在这里插入图片描述

针对以上大模型的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。

大模型经典PDF书籍

新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路!

在这里插入图片描述

配套大模型项目实战

所有视频教程所涉及的实战项目和项目源码等
在这里插入图片描述

博主介绍+AI项目案例集锦

MoPaaS专注于Al技术能力建设与应用场景开发,与智学优课联合孵化,培养适合未来发展需求的技术性人才和应用型领袖。

在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

为什么要学习大模型?

2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

在这里插入图片描述

适合人群

  • 在校学生:包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础,有志于深入AGI大模型行业,希望开展相关的研究和开发工作。
  • IT行业从业人员:包括在职或失业者,涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验,至少1年以上的编程工作经验,对大模型技术感兴趣或有业务需求,希望通过课程提升自身在IT领域的竞争力。
  • IT管理及技术研究领域人员:包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势,主导技术创新,推动大模型技术在企业业务中的应用与改造。
  • 传统AI从业人员:包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作,现需要快速补充大模型技术能力,获得大模型训练微调的实操技能,以适应新的技术发展趋势。
    在这里插入图片描述

课程精彩瞬间

大模型核心原理与Prompt:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为Al应用开发打下坚实基础。

在这里插入图片描述

RAG应用开发工程:掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。 在这里插入图片描述

Agent应用架构进阶实践:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。
在这里插入图片描述

模型微调与私有化大模型:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。 在这里插入图片描述

顶尖师资,深耕AI大模型前沿技术

实战专家亲授,让你少走弯路
在这里插入图片描述

一对一学习规划,职业生涯指导

  • 真实商业项目实训
  • 大厂绿色直通车

人才库优秀学员参与真实商业项目实训

以商业交付标准作为学习标准,具备真实大模型项目实践操作经验可写入简历,支持项目背调

在这里插入图片描述
大厂绿色直通车,冲击行业高薪岗位
在这里插入图片描述

文中涉及到的完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

检索结果重新排序?RRF(Reciprocal Rank Fusion)介绍 在之前探索的RAG系统中,为了提升检索质量,我们通常会引入不同的检索方法进行不同的相关性检索,并最终整合所有的检索结果进行最终的排序。在这个过程中涉及到一个概念:RRF。那它是什么意思呢?它是怎样进行计算的呢?本文将帮助你理解这个概念。 阅读详情

相关推荐

Elasticsearch RRF(倒数排序融合)技术详解与实践

Elasticsearch RRF(倒数排序融合)技术通过基于排名的算法解决多检索器结果融合问题,特别适用于混合搜索场景。RRF不依赖具体分数,仅利用文档在各结果集中的排名位置进行计算,公式为score(d)=Σ[1/(k+rank_q(d))],其中k为排名常数(默认60)用于平衡排名差异。该技术具有开箱即用、规避分数归一化问题和灵活支持加权三大优势,广泛应用于BM25+向量检索的混合搜索、多字段查询等场景。Elasticsearch提供两种使用方式:通过rank参数或retriever参数实现,9.2+

guigenyi的专栏 1355

Elasticsearch:倒数排序融合 - Reciprocal rank fusion (RRF)

倒数排序融合(RRF)是一种将具有不同相关性指标的多个结果集组合成单个结果集的方法。RRF 无需调优,不同的相关性指标也不必相互关联即可获得高质量的结果。该方法的优势在于不利用相关分数,而仅靠排名计算。相关分数存在的问题在于不同模型的分数范围差。

Elastic 中国社区官方博客 1万+

RAG检索核心:吃透语义与关键字检索,构建高效混合检索系统

在信息检索领域,语义检索和关键字检索是两种核心范式。语义检索基于向量空间模型,通过嵌入模型将文本转换为稠密向量,计算余弦相似度来理解深层语义,能有效跨越词汇鸿沟,处理同义词和上下文意图。关键字检索则基于符号匹配,利用TF-IDF或BM25等算法,通过计算词频和逆文档频率来衡量文本相关性,对专有名词和精确术语的查找效率高、可解释性强。这两种技术各有优劣,语义检索长于理解和泛化,关键字检索精于精确和可控。在RAG(检索增强生成)系统中,检索质量直接决定了生成内容的上限。为了兼顾精确性与语义理解能力,混合检索策略

weixin_33725239的博客 341

【AI知识】倒数排名融合 (RRF) ——用于融合多个排序列表的结果

在RAG混合检索中,经常需要将多个检索结果汇总。**Reciprocal Rank Fusion (RRF,倒数排名融合)** 是一种用于融合多个检索结果列表的算法。它的核心思想是将不同检索方法(如 BM25 和向量检索)的排名结果结合起来,生成一个更全面、更准确的最终排名。

想买很多漂亮衣服但是买不起的博客 2219

混合检索实战:BM25与向量检索融合提升RAG系统精准度

在信息检索领域,传统的关键词检索与基于深度学习的向量检索是两大核心技术。关键词检索基于精确的词汇匹配,通过倒排索引实现高效查找,擅长处理术语、代码等需要精确匹配的场景。向量检索则通过Embedding模型将文本映射为高维向量,计算语义相似度,能理解查询意图并处理同义、泛化表达。混合检索融合了两者优势,在RAG系统中实现高召回率与高精度的平衡。通过加权融合、级联检索等策略,结合BM25的术语匹配能力和向量检索的语义理解能力,有效解决了单一检索方式在特定场景下的不足。这种技术方案在知识库问答、智能客服、文档检索

weixin_33672109的博客 397

RAG技术演进:从基础检索到智能体驱动的实战解析

检索增强生成(RAG)是一种结合信息检索与大语言模型生成能力的技术范式,其核心原理是通过外部知识库检索相关信息来增强LLM生成内容的准确性与时效性。该技术通过向量检索与关键词检索的混合策略,结合重排序模型优化结果,有效解决了大模型幻觉与知识更新难题。在工程实践中,RAG技术栈已从模块化流水线演进为智能体驱动架构,通过规划、工具调用与反思等能力实现复杂任务的自主处理。当前,RAG与智能体技术的融合正推动AI应用从问答系统向具备多步推理能力的智能助理演进,在技术文档问答、故障排查、竞品分析等场景展现重要价值。本

weixin_29051811的博客 286

学长带你吃透 RAG:从入门到生产落地,一篇就够

本文详细介绍了RAG(检索增强生成)技术,包括其概念、核心架构、关键技术细节和实战应用。RAG通过结合信息检索和大模型生成,解决了传统AI的知识更新、私有数据访问和幻觉问题。核心架构分为离线索引和在线查询两条流水线,关键技术包括文本分块、查询改写、混合检索和重排序。文章还提供了Node.js实战选型建议,推荐了开发框架、向量数据库和Embedding模型,并给出了新手学习路径。RAG是当前AIAgent落地最成熟的技术,可显著提升AI应用的实用性和准确性。

逸尘谈PM 452

免费获取船舶轨迹数据?手把手教你用Python处理中国海洋卫星AIS数据

本文详细介绍了如何免费获取中国海洋卫星AIS数据,并使用Python进行船舶轨迹数据的处理与分析。从数据源评估到自动化处理流水线,再到高级分析与可视化技巧,手把手教你避开常见问题,实现高效数据处理。特别适合航运数据分析、物流优化和海上安全研究等领域的研究者和开发者。

weixin_42616115的博客 320

2025最全RAG技术图谱:混合搜索+Graph+Agentic,一篇吃透下一代AI架构

在构建检索增强生成(RAG)系统时,我们常常陷入一个困境:如何确保检索到的上下文既“语义相关”又“关键词精确”?

xx_nm98的博客 1520

LIS3DHTR三轴加速度计Arduino驱动与嵌入式集成指南

加速度计是嵌入式系统中实现运动感知、姿态解算和振动分析的核心传感器。其工作原理基于MEMS微机械结构在惯性力作用下的电容变化,经片内ADC转换为数字信号;I²C接口因其硬件资源占用少、布线简洁,成为低功耗物联网节点的主流通信方式。技术价值体现在高分辨率(12位)、多量程(±2g~±16g)与低功耗(待机电流仅2µA)的平衡,支撑电池供电设备长期运行。典型应用场景包括可穿戴设备的姿态识别、工业预测性维护中的振动监测,以及智能硬件的敲击/跌落检测。本文围绕LIS3DHTR芯片及其Grove模块,详解Arduin

weixin_42584758的博客 595

AI时代,程序员何去何从?别慌,看完这篇你就明白了

AI时代程序员的发展方向 摘要:随着AI代码助手的普及,程序员行业面临变革。本文通过实际案例展示AI写代码的能力与局限:AI能生成基础功能代码(如RESTful API、数据处理脚本),但缺乏业务理解、系统设计和复杂逻辑处理能力。程序员的核心价值在于需求分析、架构设计、性能优化等高层能力。未来程序员应: 掌握AI工具提升效率 专注于创新和架构设计 培养业务理解能力 持续学习新技术 AI不会取代程序员,但会淘汰不会使用AI的程序员。建议开发者拥抱AI工具,将其作为助手而非威胁,聚焦高价值工作。

yunque_xianguang的博客 908

RAG 召回总丢东西?给向量检索配个“关键词警察“

上一篇讲完父子索引,有人问我: "按你说的搞了父子索引,召回还是漏。文档里明明有,向量检索就是找不到,咋办?"

xx_nm98的博客 201

AUTOSAR进阶图解==>AUTOSAR_SWS_CANNetworkManagement

本文介绍了AUTOSAR架构中的CAN网络管理(CanNm)模块,主要内容包括: 模块概述:CanNm是协调CAN网络节点状态转换的基础组件,采用去中心化设计,通过周期性发送网络管理PDU保持网络活跃状态,支持网络唤醒、睡眠和部分网络功能。 架构设计:CanNm位于AUTOSAR中间层,连接上层通信管理器(ComM)和底层CAN接口(CanIf),包含状态管理、PDU处理和定时器管理等子组件。 状态机设计:定义了三种主要模式(总线睡眠、准备睡眠和网络模式)及其转换逻辑,网络模式又包含重复消息、正常操作和准备

一名留德华的,康德的信徒的,专注于汽车电子领域的博客 2041

吃透RAG混合检索,为什么BM25与向量分数不能直接相加?实战落地全指南

摘要:RAG混合检索工程中,常见误区是简单加权BM25分数与向量相似度分数,但两者底层度量体系不同,直接融合会导致检索失效。正确做法是采用RRF(倒数排名融合)算法,基于排名而非分数进行融合,并引入动态查询路由机制,根据查询类型(精准实体、自然语言、混合场景)适配最优检索策略。本文从底层原理到实战代码,提供了可直接落地的优化方案,帮助开发者避开常见陷阱,实现高效混合检索。

小程故事多的博客 505

1、 快速掌握R:初学者的计量经济学指南

本博文旨在为初学者提供一个快速掌握R语言的指南,特别是针对计量经济学领域的应用。内容涵盖了R的基本操作、数据管理、可视化、函数编写以及高级统计分析方法,如OLS回归、异方差修正和集群标准误差计算等。通过实际示例和详细说明,帮助读者在数据分析和科学研究中更加得心应手。

weixin_35734408的博客 150

YOLOv8改进策略【Conv和Transformer】| CVPR-2023 BiFormer 稀疏自注意力,减少内存占用

本文记录的是利用双级路由注意力机制优化的目标检测网络模型。传统的复杂度高,随着输入空间分辨率增加,计算量呈平方增长,导致严重的可扩展性问题。而本文所使用的在获取全局信息的同时,通过区域到区域路由和令牌到令牌注意力的合理设计,减少了不必要的计算量。BiFormer: Vision Transformer with Bi-Level Routing Attention采用四阶段金字塔结构,与一些先进的视觉Transformer类似。在每个阶段,首先使用重叠的补丁嵌入(在第一阶段)或补丁合并模块(在第二到第四阶段

Limiiiing的博客 614

吃透RAG全链路:从原理到落地,避开90%企业AI项目坑

Chunking是地基,切块策略不对,后面检索、精排再强也救不回来,固定滑动窗口是入门最优解。Embedding分稠密、稀疏两条路,语义+关键词双检索缺一不可,相似度统一选用余弦。HNSW搞定海量向量检索速度,参数按需平衡精度和延迟,百万向量场景首选。Query Rewrite、元数据过滤属于低成本高收益优化,上线优先做。完整链路标准模板:查询改写→过滤→多路召回→RRF融合→Rerank精排→LLM生成,缺任意一环效果大幅下滑。

人工智能AI技术 325

conda install出现CondaValueError: Malformed version string invalid character(s)解决方案

本文主要介绍了conda install出现Solving environment:failed、CondaValueError: Malformed version string invalid character(s),希望能对新手有所帮助。 文章目录 1. 问题描述 2. 解决方案 2.1 步骤一 2.2 步骤二 2.3 步骤三

weixin_43178406的博客 6万+

前字节员工:面了40家,终于第一个offer,降薪60%,接了!

面试官一上来可能就会问你这个问题,这是个很基础但也很关键的问题。你可以这样轻松应对,简单来说 RRF 是一种排名融合方法,主要用于将多个检索器的结果合并成一个统一的排名。在 RAG(检索增强生成)系统中,这非常关键,因为不同的检索器可能会有不同的优势和不足,通过RRF可以结合它们的长处,提供更精准的结果。具体来说,RRF 使用一个公式来计算每个文档的总得分:这里,d 是文档,R 是检索器的集合,k 是一个常数,通常取 60,r(d)是文档在某个检索器中的排名。

ytt0523_com的博客 986

基于 Qt C++ 的 船舶导航系统 UI

你想实现一个基于 **Qt C++** 的 **船舶导航系统 UI**,核心功能包括 **Qt Quick** 电子海图显示和 **NMEA 0183** 协议解析。"断开" : "连接"创建一个 Qt Quick 项目,选择 **Qt 6** 版本,确保勾选 **Qt Quick**、**Qt Network** 和 **Qt SQL** 模块。Label { text: "纬度:" }3. **连接设备**:点击 "连接" 按钮连接到 GPS 设备或模拟数据源。title: "连接设置"

寒寒豆豆软件公司的博客 127

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

震惊!大模型多智能体检索新突破,Agent-as-a-Graph让系统效率提升18.6%!小白程序员也能上手的神仙架构!

Agent-as-a-Graph创新地将智能体和工具作为平等节点构建二分图结构,通过向量初筛、类型加权RRF融合和图遍历聚合三步流程,解决了多智能体系统检索痛点。实验显示Recall@5提升18.6%,且不依赖特定嵌入模型,类型权重可调优,为多智能体系统提供了高效、灵活的检索解决方案。

weixin_58753619的博客 619

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

一文吃透RAG检索增强生成:原理、全流程、核心组件与落地调优

随着大语言模型普及,大家在使用通用LLM时总会遇到几个无法回避的痛点:模型只掌握训练截止时间前的知识,无法回答最新资讯;面对企业私有文档、医疗法律专业资料时回答漏洞百出;经常出现一本正经编造事实的幻觉问题;生成内容无法溯源,无法用于审计、合规场景。

2301_80259620的博客 404

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

RAG 系统的核心结构与检索方式(零基础吃透+面试干货)

1. RAG的核心价值是外接私有知识库、消灭幻觉、实时更新知识,是大模型落地的核心底座;2. 五大核心模块构成完整离线+在线链路,其中Chunk分块、检索策略是调优关键;3. 单一检索各有短板,混合检索+Rerank重排序是目前工业界最优落地组合。

2301_80775213的博客 529

用《天龙八部》练手RAG:从切块、混合检索到Graph RAG的完整实践

检索增强生成(RAG)是缓解大模型幻觉、实现知识实时更新的关键技术范式。它通过将文档切块、向量化存入知识库,在回答前先检索相关片段,再交由生成模型组织答案,本质上是从“闭卷考试”转为“开卷考试”。向量检索负责语义匹配,BM25关键词召回补充字面命中,二者经RRF融合后再用重排序模型精排,可显著提升召回质量。这一技术广泛应用于企业知识库问答、智能客服、私有文档查询等场景。本文基于《天龙八部》语料,从数据清洗、文本切块、父子分块、混合检索、重排序到提示词设计,完整拆解RAG链路中的关键决策,并延伸讲解Graph

weixin_26891599的博客 224

RAG三层检索策略全解析:从查询理解到融合重排

检索增强生成(RAG)是当前企业落地大模型应用的主流技术方案,其核心价值在于通过外部知识库缓解模型幻觉与知识陈旧问题。在实际工程中,RAG的检索链路并非简单的“切块-向量化-召回”,而是需要系统化设计。本文从检索的底层逻辑出发,先介绍检索、召回、重排的基本概念与原理,再围绕查询理解、混合召回、融合重排三个关键层级展开分析,讨论Query改写、HyDE、BM25与向量检索的互补,以及RRF算法和Cross-Encoder精排的应用场景。这套三层检索策略能够帮助开发者优化知识库问答、智能客服等系统的准确性与可靠

weixin_34354173的博客 407
上一篇: 多智能体“心灵感应”入门到精通,收藏这篇Meta的突破就够了!
下一篇: 你的RAG总在“一本正经地瞎编”?大厂架构师用这9步,让AI精准检索,告别幻觉!
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2835原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值