本文详细介绍了RAG系统中两大核心模型Embedding和Rerank的区别与应用。Embedding模型负责将文本转化为向量表示,通过语义相似度进行初步检索,适用于海量数据处理;Rerank模型则对初步检索结果进行精细化排序,提升相关性。两者在应用阶段、技术实现上存在明显差异:Embedding采用无监督学习,单输入→向量输出;Rerank采用有监督学习,查询-候选对→排序分数。理解这两种模型的协同工作原理,对构建高效的RAG系统至关重要。
划重点!文末有大模型AGI-优快云独家资料包,看到最后别错过哦~
“ Embedding和Rerank模型是RAG系统中的核心模型。”
在RAG系统中,有两个非常重要的模型一个是Embedding模型,另一个则是Rerank模型;这两个模型在RAG中扮演着重要角色。
Embedding模型的作用是把数据向量化,通过降维的方式,使得可以通过欧式距离,余弦函数等计算向量之间的相似度,以此来进行相似度检索。
而Rerank的作用是在Embedding检索的基础之上,进行更加准确的数据筛选;如果说Embedding模型进行的是一维筛选,那么Rerank模型就是从多个维度进行筛选。

Embedding模型和Rerank模型
在自然语言处理和信息检索系统中,Embedding模型和Rerank模型是两类功能不同但常结合使用的技术。
Embedding和Rerank模型都是基于深度学习方式实现的神经网络模型,但由于其功能不同,因此其实现方式和训练方法也有一定的区别。
从使用的角度来看,Embedding一般用于数据向量化并快速检索,而Rerank模型是在快速检索的基础之上进行重排序,提升相似度。
但从技术实现的角度来说,两种模型使用的学习方式和架构是不一样的;原因就在于两个模型的实现目的和处理数据的方式。
它们的核心区别在于目标、应用阶段和技术实现。以下是详细对比:
1. 功能目标
| 维度 | Embedding模型 | Rerank模型 |
|---|---|---|
| 核心任务 | 将文本转化为低维向量,捕捉语义信息 | 对候选结果重新排序,提升相关性 |
| 输出形式 | 高维或低维向量(如768维向量) | 候选列表的排序分数(如相关性得分) |
| 关注点 | 文本的全局语义表示 | 候选结果与查询的细粒度匹配 |
示例
- Embedding模型:将“如何训练神经网络?”转换为向量,用于检索相似问题。
- Rerank模型:对初步检索的100个答案排序,将最相关的答案排到前3。
2. 应用阶段
| 维度 | Embedding模型 | Rerank模型 |
|---|---|---|
| 所处流程 | 检索阶段 :快速生成候选集 | 精排阶段 :优化候选集的顺序 |
| 数据规模 | 处理海量数据(如百万级文档) | 处理小规模候选集(如Top 100~1000) |
| 性能要求 | 要求高效(毫秒级响应) | 可接受较高延迟(需复杂计算) |
典型场景
- Embedding模型:用于搜索引擎的初步召回(如从10亿文档中筛选出Top 1000)。
- Rerank模型:在推荐系统中对Top 100结果精细化排序,提升点击率。
3. 技术实现
| 维度 | Embedding模型 | Rerank模型 |
|---|---|---|
| 模型类型 | 无监督/自监督学习(如BERT、Sentence-BERT) | 有监督学习(如Pairwise Ranking、ListNet) |
| 输入输出 | 单文本输入 → 固定维度向量 | 查询+候选文本对 → 相关性分数 |
| 特征依赖 | 仅依赖文本本身的语义信息 | 可融合多特征(语义、点击率、时效性等) |

模型举例
- Embedding模型:
- 通用语义编码:BERT、RoBERTa
- 专用场景:DPR(Dense Passage Retrieval)
- Rerank模型:
- 传统方法:BM25 + 特征工程
- 深度模型:ColBERT、Cross-Encoder
零基础如何学习大模型
读者福利大放送:如果你对大模型感兴趣,想更加深入的学习大模型**,那么这份精心整理的大模型学习资料,绝对能帮你少走弯路、快速入门**
如果你是零基础小白,别担心——大模型入门真的没那么难,你完全可以学得会!
👉 不用你懂任何算法和数学知识,公式推导、复杂原理这些都不用操心;
👉 也不挑电脑配置,普通家用电脑完全能 hold 住,不用额外花钱升级设备;
👉 更不用你提前学 Python 之类的编程语言,零基础照样能上手。
你要做的特别简单:跟着我的讲解走,照着教程里的步骤一步步操作就行。
包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!
现在这份资料免费分享给大家,有需要的小伙伴,直接VX扫描下方二维码就能领取啦😝↓↓↓

为什么要学习大模型?
数据显示,2023 年我国大模型相关人才缺口已突破百万,这一数字直接暴露了人才培养体系的严重滞后与供给不足。而随着人工智能技术的飞速迭代,产业对专业人才的需求将呈爆发式增长,据预测,到 2025 年这一缺口将急剧扩大至 400 万!!

大模型学习路线汇总
整体的学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战,跟着学习路线一步步打卡,小白也能轻松学会!

大模型实战项目&配套源码
光学理论可不够,这套学习资料还包含了丰富的实战案例,让你在实战中检验成果巩固所学知识

大模型学习必看书籍PDF
我精选了一系列大模型技术的书籍和学习文档(电子版),它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。

大模型超全面试题汇总
在面试过程中可能遇到的问题,我都给大家汇总好了,能让你们在面试中游刃有余

这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

👉获取方式:
😝有需要的小伙伴,可以保存图片到VX扫描下方二维码免费领取【保证100%免费】

相信我,这套大模型系统教程将会是全网最齐全 最适合零基础的!!
210

被折叠的 条评论
为什么被折叠?



