【收藏级】RAG核心技术宝典：99%人忽略的嵌入模型，从原理到选型全攻略，一篇就让你从入门到精通！

为你的RAG应用选择理想嵌入模型的一份综合指南

检索增强生成（RAG）是目前构建GenAI应用最流行的框架。企业和组织喜爱它，因为它允许他们使用专有数据来回答用户问题。它使LLM能够为用户提供准确、最新且与他们问题相关的答案。

根据我构建RAG应用几年的经验，应用的响应质量很大程度上取决于检索到的上下文。 而改进RAG检索上下文的一个关键方法是：以合适的尺寸分块数据，选择正确的嵌入模型，以及选择有效的检索机制。

嵌入是LLM的支柱。当你提示LLM帮助你调试代码时，你的词语和token会被转换成高维向量空间，其中语义关系通过嵌入模型变成数学关系。如果你使用错误的嵌入模型，你的RAG应用可能会获取不相关或混乱的数据。这可能导致糟糕的答案、更高的成本和不满意的用户。

在这篇文章中，我将解释什么是嵌入，为什么它们很重要，以及在选择嵌入模型时应该考虑什么。我们还将探讨不同的嵌入模型以及哪些模型适合特定情况。最后，你将清楚地了解如何选择正确的嵌入模型，以提高准确性并使你的RAG应用顺利运行。

什么是嵌入？

嵌入是捕捉语言含义和模式的数字表示。这些数字帮助你的系统找到与问题或主题密切相关的信息。

这些嵌入是使用嵌入模型创建的。嵌入模型将词语、图像、文档甚至声音，并将其转换为一系列数字，称为向量。

什么是嵌入？

你可能在大型语言模型的背景下了解过嵌入，但嵌入实际上有着更长的历史。

这些嵌入是如何计算的？

目前，嵌入主要是使用语言模型创建的。 语言模型不是用静态向量表示每个token或单词，而是创建上下文相关的词嵌入，根据其上下文用不同的token表示一个单词/句子/块。然后，这些向量可以被其他系统用于各种任务。

有多种方法可以生成文本嵌入向量。最常见的方法之一是平均模型生成的所有token嵌入的值。然而，高质量的文本嵌入模型往往是专门为文本嵌入任务训练的。

我们可以使用sentence-transformers生成文本嵌入，这是一个利用预训练嵌入模型的流行包。

from sentence_transformers import SentenceTransformer
# Load model
model = SentenceTransformer("sentence-transformers/all-mpnet-base-v2")
# Convert text to text embeddings
vector = model.encode("Best movie ever!")

嵌入向量的值数量或维度取决于底层嵌入模型。嵌入向量的维度可以通过vector.shape方法找到。

为什么嵌入在RAG中很重要？

嵌入在检索增强生成（RAG）系统中扮演着关键角色。原因如下：

语义理解： 嵌入以一种将相似含义放在一起的方式，将词语、句子或文档转换为向量（数字列表）。这有助于系统理解上下文和含义，而不仅仅是匹配确切的词语。

高效检索： RAG需要快速找到最相关的段落或文档。嵌入使搜索更快更容易，通常使用K-最近邻（K-NN）等算法。

更高的准确性： 借助嵌入，模型可以识别与你的问题相关的信息，即使它没有使用相同的词语。这意味着你将获得更准确和相关的答案。

嵌入的类型

嵌入有多种形式，具体取决于你的系统需要处理的信息类型。

嵌入的类型

1. 基于你希望系统理解的信息类型：

1.1 词嵌入

词嵌入将每个词表示为多维空间中的一个点。含义相似的词语，如“狗”和“猫”，最终会彼此靠近。这有助于计算机理解词语之间的关系，而不仅仅是它们的拼写。

流行的词嵌入模型包括：

• Word2Vec： 从大量文本中学习词语关系。
• GloVe： 侧重于词语共同出现的频率。
• FastText： 将词语分解成更小的部分，使其更好地处理罕见或拼写错误的词语。

向量嵌入空间

1.2 句子嵌入

有时，含义只能从整个句子中学习，而不仅仅是单个词语。句子嵌入将句子的整体含义捕获为一个向量。

知名的句子嵌入模型有：

• 通用句子编码器 (USE)****： 适用于所有类型的句子，包括问题和陈述。
• SkipThought**：** 学习预测周围的句子，帮助模型理解上下文和意图。

1.3 文档嵌入

文档可以是任何东西，从一个段落到一整本书。文档嵌入将所有文本转换为一个单一的向量。这使得搜索大量文档变得更容易，并有助于找到与你的查询相关的内容。

领先的文档嵌入模型包括：

• Doc2Vec： 基于Word2Vec，但专为较长文本设计。
• 段落向量： 类似于Doc2Vec，但侧重于较短的文本部分，如段落。

1.4 图像嵌入

文本不是RAG系统可以处理的唯一信息类型。图像嵌入将图片转换为描述颜色、形状和模式的数字列表。

流行的图像嵌入模型是卷积神经网络（CNN）。它特别擅长识别图像中的模式。

2. 基于嵌入的特性：

嵌入可以具有不同的质量，这些质量会影响它们的工作方式以及它们最擅长什么。让我们用简单的解释和示例来分解这些特性：

2.1. 密集嵌入密集嵌入使用向量，其中几乎每个数字都填充了值。每个值都包含有关单词、句子、图像或文档的一些信息。密集向量紧凑高效。它们在小空间中存储大量细节。这使得计算机更容易比较事物并快速找到相似之处。

2.2. 稀疏嵌入稀疏嵌入与密集嵌入相反。向量中的大多数数字都是零，只有少数位置具有实际值。零不携带任何信息。稀疏嵌入有助于突出最重要的特征。它们可以很容易地发现使事物独特或与众不同的地方。

密集和稀疏嵌入

2.3 长上下文嵌入有时，你需要理解整个文档或长时间的对话，而不仅仅是一个短句子。长上下文嵌入旨在一次处理大量文本。 旧模型只能查看短文本。如果你给它们一篇大文章，它们必须将其分解成更小的部分。这可能会使它们错过重要的联系或偏离主要思想。新模型，如BGE-M3，可以一次接收数千个单词（最多8,192个token）。这有助于计算机将整个故事保持在一起。

2.4 多向量嵌入通常，一个项目（如单词或文档）只获得一个向量。多向量嵌入为每个项目使用多个向量。每个向量可以捕获不同的特征或方面。 通过多个向量，计算机可以注意到更多细节和关系。这会带来更丰富、更准确的结果。

选择最佳文本嵌入模型的参数

在选择模型之前，你应该知道要寻找什么。有几个关键因素需要考虑：

如何选择最佳文本嵌入模型？

1. 上下文窗口

上下文窗口是模型一次可以处理的最大文本量。例如，如果一个模型的上下文窗口为512个token，它一次只能读取512个单词或单词片段。较长的文本必须被分割。一些模型，如OpenAI的text-embedding-ada-002（8192个token）和Cohere的嵌入模型（4096个token），可以处理更长的文本。

*为什么这很重要？*更大的上下文窗口允许你处理更大的文档而不会丢失信息。这对于搜索长文章、研究论文或报告等任务很有帮助。

2. 分词单元

分词是模型将文本分解成更小部分（称为token）的方式。不同的模型使用不同的方法：

• 子词分词（字节对编码，BPE）： 将单词分割成更小的片段。例如，“unhappiness”变成“un”和“happiness”。这有助于处理罕见或新词。
• WordPiece： 类似于BPE，但常用于BERT等模型。
• 词级分词： 将文本分割成完整的单词。不适用于罕见词。

*为什么这很重要？*模型分词文本的方式会影响它对不同单词的理解程度，尤其是那些不寻常的单词。大多数现代模型使用子词分词以获得更好的灵活性。

3. 维度

维度是模型为每个文本片段创建的数字列表（向量）的大小。例如，一些模型生成768个数字的向量，另一些则生成1024或甚至3072个数字的向量。

*为什么这很重要？*高维向量可以存储更详细的信息，但它们需要更多的计算能力。低维向量速度更快，但可能会遗漏一些细节。

4. 词汇量大小

这是模型知道的唯一token的数量。更大的词汇量可以处理更多的单词和语言，但会占用更多内存。较小的词汇量速度更快，但可能无法理解罕见或专业词汇。例如：大多数现代模型的词汇量在30,000到50,000个token之间。

5. 训练数据

训练数据是模型学习的来源。

• 通用模型： 当在多种类型的文本（如网页或书籍）上训练时，模型变得适用于通用目的。适用于广泛的任务。
• 领域特定模型： 当在专业文本（如医疗或法律文档）上训练时，模型变得专注于特定领域。这些适用于利基任务。

*为什么这很重要？*在特定数据上训练的模型在这些领域表现更好。但它可能不适用于通用任务。

6. 成本

成本包括使用模型所需的金钱和计算机资源。根据你计划访问LLM模型的方式，成本结构会有所不同。

• 基于API的模型： 你按使用量付费，例如OpenAI或Cohere。
• 开源模型： 免费使用，但你需要硬件（如GPU）和技术技能才能自己运行它们。

*为什么这很重要？*API模型易于使用，但如果你有大量数据，可能会变得昂贵。开源模型可以节省资金，但需要更多的设置和专业知识。

选择嵌入模型的关键因素

1. 了解你的数据领域

根据我的经验，在设计RAG应用时，我首先会问的问题是：“我的RAG系统将处理什么类型的数据？” 如果我们处理的是通用知识或客户常见问题，像OpenAI的text-embedding-3-small这样的通用嵌入通常就足够了。但对于医疗、法律或金融等专业领域，BioBERT、SciBERT或Legal-BERT等领域特定模型是最佳选择。这些模型经过训练，能够理解这些领域特有的语言和上下文。

如果RAG工具需要处理产品图片或语音查询，请选择多模态嵌入。CLIP是处理文本和图像的可靠选择。

2. 嵌入大小和模型复杂度

接下来，我将评估我的查询和文档是短还是长，是结构化还是非结构化。有些模型更适合简短的片段，而另一些则擅长处理更长、自由形式的文本。

嵌入维度非常重要。高维向量（1536或4096维）可以捕获更细微的差异和上下文。它们通常能提高检索准确性，但需要更多的计算资源和存储。

低维向量（384或768维）速度更快、更轻量，这对于扩展到数百万文档至关重要。权衡很简单：更多维度意味着更高的准确性但更高的成本；更少维度意味着速度和效率但可能会牺牲一些精度。

在实践中，最好从384-768范围内的向量开始。这可以在性能和资源使用之间取得良好的平衡。

现代向量数据库，如Pinecone、Weaviate或FAISS，可以使用量化或降维来压缩嵌入。这些向量数据库允许你使用更大的嵌入而无需支付全部内存成本。

3. 计算效率

速度至关重要，特别是对于实时应用。 如果响应时间对你的应用非常关键，请选择推理时间短的模型。像DistilBERT或MiniLM这样的轻量级模型速度快，并且对于大多数任务来说仍然足够准确。

4. 上下文理解

接下来，我们应该评估RAG系统应该回答的查询。知识内容/文档的结构和长度。这些内容应该根据应用分块成适当的最佳大小。获得用户问题正确答案的一个关键因素是模型的上下文窗口，即它一次可以考虑的文本量。 更大的上下文窗口有助于处理冗长或复杂的文档。一次可以处理更多文本的模型往往能为长查询提供更准确的答案。

5. 集成和兼容性

最好选择能够与你现有基础设施无缝集成的模型。 来自TensorFlow、PyTorch或Hugging Face的预训练模型通常更容易部署，并附带完善的文档和社区支持。

6. 成本

最后，如果你计划微调模型并托管你的模型，在估算项目时，始终要权衡训练和部署成本。但大多数RAG应用都可以正常工作。 更大的模型训练和运行成本更高。开源模型通常更经济实惠，但可能需要额外的设置和维护。专有模型提供更好的支持和性能，但价格更高。

场景：为医疗研究论文选择嵌入模型

假设你需要为医疗研究论文构建一个语义搜索系统。你希望用户能够快速准确地找到相关研究。你的数据集很大，每个文档都很长，介于2,000到8,000字之间。你需要一个能够处理这些冗长文本、提供有意义的结果，并将每月预算控制在300美元到500美元之间的模型。

你如何为这项工作选择合适的嵌入模型？让我们一步一步地完成这个过程。

步骤1：关注领域相关性

医疗研究论文使用复杂的医学术语和技术语言。你选择的模型应该在科学或学术文本上进行训练，而不仅仅是法律或通用内容。 因此，主要为法律或生物医学文档设计的模型不适合更广泛的科学研究。

步骤 2：评估上下文窗口和维度

由于文档很长，你需要一个具有较大上下文窗口的模型。像OpenAI的text-embedding-3-large（8192个token）或BGE-M3（也是8192个token）这样的模型是很好的候选者。它们可以一次性处理整篇论文，而无需将其分割成更小的、可能脱离上下文的块。

接下来，考虑维度。text-embedding-3-large提供3072维的向量，这可以捕获非常详细的信息，但会增加存储和计算成本。BGE-M3提供1024维的向量，在准确性和效率之间取得了很好的平衡。

步骤 3：考虑成本和基础设施

你的预算是每月300-500美元。使用像OpenAI这样的API模型，成本会根据你嵌入的文档数量和用户查询的频率而变化。如果你有数百万篇论文，成本可能会迅速攀升。尤其是在处理大型文档和频繁搜索时。我们来看一些模型：

• OpenAI text-embedding-3-large：每 1,000 个词元 0.13 美元
• OpenAI text-embedding-3-small：每 1,000 个词元 0.02 美元
• Jina Embeddings v3：开源且可自托管，无按词元计费成本

我们来算笔账。如果你每月处理 10,000 个文档（每个文档 8,000 个词元）：

• OpenAI text-embedding-3-large：10,400 美元/月（远超预算）
• OpenAI text-embedding-3-small：1,600 美元/月（仍然超出预算）
• Jina Embeddings v3：无按词元计费成本；你只需支付托管/服务器费用

另一方面，像BGE-M3这样的开源模型可以免费使用，但你需要在自己的硬件上托管它。这需要技术专长和基础设施成本（例如，租用GPU服务器）。对于这个预算，混合方法可能是最好的。你可以批量嵌入初始数据集，然后只在需要时为新文档或查询使用API。

步骤 4：比较候选模型

让我们比较几个顶级竞争者：

• OpenAI text-embedding-3-large：

• 优点： 性能卓越，上下文窗口大（8192个token），维度高（3072）。
• 缺点： 成本较高，对于大型数据集来说可能很昂贵。

• BGE-M3 (BAAI General Embedding)：

• 优点： 开源，上下文窗口大（8192个token），支持多种语言，并且在MTEB排行榜上名列前茅。
• 缺点： 需要自行托管，这会带来基础设施成本和复杂性。

• Cohere aembed-english-v3.0：

• 优点： 专为检索而设计，性能强大，上下文窗口为512个token。
• 缺点： 上下文窗口较小，可能需要将长文档分块，这可能会丢失上下文。

最终决定

考虑到所有因素，BGE-M3似乎是这个特定场景的最佳选择。它的长上下文窗口非常适合处理研究论文，其开源性质让你能够更好地控制成本。虽然需要自行托管，但对于一个大型、专业化的数据集来说，从长远来看，这种前期投入是值得的。

如果自行托管不可行，OpenAI的text-embedding-3-small（1536维）将是一个不错的备选方案。它的成本低于large版本，但仍然提供强大的性能和相同的8192个token的上下文窗口。

NVIDIA NV-Embed-v2 凭借其高 MTEB 评分和大上下文窗口脱颖而出，使其成为医疗语义搜索的可靠选择。

选择合适的嵌入模型需要仔细思考。审视你的需求，比较选项，然后选择最适合你项目的模型。

选择合适嵌入模型的基准

不断有新的、改进的嵌入模型问世。但如何追踪它们呢？幸运的是，有大规模基准可以帮助你保持信息灵通。

大规模文本嵌入基准 (MTEB)

MTEB 是一个社区维护的排行榜。它比较了 100 多种文本和图像嵌入模型，涵盖 1,000 多种语言。所有信息都集中在一个地方——评估指标、不同类型的任务以及广泛的领域。这使其成为你决定使用哪种模型时的有用起点。

链接：https://huggingface.co/spaces/mteb/leaderboard

大规模文本嵌入基准 (MTEB) 仪表板

大规模多语言文本嵌入基准 (MMTEB)

大多数传统基准只涵盖少数几种语言或领域。MMTEB 则更进一步。它是 MTEB 的扩展版本，现在包含 250 多种语言的 500 多项评估任务。MMTEB 还测试更具挑战性的任务，例如指令遵循、从长文档中检索信息，甚至代码检索。它目前是针对嵌入模型最全面的多语言基准。

链接：https://arxiv.org/abs/2502.13595

---

何时以及如何使用大规模文本嵌入基准 (MTEB)？

MTEB 是选择嵌入模型的有用工具。不同的模型在不同任务上表现各异。MTEB 排行榜展示了每个模型在广泛任务上的表现。这可以帮助你根据特定需求缩小选择范围。

但是，不要仅凭 MTEB 评分就被迷惑。

MTEB 提供评分，但它并不能说明全部情况。顶级模型之间的差异通常非常小。这些评分来自许多任务，但你看不到结果在不同任务之间的变化程度。有时，排行榜顶端的模型仅略有优势。从统计上看，几个顶级模型可能表现同样出色。研究人员发现，当模型如此接近时，平均评分并不总是具有很大意义。

你应该怎么做？相反，要查看模型在与你的用例类似的任务上的表现。这通常比只关注总体评分更有帮助。你不需要详细研究每个数据集。但了解所使用的文本类型——例如新闻文章、科学论文或社交媒体帖子——会有所帮助。你可以在数据集描述中或通过快速浏览几个示例找到这些信息。

MTEB 是一个有用的资源，但它并不完美。批判性地思考结果。不要只选择得分最高的模型。深入挖掘，找到最适合你任务的那个。

考虑你应用程序的需求。没有一种模型是万能的。这就是 MTEB 存在的原因——帮助你为你的情况选择合适的模型。浏览排行榜时，请记住这些问题：

• 你需要什么语言？该模型支持它吗？
• 你是否在使用专业词汇，例如金融或法律术语？
• 模型有多大？它能在你的硬件（如笔记本电脑）上运行吗？
• 你的电脑有多少内存？模型能放得下吗？
• 最大输入长度是多少？你的文本是长还是短？

一旦你知道了项目中最关键的因素，你就可以在 MTEB 排行榜上根据这些特征筛选模型。这有助于你找到一个不仅性能良好，而且也符合你实际需求的模型。

结论

为你的 RAG 应用程序选择合适的嵌入模型，不仅仅是选择在基准测试中得分最高的那个。像 MTEB 这样的工具很有帮助，但它们无法告诉你一切。重要的是要超越数字，考虑对你的项目真正重要的因素，例如语言支持、专业词汇、内存限制和文本长度。

花时间理解你的用例。根据与你最相关的任务来比较模型。请记住，对他人应用程序效果良好的模型可能并不最适合你的。

最终，深思熟虑的方法是在性能与实际需求之间取得平衡。这将帮助你找到最适合你的模型。通过仔细考虑你的数据领域、模型复杂性、计算效率和成本，你可以做出明智的决定，从而提升你的应用性能。

记住，没有一刀切的解决方案。最好的方法是尝试几种不同的模型，并根据你的特定需求评估它们的性能。从小处着手，进行测试，并根据结果进行迭代。

如何学习大模型 AI ？

我国在AI大模型领域面临人才短缺，数量与质量均落后于发达国家。2023年，人才缺口已超百万，凸显培养不足。随着Al技术飞速发展，预计到2025年，这一缺口将急剧扩大至400万，严重制约我国Al产业的创新步伐。加强人才培养，优化教育体系，国际合作并进，是破解困局、推动AI发展的关键。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

2025最新大模型学习路线

明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛，没有明确的学习路线可能会导致新人感到迷茫，不知道应该专注于哪些内容。

对于从来没有接触过AI大模型的同学，我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

针对以上大模型的学习路线我们也整理了对应的学习视频教程，和配套的学习资料。

大模型经典PDF书籍

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路！

配套大模型项目实战

所有视频教程所涉及的实战项目和项目源码等

博主介绍＋AI项目案例集锦

MoPaaS专注于Al技术能力建设与应用场景开发，与智学优课联合孵化，培养适合未来发展需求的技术性人才和应用型领袖。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

为什么要学习大模型？

2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。

适合人群

• 在校学生：包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础，有志于深入AGI大模型行业，希望开展相关的研究和开发工作。
• IT行业从业人员：包括在职或失业者，涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验，至少1年以上的编程工作经验，对大模型技术感兴趣或有业务需求，希望通过课程提升自身在IT领域的竞争力。
• IT管理及技术研究领域人员：包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势，主导技术创新，推动大模型技术在企业业务中的应用与改造。
• 传统AI从业人员：包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作，现需要快速补充大模型技术能力，获得大模型训练微调的实操技能，以适应新的技术发展趋势。
  

课程精彩瞬间

大模型核心原理与Prompt：掌握大语言模型的核心知识，了解行业应用与趋势；熟练Python编程，提升提示工程技能，为Al应用开发打下坚实基础。

RAG应用开发工程：掌握RAG应用开发全流程，理解前沿技术，提升商业化分析与优化能力，通过实战项目加深理解与应用。

Agent应用架构进阶实践：掌握大模型Agent技术的核心原理与实践应用，能够独立完成Agent系统的设计与开发，提升多智能体协同与复杂任务处理的能力，为AI产品的创新与优化提供有力支持。

模型微调与私有化大模型：掌握大模型微调与私有化部署技能，提升模型优化与部署能力，为大模型项目落地打下坚实基础。

顶尖师资，深耕AI大模型前沿技术

实战专家亲授，让你少走弯路

一对一学习规划，职业生涯指导

• 真实商业项目实训
• 大厂绿色直通车

人才库优秀学员参与真实商业项目实训

以商业交付标准作为学习标准，具备真实大模型项目实践操作经验可写入简历，支持项目背调

大厂绿色直通车，冲击行业高薪岗位

文中涉及到的完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】