使用 Qwen3 嵌入和 Qwen3 重排器的 RAG

如何利用嵌入和重排序模型高效检索与用户查询最相关的文本片段或文档

检索增强生成（RAG）是一种强大的范式，通过检索机制增强大型语言模型（LLM）的能力，使其在生成响应前能够访问相关背景信息（如文档或段落）。

RAG 流程的核心通常包含两个组件：嵌入模型和重排序器。

嵌入模型将文本转化为稠密数值向量（嵌入表示），使语义相似的文本在向量空间中彼此靠近。这通过相似性搜索实现了候选文档的高效检索。

重排序模型随后会接收这些候选文档，评估每个查询-文档对的相关性，并重新排序，使最相关的文档排在顶部。

换句话说，高质量的嵌入能够捕捉文本片段之间的语义关系，而强大的重排序器则确保检索结果在上下文中最相关。

为了支持高性能的 RAG 工作流程，Qwen 团队开源了基于 Qwen3 的嵌入和重排序模型。

本文将介绍如何使用并结合 Qwen3 嵌入和 Qwen3 重排序器来检索相关文档，并为您的 LLM 提供针对用户查询的有意义上下文。我们将首先详细探讨嵌入和重排序模型各自的工作原理及组合效果。通过一个示例，展示如何结合 sentence-transformers 和 vLLM 使用它们。

Qwen3 嵌入模型：专用文本嵌入</