RAFT：让大型语言模型更擅长特定领域的 RAG 任务

RAFT（检索增强的微调）代表了一种全新的训练大语言模型（LLMs）以提升其在检索增强生成（RAG）任务上表现的方法。“检索增强的微调”技术融合了检索增强生成和微调的优点，目标是更好地适应各个特定领域。该技术由微软的主要AI倡导者 Cedric Vidal 和 Meta 的 AI 倡导者 Suraj Subramanian 共同提出。

一、前言

生成式 AI 对企业最具影响力的应用之一是创建能够访问已有知识库的自然语言接口，换句话说，它能够针对银行、法律和医学等特定领域提供问题解答。目前主要有两种方法可以实现这一点：

1. 特定领域微调 (DSF)：在代表特定领域知识的文档集上训练现有的基础模型。

2. 检索增强生成 (RAG)：将文档存储在矢量数据库中，并在查询时根据与问题的语义相似性检索相关文档，并将其纳入大型语言模型的上下文进行情境学习。

本文将探讨这两种方法的局限性，并介绍加州大学伯克利分校研究人员 Tianjun Zhang 和 Shishir G. Patil 提出的 RAFT 方法如何克服这些局限性。该团队以 Gorilla 大型语言模型而闻名，他们在 RAFT 论文中介绍了这种新方法，并展示了如何使用 Meta Llama 2 和 Azure AI Studio 进行研究和实施。

伯克利团队还发表了一篇博客文章，解释了 RAFT 方法的优缺点以及如何产生更有效的结果。RAFT 论文的代码实现可在他们的 Github 代码库中找到。

接下来，我们将介绍 RAFT 方法的工作原理。

二、理解 RAFT 方法

RAFT 是一种将预训练的大型语言模型微调到特定领域 RAG 设置的通用方法。在特定领域 RAG 中，模型需要根据特定领域的一组文档回答问题，例如企业中的私有文件。这与通用 RAG 不同，因为通用 RAG 中的模型并不知道它将在哪个领域进行测试。

为了更好地理解特定领域 RAG，我们可以将其与考试类比。

• 闭卷考试：类比于大型语言模型无法访问任何外部信息来回答问题的情况，例如聊天机器人。在这种情况下，模型只能依靠预训练和微调期间学习到的知识来响应用户的提示。

• 开卷考试：类比于大型语言模型可以参考外部信息来源（例如网站或书籍）的情况。在这种情况下，模型通常会与检索器配对，检索器会检索相关文档并将其附加到用户的提示中。模型只能通过这些检索到的文档获取新知识。因此，模型在开卷考试设置中的性能很大程度上取决于检索器的质量以及检索器识别相关信息的能力。

传统的 RAG 在收到查询时，会从索引中检索一些可能包含答案的文档，并将其作为上下文来生成答案。这就像学生参加开卷考试，可以翻阅教科书寻找答案。相比之下，微调就像闭卷考试，学生只能依靠记忆来回答问题。显然，开卷考试更容易，这也解释了 RAG 的有效性和流行性。

然而，这两种方法都存在局限。微调的模型只能依赖于它所训练的知识，有时可能会出现近似或幻想的问题。RAG 虽然基于文档，但检索到的文档可能只是与查询语义接近，并不一定包含正确答案。这些干扰性文档可能会误导模型，导致生成错误的答案。

为了克服 RAG 的这些缺陷࿰