RAG | (ACL24规划-检索增强)PlanRAG：一种用于生成大型语言模型作为决策者的规划检索增强生成方法

原文：PlanRAG: A Plan-then-Retrieval Augmented Generation for Generative Large Language Models as Decision Makers
地址：https://arxiv.org/abs/2406.12430
代码：https://github.com/myeon9h/PlanRAG
出版：ACL 24
机构: 韩国科学技术院

1 研究问题

本文研究的核心问题是: 如何利用大型语言模型(LLMs)作为解决需要复杂数据分析的决策问题的方案。

::: block-1
假设一家制药公司需要决定哪个工厂应该继续运营或停止，以及每个工厂应该雇佣多少员工，以在保持按时交付的同时最小化生产成本。这需要分析大量数据并做出复杂的决策。本文研究如何让LLMs能够有效地处理这类决策问题。
:::

本文研究问题的特点和现有方法面临的挑战主要体现在以下几个方面:

• 决策制定任务需要执行三个步骤:制定分析计划、检索必要数据、基于数据做出决策。现有方法主要关注后两个步骤，但对于制定分析计划这一关键步骤处理不足。
• 决策问题通常涉及大规模结构化数据库，而现有的检索增强生成(RAG)技术主要针对知识型问答任务，不适合处理复杂的决策问题。
• 决策过程可能需要多轮数据检索和分析，要求模型能够进行迭代推理和规划。

针对这些挑战,本文提出了一种基于迭代规划的"PlanRAG"方法:

::: block-1
PlanRAG的核心思想是在检索和生成之前先进行规划。可以把它比作一个精明的管理顾问:首先制定分析计划，然后有条不紊地执行数据检索和分析，并在需要时调整计划。具体来说，PlanRAG首先生成一个初始分析计划，然后基于这个计划生成数据分析查询。执行查询后，它会评估是否需要重新规划或进行进一步检索。通过这种方式，PlanRAG能够更有效地处理复杂的决策问题，特别是在需要多轮数据分析的情况下。这种方法的独特之处在于它将规划、检索和生成紧密结合，使LLM能够更系统、更有针对性地进行决策分析。
:::

2 研究方法

2.1 PlanRAG概述

PlanRAG(Plan-then-Retrieval Augmented Generation)是一种新型的检索增强生成技术,旨在解决复杂的决策问题。传统的RAG(Retrieval Augmented Generation)技术在处理需要多步推理的复杂决策问题时往往力不从心。PlanRAG的核心思想是在检索和回答之前先进行规划,并在必要时进行重新规划,从而提高决策的准确性和效率。

举个例子,想象你是一家连锁药店的经理,需要决定在哪个城