如何将大型语言模型(LLMs)应用于需要复杂数据分析的决策制定问题?

定义了一种新的任务类型,称为决策问答(Decision QA),它要求模型回答给定的决策问题、业务规则和数据库的最佳决策。

决策QA示例。一个红点代表一个交易节点。在Deccan框中的盈利表示每个决策可能带来的盈利变化。请注意,潜在的盈利变化不在数据库中,应该从数据库中计算得出。每个国家只有一个主要的(家庭)交易节点。在表格中,下划线列名表示表格的键。

PlanRAG:基于迭代计划再RAG解决复杂数据分析任务,比迭代RAG提升15.8%_语言模型

为了有效解决决策问答任务,提出了一种新的基于迭代计划然后检索增强生成(PlanRAG)的技术:

  1. PlanRAG技术:它通过两个主要的推理类型来回答问题:首先是制定计划,其次是基于检索结果的推理。PlanRAG技术的核心在于,它使用单个语言模型来执行这两种类型的推理,以减少使用不同语言模型可能带来的副作用。
  2. PlanRAG的推理过程:PlanRAG的推理过程包括三个主要步骤:
  • 规划(Planning):语言模型接收决策问题、数据库架构和业务规则作为输入,生成一个初始的数据分析计划。
  • 检索与回答(Retrieving & Answering):与之前的RAG技术不同,PlanRAG在这一步骤中不仅考虑问题和规则,还包括初始计划,以更有效地生成数据分析查询。
  • 重新规划(Re-planning):如果初始计划不足以解决问题,PlanRAG会根据每次检索的结果评估当前计划,并生成新的计划或纠正先前分析的方向。

先前RAG技术与PlanRAG 技术推理过程的比较

PlanRAG:基于迭代计划再RAG解决复杂数据分析任务,比迭代RAG提升15.8%_推理过程_02

在定位场景中,先前的迭代RAG与PlanRAG 推理过程的示例

PlanRAG:基于迭代计划再RAG解决复杂数据分析任务,比迭代RAG提升15.8%_数据库_03

对不同类型的问题(单次检索和多次检索问题)进行了分析,定位场景中比最先进的迭代RAG方法提高了15.8%,在构建场景中提高了7.4%

DQA 技术准确率(%)(每个准确率是 RDB 和 GDB 中准确率的平均值)

PlanRAG:基于迭代计划再RAG解决复杂数据分析任务,比迭代RAG提升15.8%_数据库_04

IterRAG-LM和PlanRAGLM 在简单回答(SR)和多步回答(MR)问题上的准确率(%)

PlanRAG:基于迭代计划再RAG解决复杂数据分析任务,比迭代RAG提升15.8%_语言模型_05

定位场景中,针对 GDB 案例的单轮 RAG 技术检索Prompt模版:



在定位场景中,针对 GDB 案例的单轮 RAG 技术答案生成Prompt模版:

PlanRAG:基于迭代计划再RAG解决复杂数据分析任务,比迭代RAG提升15.8%_语言模型_06