Integrating Large Language Models in Causal Discovery: A Statistical Causal Approach

本文是LLM系列文章，针对《Integrating Large Language Models in Causal Discovery: A Statistical Causal Approach》的翻译。

摘要

在实际统计因果发现（SCD）中，尽管在系统获取背景知识方面存在公认的挑战，但将领域专家知识作为约束嵌入算法被广泛认为对创建一致的有意义的因果模型具有重要意义。为了克服这些挑战，本文提出了一种新的因果推理方法，通过对LLM的“统计因果提示（SCP）”和对SCD的先验知识扩充，将SCD方法和基于知识的因果推理（KBCI）与大型语言模型（LLM）相结合。实验表明，GPT-4可以使LLM-KBCI的输出和具有来自LLM-KBCl的先验知识的SCD结果接近基本事实，并且如果GPT-4经历SCP，则可以进一步改进SCD结果。此外，已经澄清的是，LLM可以利用其背景知识改进SCD，即使LLM不包含数据集上的信息。因此，所提出的方法可以解决数据集偏见和局限性等挑战，说明LLM在改善不同科学领域的数据驱动因果推理方面的潜力。

1 引言

2 相关工作

3 资料与方法

4 结果与讨论

5 结论

在本研究中，开发并证明了一种新的因果推理方法，其中SCD和LLM-KBCI与SCP相结合，并增加了先验知识。
已经揭示，GPT-4可以使LLM-KBCI的输出和具有来自LLM-KBCl的先验知识的SCD结果接近基本事实，并且如果GPT-4经历SCP，则可以进一步改进SCD结果。此外，我们已经证明，具有SCP的GPT-4可以在领域专业知识和统计方面帮助SCD，并且即使样本量不足以获得合理的SCD结果，所提出的方法也是有效的。