Large Language Models and Causal Inference in Collaboration: A Comprehensive Survey

本文是LLM系列文章，针对《Large Language Models and Causal Inference in Collaboration: A
Comprehensive Survey》的翻译。

摘要

因果推理通过捕捉变量之间的因果关系，在提高自然语言处理（NLP）模型的预测准确性、公平性、稳健性和可解释性方面显示出了潜力。生成性大型语言模型（LLM）的出现对各种NLP领域产生了重大影响，特别是通过其先进的推理能力。本次调查的重点是从因果角度评估和改进LLM，包括以下方面：理解和提高LLM的推理能力，解决LLM中的公平和安全问题，用解释补充LLM，以及处理多模态。同时，LLM强大的推理能力反过来可以帮助因果关系的发现和因果效应的估计，从而为因果推理领域做出贡献。这篇综述从两个角度探讨了因果推理框架和LLM之间的相互作用，强调了它们在进一步发展更先进、更公平的人工智能系统方面的集体潜力。

1 引言

2 大模型的背景

3 因果推理的简单介绍

4 大模型的因果推理

5 因果推理的大模型

6 未来方向

7 结论

在其核心，大型语言模型（LLM）就像一个庞大的知识库。目前的挑战之一是弄清楚如何有效地提取和使用这些知识。提高LLM的关键在于提高他们理解因果关系的能力——本质上是事物是如何联系的。因果推理对于使LLM更智能至关重要。从因果推理的角度来看，我们发现了一个有价值的框架，有助于提高LLM的有效性。同时，作为人类知识的守护者，LLM甚至可以通过提供超越现有限制的广泛专业知识，重塑我们对这一重要领域的理