Simulating Field Experiments with Large Language Models

本文是LLM系列文章，针对《Simulating Field Experiments with Large Language Models》的翻译。

摘要

流行的大型语言模型 （LLM） 能够通过其前所未有的内容生成和推理能力进行人类响应模拟。然而，目前尚不清楚是否以及如何利用 LLM 来模拟现场实验。在本文中，我们提出并评估了两种提示策略：允许直接预测主要结论的观察者模式和模拟参与者反应分布的参与者模式。使用这种方法，我们检查了发表在 INFORMS 和 MISQ 上的十五篇被广泛引用的现场实验论文，发现模拟实验结果与某些情况下的实际结果之间存在令人鼓舞的一致性。我们进一步确定了 LLM 表现不佳的主题，包括性别差异和社会规范相关研究。此外，本文提出的自动化和标准化工作流程使得通过现场实验大规模筛选更多论文成为可能。
本文率先利用大型语言模型 （LLM） 来模拟现场实验，对以前仅关注实验室环境的工作进行了重大扩展。通过引入两种新颖的提示策略——观察者和参与者模式——我们展示了 LLM 在复杂字段设置中预测结果和复制参与者反应的能力。我们的研究结果表明，在某些情况下，它与实验结果有希望地保持一致，在观察者模式下实现了 66% 的刺激准确率。这项研究扩大了 LLM 的潜在应用范围，并说明了它们在帮助研究人员进行昂贵的现场实验方面的效用。此外，它阐明了 LLM 在模拟现场实验时的界限，为考虑将 LLM 集成到其实验工具包中的研究人员提供了警告。

1 引言

2 先前的文献

3 方法

4 讨论和未来工作

这项研究对该领域做出了几项重大贡献。首先，我们扩展了关于 LLM 涌现能力的现有文献，首次证明了 LLM 具有模