How Do Large Language Models Capture the Ever-changing World Knowledge? A Review of Recent Advances

本文是LLM系列文章，针对《How Do Large Language Models Capture the Ever-changing World Knowledge? A Review of Recent Advances》的翻译。

摘要

尽管大型语言模型（LLM）在解决各种任务方面令人印象深刻，但它们在部署后可能很快就会过时。在当前时代，保持他们的最新状态是一个紧迫的问题。本文全面回顾了LLM在无需从头开始重新训练的情况下与不断变化的世界知识保持一致的最新进展。我们对研究工作进行了系统的分类，并进行了深入的比较和讨论。我们还讨论了现有的挑战，并强调了促进该领域研究的未来方向。

1 引言

2 方法分类

3 比较与结论

4 挑战与未来方向

5 结论

在这篇论文中，我们系统地回顾了在无需再训练的情况下，将LLM与不断变化的世界知识相结合的最新进展。我们总结了现有的方法，并根据它们是倾向于直接改变LLM中隐含存储的知识，还是利用外部资源来覆盖过时的知识来对它们进行分类。我们全面比较了不同类别的方法，并指出了挑战和未来的方向，以促进该领域的研究。

局限性