Online Training of Large Language Models: Learn while Chatting

本文是LLM系列文章，针对《Online Training of Large Language Models: Learn while Chatting》的翻译。

摘要

大型语言模型（LLM）极大地改变了自然语言处理（NLP）领域，提供了显著的功能，并获得了广泛的使用。然而，LLM和用户之间现有的交互模式受到灵活性、定制限制或缺乏持续学习的限制。这种灵活性尤其明显，因为用户，尤其是那些没有编程技能的用户，增强或个性化模型的途径受到限制。现有框架由于计算效率低和缺乏用户友好的界面，使模型训练和部署过程进一步复杂化。为了克服这些挑战，本文引入了一种新的交互范式——“使用外部交互的在线训练”，它融合了持久实时模型更新的好处，以及通过人工智能代理或在线/离线知识库等外部交互进行个性化定制的灵活性。

1 引言

2 相关工作和动机

3 用户界面：使用外部交互进行在线训练

4 应用：一个工具学习的案例研究

5 讨论

6 结论

在本文中，我们介绍了一种新的交互范式，即在线参数变体&#