本文也是LLM系列的文章,针对《Teach LLMs to Personalize – An Approach inspired by Writing Education》的翻译。
教LLM个性化——一种受写作教育启发的方法
摘要
个性化文本生成是近年来备受关注的一个新兴研究领域。该方向的大多数研究都通过设计定制功能或模型来关注特定领域。在这项工作中,我们提出了一种使用大型语言模型(LLM)生成个性化文本的通用方法。受写作教育实践的启发,我们开发了一个多阶段、多任务的框架来教授LLM,以实现个性化生成。在写作教学中,从源头写作的任务通常被分解为多个步骤,包括发现、评估、总结、综合和整合信息。类似地,我们的个性化文本生成方法包括多个阶段:检索、排序、摘要、合成和生成。此外,我们引入了一个多任务设置,帮助模型进一步提高其生成能力,这是受教育中观察到的学生的阅读能力和写作能力往往相关的启发。我们在三个公共数据集上评估了我们的方法,每个数据集都涵盖了不同的代表性领域。我们的结果显示,在各种基线上都有显著的改进。