GR-LLMs: Recent Advances in Generative Recommendation Based on Large Language Models

文章主要内容总结

本文是一篇关于基于大型语言模型（LLMs）的生成式推荐（Generative Recommendations, GR）的综合性综述，旨在梳理该领域的最新进展并为后续研究提供参考。主要内容包括：

1. 背景与发展历程：推荐系统经历了三个技术范式——基于机器学习的推荐（MLR）、基于深度学习的推荐（DLR）和生成式推荐（GR）。其中，LLM驱动的GR作为新范式，凭借LLMs强大的序列建模和推理能力，逐渐展现出替代依赖手工特征的传统推荐系统的潜力。

2. 核心内容：

   • 预备知识：介绍了LLMs的基本原理（如自回归的下一个token预测）和传统级联推荐系统的结构（召回、预排序、排序三阶段）。
   • 应用场景：详细阐述了GR在召回（提示式、令牌式、嵌入式方法）、排序（生成式架构、混合集成架构）和端到端推荐中的具体应用及代表性模型（如HSTU、OneRec、MTGR等）。
   • 工业应用考量：分析了GR在工业落地中的关键问题，包括训练流程（单阶段/多阶段训练）、推理效率优化（序列压缩、架构调整等）、冷启动问题及世界知识的利用。
   • 未来方向：提出模型缩放、数据清洗、通用模型（“一个模型适配所有任务”）等潜在研究方向。

3. 结论：总结了LLM-based GR的优势（可解释性、