大模型增强图推荐的两类主流方法_representation learning with large language models-优快云博客

本文链接：https://blog.youkuaiyun.com/Code1994/article/details/145119854

一、简介

大型语言模型（LLMs）的快速发展展示了其在生成、推理和建模世界知识方面的卓越能力。推荐系统也预计将从LLMs的发展中获得显著的好处。最近的研究努力已经将LLMs应用于推荐系统，并在各种场景中取得了显著的性能提升。现有的利用LLMs增强图领域推荐的方法可以被分为两个类别：（1）以TALLRec为例的一些方法将大语言模型直接作为预测器；（2）以RLMRec为例的一些方法将大语言模型作为增强器使用。接下来我们借TALLRec和RLMRec为例详细介绍两类方法的特点。

二、大语言模型作为预测器：TALLRec: An Effective and Efficient Tuning Framework to Align Large Language Model with Recommendation (Recsys 2023)

截止这篇工作为止，已有很多工作尝试直接使用大语言模型作为预测器来处理推荐数据，但大多现有的LLMs在预训练阶段并未接触过推荐数据或任务，这导致已有工作不能完全发挥出LLM用于推荐的潜力。为弥补这一差距，TALLRec提出利用推荐专有数据对大模型进行高效微调，以增强大语言模型方法在推荐任务中的表现。

2.1.使用大语言模型作为预测器的推荐方法

鉴于用户的交互历史，LLMs通过上下文学习预测用户是否会喜欢一个新项目。这一应用利用LLMs强大的自然语言理解和生成能力，通过分析用户的历史偏好、行为模式和项目特征，推测用户对新内容的兴趣和喜好。在推荐系统中，LLMs能够基于丰富的语境信息，结合用户过往的互动记录，生成个性化的推荐。然而，代表性的LLMs未经过微调的话，如ChatGPT，要么拒绝回答，要么在电影和书籍推荐任务中总是给出积极的预测（喜欢）。如果我们忽略拒绝的答案并计算剩余样本的AUC，我们发现LLMs的表现与随机猜测相似（AUC=0.5）。

2.2.TALLRec提出的微调后LLM作为预测器的推荐方法

TALLRec框架，旨在促进LLMs与推荐任务的有效且高效对齐，特别是在低GPU内存消耗的设置下。具体来说，作者首先引入了两个轻量化实现的TALLRec调优阶段，然后是骨干网络的选择。如下图所示，TALLRec由两个调优阶段组成：alpaca调优和rec-tuning调优。前者是LLM的常见训练过程，旨在提升LLM的泛化能力，而后者则模拟了指令调优的模式，专门对LLMs进行推荐任务的调优。在rec-tuning调优阶段，作者使用从推荐数据构建的指令输入和输出的rec-tuning样本。值得注意的是，作者采用了轻量化调优技术（LoRA微调技术），以提高TALLRec框架的效率。这种技术能够在保持较低GPU内存消耗的同时，优化LLM在推荐任务中的表现，从而实现高效的推荐模型调优。

2.3 实验效果

TALLRec在Movie和Book两个推荐数据集相对于其他方法有更好的效果。

三、大语言模型作为增强器：Representation Learning with Large Language Models for Recommendation (WWW 2024)

大语言模型作为增强器的方法使用LLMs的推理能力来增强推荐数据本身，经过增强后的数据再送入传统的推荐模型完成最终的推荐任务。RLMRec本文旨在通过LLM赋能的表示学习来增强现有的推荐系统。该框架提出了一种将表示学习与LLMs集成的推荐范式，旨在捕捉用户行为和偏好的复杂语义特征。RLMRec整合了辅助文本信号，利用LLMs进行用户/项目的画像建模，并通过跨视角对齐将LLMs的语义空间与协同关系信号对齐。本文进一步通过互信息最大化理论基础，展示了文本信号整合的效果，从而提升了表示的质量。我们的评估将RLMRec与最先进的推荐模型进行集成，同时分析其在噪声数据下的效率和鲁棒性。

3.1.用户/内容画像范式

RLMRec的作者强调获取用户和项目的文本描述（即画像）的重要性。这些画像在减轻推荐系统学习到的表示中的噪声影响方面发挥着关键作用，并能够实现对用户和项目交互偏好的语义理解。理想情况下，用户和项目画像应具备以下特点：

用户画像：应有效地概括用户倾向于喜欢的特定类型的项目，从而全面地表现其个性化的口味和偏好。
项目画像：应清晰地表达该项目能够吸引的特定类型的用户，提供明确的项目特征和品质展示，这些特征与这些用户的偏好和兴趣相一致。近期大型语言模型（LLMs）的发展释放了其卓越的文本处理能力，使其能够解决广泛的自然语言处理任务，包括文本去噪和摘要。这一重要进展为从数据集中固有的噪声文本特征生成用户和项目画像开辟了新的可能性。利用LLMs的巨大潜力，作者提出了一种基于协同信息的画像生成范式。

3.2.密度比建模与互信息最大化

接下来，RLMRec的作者进一步提出了将LLMs的语义空间与协同关系信号对齐的两种方法，第一种方法是对比建模，这种方法已被广泛验证能够有效地双向对齐不同视角，如通过拉近（pull）和推远（push）对。第二种方法是掩码重建生成建模，这是一种广泛使用的自监督机制，用于从数据本身重建部分掩码的输入。通过利用协同过滤（CF）侧的表示来重建语义表示，我们可以有效地对齐这两种信息形式。