A Survey on Large Language Models for Recommendation

最新推荐文章于 2025-06-25 21:46:44 发布
最新推荐文章于 2025-06-25 21:46:44 发布
阅读量1.8k 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： Survey Paper 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/132457158
Survey Paper 同时被 2 个专栏收录
275 篇文章 ¥99.90 ¥299.90
订阅专栏 超级会员免费看
LLM 日更
828 篇文章

已下架不支持订阅

本文探讨了大型语言模型（LLM）在推荐系统（RS）中的应用，通过自监督学习训练，利用LLM的文本表示能力和外部知识增强推荐质量。将LLM分为判别式和生成式两类，详细分析了各类方法、技术和性能，指出了挑战并提供未来研究方向。

本文是LLM系列的文章，针对《A Survey on Large Language Models for Recommendation》的翻译。

大模型用于推荐的综述

摘要

大型语言模型（LLM）作为自然语言处理（NLP）领域的强大工具，近年来在推荐系统（RS）领域受到了极大的关注。这些模型使用自监督学习在大量数据上进行训练，在学习通用表示方面取得了显著成功，并有可能通过一些有效的转移技术（如微调和提示调整）来增强推荐系统的各个方面。利用语言模型的力量来提高推荐质量的关键方面是利用它们对文本特征的高质量表示以及它们对外部知识的广泛覆盖来建立项目和用户之间的相关性。为了全面了解现有的基于LLM的推荐系统，本综述提出了一种分类法，将这些模型分为两个主要范式，分别是用于推荐的判别LLM（DLLM4Rec）和用于推荐的生成LLM（GLLM4Reg），后者首次被系统地分类。此外，我们系统地回顾和分析了每种范式中现有的基于LLM的推荐系统，深入了解了它们的方法、技术和性能。此外，我们还确定了关键挑战和一些有价值的发现，为研究人员和从业者提供了灵感。我们还创建了一个GitHub存储库，为LLM上的相关论文编制索引，以供推荐。

1 引言

2 建模范式和分类

3 判别式LLM用于推荐

4 生成式LLM用于推荐

5 发现

6 结论

在本文中，我们回顾了推荐系统的大型语言模型（LLM）的研究领域。我们将现有的工作分为判别模型和生成模型，然后用领域自适应的方式对它们进行了详细的说明。为了防止概念混淆，我们在基于LLM的推荐中提供了微调

了解本专栏 订阅专栏 解锁全文 超级会员免费看
A Survey on Large Language Models for Personalized and Explainable Recommendations
c_cpp_csharp的专栏
01-10 763
近年来，随着大型语言模型（LLM）在自然语言处理（NLP）领域的出现，推荐系统（RS）发生了变革。这些模型，如OpenAI的GPT-3.5/4、Meta的Llama，在理解和生成类人文本方面表现出了前所未有的能力。这导致了个性化和可解释推荐领域的范式转变，因为LLM提供了一个多功能的工具集，用于处理大量文本数据，以增强用户体验。为了全面了解现有的基于LLM的推荐系统，本调查旨在分析RS如何从基于LLM方法中受益。
论文翻译：Large Language Models for Education: A Survey and Outlook
CSPhD-winston的博客
07-12 2211
大型语言模型（LLMs）的出现为教育领域带来了新的可能性时代。这篇综述论文从多方面的角度总结了LLMs在教育环境中的各类技术，包括学生和教师的辅助、自适应学习和商业工具。我们系统性地回顾了每个角度的技术进步，整理了相关的数据集和基准测试，并识别了在教育中部署LLMs所面临的风险和挑战。此外，我们概述了未来的研究方向，突出了潜在的有希望的方向。我们的调查旨在为教育工作者、研究人员和政策制定者提供一个全面技术图景，利用LLMs的力量来彻底改变教育实践，并促进更有效的个性化学习环境的形成。
LLM-＞Rec论文综述：A Survey on Large Language Models for Recommendation
2301_79838167的博客
04-13 1687
作者机构: 中国科学技术大学认知智能国家重点实验室；BOSS直聘职业科学实验室；香港科技大学（广州）摘要大型语言模型（LLMs）已成为自然语言处理（NLP）领域的强大工具，并逐渐在推荐系统（RS）中受到广泛关注。这些模型通过自监督学习从海量数据中训练，展现了卓越的通用表征能力，并通过微调、提示调整等技术有效提升了推荐系统的性能。其核心优势在于利用高质量的文本特征表征和丰富的领域知识，建立用户与物品之间的关联。判别式LLM推荐（DLLM4Rec）和生成式LLM推荐（GLLM4Rec）
A Survey of Large Language Models大模型综述论文章节总结
weixin_45320238的博客
10-17 2332
这篇论文出自于中国人民大学，全面回顾了大型语言模型 (LLM) 的最新进展，重点关注其发展背景、关键发现和主流技术。
【文献阅读三】A Survey on Large Language Models for Recommendation
qq_45284304的博客
10-28 1212
摘要：本文是关于推荐系统领域的一篇综述的阅读。为了提供一个关于LLM-based的推荐模型的全面了解，该综述将现存的模型分为两大范式：基于判别式的推荐模型DLLM4Rec和基于生成式的推荐模型GLLM4Rec。本综述重点讨论了GLLM4Rec。
大型语言模型综述，非常详细，格局打开！A Survey of Large Language Models
大模型天花板
04-18 9534
从图灵测试开始讲起，人类一直在探索用机器掌握语言智能的方法。在过去20年，语言模型得到了广泛研究。从统计语言模型到了基于神经网络的语言模型（LSTM等）。最近这些年，通过在大规模语料库（数据集）上对Transformer模型的预训练，提出了预训练语言模型（PLMs），在解决各种自然语言处理（NLP）任务方面显示出了很强的能力。
LLM-＞Rec论文综述：A Survey on Large Language Models for Personalized and Explainable Recommendations
2301_79838167的博客
04-13 1006
近年来，随着自然语言处理 （NLPLLMs） 领域大型语言模型的出现，推荐系统 （RS） 见证了变革性的转变。这些模型，例如 OpenAI 的 GPT-3.5/4，来自 Meta 的 Llama，在理解和生成类似人类的文本方面表现出前所未有的能力。这导致了个性化和可解释推荐领域的范式转变，因为它LLMs为处理大量文本数据提供了多功能工具集，以增强用户体验。为了全面了解现有的LLM基于推荐系统，本调查旨在分析 RS 如何从基于推荐系统的方法中受益LLM。
论文阅读-《A Survey of Large Language Models》
Yogurtboyyy的博客
06-08 2270
LLM综述论文
《A Survey of Large Language Models》大型语言模型综述，非常详细收藏我这一篇就够了！
2401_85343303的博客
11-29 1583
这是一篇关于大语言模型（LLMs）的综述论文，主要介绍了 LLMs 的发展历程、技术架构、训练方法、应用领域以及面临的挑战等方面，具体内容如下：摘要 —— 自从图灵测试在 20 世纪 50 年代被提出以来，人类已经探索了机器对语言智能的掌握。语言本质上是一个由语法规则支配的复杂、复杂的人类表达系统。它对开发有能力的人工智能（AI）算法来理解和掌握语言提出了重大挑战。作为一种主要方法，语言建模在过去的二十年里被广泛研究用于语言理解和生成，从统计语言模型发展到神经语言模型。
LLM4Rec：当推荐系统遇到大语言模型
Kaiyuan_sjtu的博客
01-15 2433
作者|kaiyuanhttps://bytedance.larkoffice.com/docx/OdGOdfsIPooznDx5ZvfcFqJjnne大家好，这里是NewBeeNLP。大模型LLM在越来越多的领域开始崭露头角，前段时间我们整理了大模型在推荐系统中的应用 survey，当时留了一些坑没填上，今天补上。完整阅读体验可看：https://bytedance.larkoffice.c...
A Survey on Language Models for Code
c_cpp_csharp的专栏
11-24 391
在这项工作中，我们系统地回顾了语言模型在代码处理方面的最新进展，涵盖了50多个模型、30多个评估任务、150多个数据集和550项相关工作。我们将代码处理模型分解为以GPT家族为代表的通用语言模型和专门针对代码进行预训练的专用模型，通常具有定制的目标。我们讨论了这些模型之间的关系和差异，并强调了代码建模从统计模型和RNN到预训练的Transformers和LLM的历史转变，这与NLP所走的路线完全相同。
A Survey on Large Language Models for Code Generation
c_cpp_csharp的专栏
09-09 429
大型语言模型 （LLM） 在各种与代码相关的任务（称为代码 LLM）中取得了显著的进步，尤其是在使用 LLM 从自然语言描述生成源代码的代码生成方面。由于其在软件开发（例如 GitHub Copilot）中的实际意义，这个新兴领域引起了学术研究人员和行业专业人士的极大兴趣。尽管从自然语言处理 （NLP） 或软件工程 （SE） 或两者兼而有之的角度来看，人们积极探索 LLM 用于各种代码任务，但明显缺乏专门针对 LLM 用于代码生成的全面和最新的文献综述。
论文阅读：A Survey on Large Language Models for Code Generation
m0_53605808的博客
06-25 1338
大型语言模型（LLMs）在各种代码相关任务中取得了显著进【展，被称为代码 LLMs，尤其在从自然语言描述生成源代码的代码生成任务中表现突出。这一新兴领域因其在软件开发中的实际意义，如 GitHub Copilot，引起了学术研究人员和行业专业人士的极大兴趣。尽管从自然语言处理（NLP）或软件工程（SE）或两者的角度对 LLMs 进行了各种代码任务的积极探索，但缺乏专门针对代码生成 LLMs 的全面且最新的文献综述。
【代码大模型】A Survey on Language Models for Code综述阅读
hhhhhzl的博客
11-20 1109
代码大模型综述
大模型周报丨代码语言模型和模型即服务两篇综述，涵盖50+模型、30+评估任务和500+篇相关论文
xiaoshun007的专栏
12-05 465
我们的定量分析表明，我们的方法在提示对齐和身份一致性之间取得了更好的平衡，相较于基线方法，这些发现得到了用户研究的加强。此外，文章还讨论了代码特定的特征，如AST、CFG和单元测试，以及它们在代码语言模型训练中的应用，并指出了该领域的主要挑战和潜在的未来发展方向。2022年底，OpenAI 推出的基于 GPT-3.5 的大型语言模型 ChatGPT，由于其优秀的表现，ChatGPT 及其背后的大型语言模型迅速成为人工智能领域的热门话题，吸引了广大科研人员和开发者的关注和参与。
论文干货 | 首篇代码生成大模型综述
qq_45832461的博客
11-17 5695
全网首篇最全面透彻的代码生成大模型论文综述的详解。分享一篇来自上海交通大学的最新代码生成大模型的论文综述。系统回顾了使用语言模型处理代码的最新进展，涵盖 50 多种模型、30 多种评估任务和 500 多项相关工作。将代码处理模型分为以 GPT 系列为代表的通用语言模型和根据特定目标对代码进行预训练的专用模型。讨论代码建模从统计模型和 RNN 到预训练 Transformers 和 LLM 的历史过渡，这与 NLP 的发展历程类似。
谈一谈LLM在推荐域的一些理解
阿里技术
07-12 2692
搜索慢慢的被大模型渗透，那么很自然很多人想到了推荐，但是推荐是不是真的可以被大模型渗透呢？大模型能改变推荐的范式吗？
2023大型语言模型推荐技术进展综述: 分类、进展、问题、趋势.
SmartLab307的博客
07-27 1832
大型语言模型（LLM）已成为自然语言处理（NLP）领域的强大工具，最近在推荐系统（RS）领域获得了极大关注。这些模型通过自监督学习在海量数据上进行训练，在学习通用表征方面取得了显著的成功，并有可能通过一些有效的转移技术（如微调和及时调整等）来增强推荐系统的各个方面。利用语言模型的力量提高推荐质量的关键在于利用其高质量的文本特征表征和广泛的外部知识覆盖来建立项目和用户之间的相关性。
推荐系统无显式ID特征文献综述 - 学习资料汇总与项目介绍
Nifc666的博客
09-11 920
推荐系统是当今互联网应用中不可或缺的重要组成部分,而传统的基于ID特征的推荐方法正面临着诸多挑战。本文将为大家介绍一个重要的GitHub项目 - Recommendation-Systems-without-Explicit-ID-Features-A-Literature-Review,该项目汇总了推荐系统无显式ID特征相关的重要文献、数据集和研究方向,为该领域的学习者和研究者提供全面的资源导航。项目概述推荐系统是否可以拥有类似NLP和CV领域的基础模型?ID嵌入对推荐模型是否必要,能否被替代或废弃。
Graph Neural Networks for Social Recommendation: A Survey
最新发布
08-17
### 社交推荐中图神经网络的应用综述 图神经网络（Graph Neural Networks, GNNs）在社交推荐系统中的应用已经成为研究的热点，其主要优势在于能够有效地建模用户-物品交互以及用户之间的社交关系。社交推荐系统的目标是通过结合用户的社交网络信息和行为数据，提供更精准的推荐结果。GNNs通过图结构建模，能够捕捉复杂的高阶关系，从而显著提升推荐系统的性能。 在社交推荐中，GNNs通常用于构建用户-物品交互图和用户社交关系图。这种图结构可以进一步扩展到多跳邻域，从而捕捉更广泛的上下文信息。例如，用户之间的社交关系可以通过图卷积网络（Graph Convolutional Networks, GCNs）进行建模，而用户-物品交互则可以通过图注意力网络（Graph Attention Networks, GATs）来增强推荐的个性化能力[^3]。 此外，GNNs还可以与自监督学习相结合，以解决推荐系统中的冷启动和数据稀疏问题。这种方法通过生成伪标签或利用对比学习来增强模型的泛化能力。例如，通过自监督学习，模型可以利用用户的历史行为数据生成潜在的特征表示，从而提升推荐的准确性[^4]。 在评估方面，社交推荐系统的研究通常关注多目标优化，包括推荐的准确性、多样性和公平性。这些目标不仅需要模型设计上的创新，还需要在数据集和评估指标上进行改进。例如，某些研究提出了新的基准数据集，以更好地反映真实世界的社交推荐场景[^1]。 最后，社交推荐系统的研究还面临一些挑战，例如模型的可解释性、隐私保护以及大规模图数据的高效处理。未来的研究方向可能包括更高效的图神经网络架构、跨域推荐的融合方法以及基于图的强化学习策略[^2]。 ### 代码示例 以下是一个简单的图神经网络模型在社交推荐中的实现示例，使用PyTorch Geometric： ```python import torch import torch.nn.functional as F from torch_geometric.nn import GCNConv class SocialRecommendationGNN(torch.nn.Module): def __init__(self, num_features, hidden_dim, num_classes): super(SocialRecommendationGNN, self).__init__() self.conv1 = GCNConv(num_features, hidden_dim) self.conv2 = GCNConv(hidden_dim, num_classes) def forward(self, data): x, edge_index = data.x, data.edge_index x = self.conv1(x, edge_index) x = F.relu(x) x = self.conv2(x, edge_index) return F.log_softmax(x, dim=1) # 假设数据已经加载为PyTorch Geometric的Data对象 # model = SocialRecommendationGNN(num_features=64, hidden_dim=128, num_classes=10) # optimizer = torch.optim.Adam(model.parameters(), lr=0.01) # for epoch in range(100): # model.train() # optimizer.zero_grad() # out = model(data) # loss = F.nll_loss(out[data.train_mask], data.y[data.train_mask]) # loss.backward() # optimizer.step() ``` ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值