《推荐系统之图神经网络研究》

最新推荐文章于 2025-09-24 15:23:52 发布

原创最新推荐文章于 2025-09-24 15:23:52 发布 · 886 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#神经网络 #推荐系统 #异构图 #机器学习 #深度学习

本文深入探讨了图神经网络（GNN）在推荐系统中的应用，从推荐系统的基本概念出发，详细介绍了GNN的概述，讨论了基于GNN的推荐分类方法，并对顺序推荐系统进行了阐述，为利用GNN提升推荐系统的性能提供了有价值的见解。

《推荐系统之图神经网络研究》

Graph Neural Networks in Recommender Systems

1.介绍

  本部分主要介绍了推荐系统的基本概念情况，使读者们对推荐系统有一个基本的了解。
  一个高效的推荐系统应该准确地捕捉用户的偏好，并推荐用户潜在感兴趣的项目，这样可以提高用户对平台的满意度，提高用户留存率。推荐系统根据用户的兴趣和物品属性来评估用户对物品的偏好。
  近年来，图神经网络在关系提取、蛋白质界面预测等许多应用领域都取得了巨大的成功[82]。
  图神经网络能够通过迭代传播捕获用户-物品关系中的高阶交互。此外，如果有社会关系或知识图的信息，则可以有效地将这些侧信息整合到网络结构中。
  **本研究的主要贡献：**本研究旨在全面回顾基于图神经网络的推荐系统的研究进展。对推荐系统感兴趣的研究者和实践者可以对基于图神经网络的推荐领域的最新发展以及如何利用图神经网络来解决推荐任务有一个大致的了解：
  1.新分类：提出一种系统的分类模式来组织现有的基于图神经网络的推荐系统。
  2.全面审查：对每个类别进行了审查回顾，展示了要处理的主要问题，总结了模型的整体框架。
  3.未来的研究方向：在此基础上，从效率、多图集成、可扩展性和序列图构建四个方面提出未来的研究方向。

2.推荐系统和图神经网络的概述

 **2.1推荐系统**
 推荐系统从用户的属性或用户与商品的交互中推断出用户的偏好和物品的属性，并进一步推荐用户可能感兴趣的商品。根据是否考虑物品的顺序，推荐系统可以分为一般推荐任务和顺序推荐任务。
 一般推荐假设用户具有静态首选项，并基于隐式(点击)或显式(评级)反馈建模用户和项目之间的兼容性。它预测用户对目标项目的评级，即评级预测或推荐用户可能感兴趣的top-N项，即top-N推荐。
 矩阵分解(MF)[30,40]是最传统的协同过滤方法之一，通过学习用户/项目潜在向量来重构交互矩阵。最近的研究使用神经成分[9,24]，如多层感知(MLP)来替代传统的MF[20]。
用户与项目的交互可以看作是一个二部图，利用图神经网络技术可以捕获用户-项目关系的交互，并学习有效的用户/项目嵌入。还利用了侧信息(如社会关系和知识图)来提高推荐性能，特别是对于数据稀疏场景。合并边信息的常用策略，要么是添加正则化术语，要么是融合从边信息学习到的表示。
顺序推荐捕获连续项目之间的顺序模式，并推荐用户下一步可能单击的内容，即下一个项目推荐。一些作品采用马尔可夫链(MC)[18, 44]，基于最近点击的商品反映了用户的动态偏好的假设来捕捉商品到商品的转换。例如，FPMC[44]融合了MF和MC，以组合用户的静态和动态首选项。
回归神经网络（RNN）在序列建模中，一些工作使用RNN单元来捕获序列模式，为了增强会话表示，注意力机制被用来合除了最近项目之外的整个序列。
**2.2图神经网络技术**
图神经网络(GNN)技术可以通过图节点之间的消息传递来捕捉图的依赖性[82]。GNN的主要思想是如何迭代地聚合邻居的特征信息，并将聚合的信息与当前的中心节点表示相集成[71]。
从是否使用谱卷积运算来看，现有的GNN方法可以分为谱方法和非谱方法。
对于谱方法，通过计算图的拉普拉斯[5]的特征分解，在傅里叶域中定义了卷积运算。所有的谱模型都使用原始的图结构来表示节点之间的关系。
非谱方法分别设计了聚合器和更新器。聚合器负责收集和聚合邻居的消息，而更新器的目标是合并中心节点和它的邻居的消息。在聚合步骤中，既有作品要么采用mean-pooling操作平等对待每个邻居[16,34]，要么采用注意机制[56]来区分邻居的重要性。在更新步骤中，有多种方法来集成这两种表示，如GRU机制[34]、连接[16]和求和操作[56]。
在各种GNN框架中，有graph convolutional network (GCN)、graph attention network（GAT）(门控图神经网络)、GGNN(门控图神经网络)、GraphSage被广泛采用。
**2.3为什么推荐图神经网络**
将图神经网络方法应用于推荐系统的动机在于两个方面:(1)RS中的大部分数据本质上具有图结构。(2) GNN技术在捕获节点间的连接和图数据的表示学习方面具有强大的功能。

![在这里插入图片描述](https://img-blog.csdnimg.cn/20210309162645433.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxODAyMDIy,size_16,color_FFFFFF,t_70)

GNN从交互项迭代地传播信息并更新用户向量(对于项也是如此)，这可以增强用户/项表示。此外，还可以利用GNN来学习带有图结构的边信息的压缩表示。此外，学习到的侧信息嵌入可以与交互数据中的嵌入相结合，提高整体推荐性能。另一种策略是将多个图组合成一个异构图，然后在整个图上传播信息。

3.基于图神经网络的推荐分类

在本节中，我们首先提出一种新的分类法来分类现有的基于图神经网络的模型。对于每个类别，我们总结了主要问题和模型的总体框架。此外，我们介绍了代表性的模型，并说明了它们采取了哪些策略来解决这些问题。在深入到不同的部分之前，我们给出将在整篇论文中使用的符号。表示法的详细说明见表1。

在这里插入图片描述

4.一般建议

面对数据稀疏和冷启动场景时，推荐系统的性能会急剧下降，为了解决这两个问题，研究者试图利用边信息。
**4.1没有边信息**
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210309214751437.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxODAyMDIy,size_16,color_FFFFFF,t_70)

	**4.1.1总体框架。**给定用户-产品二部图，关键的挑战是如何将用户曾经与之交互的产品信息传播给用户，并将与之交互的用户信息传播给该产品。
	面临的挑战：图形构造、邻居聚合、信息更新、最终的节点表示
**4.1.2具有代表性的方法**
**GC-MC**旨在解决评级预测问题。GC-MC只考虑了单跳邻居，没有充分利用通过图结构传递的消息。完全丢弃用户或项目节点的原始信息可能会忽略内部用户首选项或内部项目属性。
**STAR-GCN** 是GCN块的堆栈，每个块的结构都是相同的。值得注意的是STAR-GCN在培训过程中注重标签泄漏问题。提出在训练阶段对部分节点进行掩码，并在被掩码的节点上增加重构损失。总体损失是预测损失和重建损失的结合。
**STAR-GCN**STAR-GCN利用重构策略缓解过平滑问题，并对预测任务和重构任务进行联合优化，性能优于GC-MC。
**NGCF**决定消息在图结构和中心节点之间的亲缘关系上的传播。
**PinSage**结合随机漫步策略和图卷积学习节点的嵌入。
**IG-MC**着重于不使用边信息的归纳矩阵补全法，同时获得与最先进的转导方法类似或更好的性能。
**4.1.3总结**
**4.2社交网络增强**
随着在线社交网络的出现，社会推荐系统被提出利用每个用户的本地邻居的偏好来缓解数据稀疏性，从而更好地进行用户嵌入建模。
**4.2.1总体框架**现有研究将社会影响融入推荐系统，利用用户之间的互动行为和关系，提高用户的绩效。
**4.2.2具有代表性的方法**
DiffNet
GraphRec
DANSER
DiffNet++
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210311102203894.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQxODAyMDIy,size_16,color_FFFFFF,t_70)
**4.2.3总结**
建模影响  注意力机制
偏好集成 用户涉及到两种类型的网络，一种是用户-项目二部图，另一种是社交图。现有的作品是结合了这两者的信息。
**4.3知识图谱增强**
与无知识图谱推荐方法相比，将知识图谱引入推荐方法具有以下三个优点:(1)知识图谱具有丰富的语义关联，有助于挖掘条目之间的潜在关联，提高了结果的精度;(2)不同类型的关系有助于合理扩展用户的兴趣，增加推荐项目的多样性;(3) KG将用户历史上喜欢的和推荐的项目连接起来，从而为推荐系统带来解释性。
**4.3.1总体框架**
总体框架。知识图谱G由实体-关系-实体三元组组成(ℎ，𝑟，𝑡)。这里ℎ∈E，𝑟∈R，𝑡∈E分别表示知识三元组的头、关系和尾，其中E和R是实体和关系的集合。
简化图结构
多关系传播
融合用户决策
**4.3.2代表模型**
知识图谱增强一般推荐的四部代表性著作
KGCN利用用户特定的关系感知图神经网络来聚合邻近实体的信息。传播算法属于图注意力网络。
KGNN-LS 的目的是通过识别给定用户的重要知识图关系来学习用户特定的项目嵌入。
KGAT认为用户节点是知识图中的一种实体，用户与项目之间的交互是一种关系。
IntentGC基于多实体知识图重构用户对用户关系和产品对产品关系。注意，每种关系都有其对应的卷积核。实验结果表明，IntentGC比GraphSage更有效，即向量卷积运算优于连接运算。
AKGE在第一步自动抽取高阶子图，这些子图将用户-项目对连接起来，具有丰富的语义。
**4.3.3总结**从以下几个方面简要总结了现有的知识图谱增强一般推荐的工作。
图形概括
多关系传播
使用者融合

5.顺序推荐系统

顺序推荐基于用户最近的活动预测用户的下一个偏好，寻求在连续的项目中建立顺序模式，并为用户[43]生成合适的推荐。现有的大部分作品只关注从序列推断时间偏好。
**5.1.1无侧信息**总体框架。从项之间的邻接关系来看，可以将项的序列建模为图结构数据。
**5.1.2具有代表性的方法。**简要介绍无侧信息的顺序推荐中的代表性方法。
SR-GNN
GC-SAN
A-PGNN
FGNN
MA-GNN将静态和动态用户首选项与项目共生模式集成在一起，用于顺序推荐。MA-GNN从用户静态偏好、短期和长期兴趣、项目共现模式三个方面衡量用户对目标项目的偏好。
**5.1.3总结**
图形构建
消息传播
顺序优先级
**5.2社会网络增强**
DGRec 只考虑社交网络作为图表数据。使用LSTM机制，从每个用户最近的会话行为中提取他们的动态兴趣。用户在社交网络中的表现是动态的。DGRec考虑到社会影响可能会随着情境的不同而不同，因此使用GAT来区分朋友的影响。消融研究表明，与有社会网络的一般推荐和无侧信息模型的顺序推荐相比，DGRec具有显著的性能。结果表明，该方法具有一定的合理性。