读论文《Relation-Enhanced Multi-Graph Attention Network for Recommendation》

原创

已于 2022-08-15 18:25:30 修改 · 599 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#知识图谱 #人工智能 #机器学习

于 2022-08-15 18:24:02 首次发布

该文提出了一种名为REMAN的关系增强多图注意力网络，用于推荐系统。通过结合用户行为和项目知识，形成统一的关系图，并利用关系特定的注意力聚合器处理异构邻居信息。此外，通过构建关系增强用户图来弥补传统方法在挖掘用户偏好方面的不足。实验表明，REMAN在捕获高阶关系和用户个性化偏好方面表现出色，优于现有推荐方法。

0 Summary:

Title: Relation-Enhanced Multi-Graph Attention Network for Recommendation

conference: 2020 IEEE 11th International Conference on Software Engineering and Service Science (ICSESS)

Abstract:

知识图谱捕捉了一组实体之间的结构化信息和关系。研究人员经常在推荐系统中引入知识图(KG)，以获得更准确、更易于解释的推荐。近年来，许多研究者将带有知识图的图神经网络(GNN)应用于推荐系统中。但是，它们没有考虑适当的聚合，并且忽略了的层限制

为了解决这些问题，我们提出了一个新的推荐框架，名为关系增强的多重图注意网络(简称REMAN)，对推荐过程中实体间的异构、高阶关系进行建模。

首先，我们将用户行为和条目知识编码为统一的关系图。然后我们利用关系特定的注意聚合器来聚合异构邻居的嵌入。第三，我们提出了一种关系增强的用户图，以弥补GNN层在推荐方面的局限性。最后，我们根据在图中学习到的嵌入进行预测。在三个基准数据集上的大量实验表明，我们的框架明显优于强推荐方法。

1 引言

在这里插入图片描述

推荐算法比如协同过滤会产生冷启动等问题，因此提出用知识图谱来获取实体的数据和关系。

知识图谱是由 Google 公司在 2012 年提出来的一个新的概念。从学术的角度，我们可以对知识图谱给一个这样的定义：“知识图谱本质上是语义网络（Semantic Network）的知识库”。但这有点抽象，所以换个角度，从实际应用的角度出发其实可以简单地把知识图谱理解成多关系图（Multi-relational Graph）。

也有将GNN引入推荐的基于混合传播的方法，但他们的模型也有以下问题
在这里插入图片描述

例如图1所示，

1.红框所示，模型在第二层将所有邻居节点完成聚合，但没有考虑这些节点的类型

2.蓝框所示，当目标路径过长会导致GNN聚合很多不相关的因素

为解决以上问题，本文提出了一个Relation Enhanced Multiple Graph Attention Network (REMAN forshort),

首先，我们将用户行为和项目信息编码为统一的关系图。其次，我们利用关系特定的注意力聚合器来聚合异构邻居的嵌入。第三，我们提出了一种关系增强的用户图，以弥补以往方法在挖掘用户个人偏好时的不足和 GNN 层推荐的局限性。最后，我们根据图中学习的嵌入进行预测。

2 相关工作

2.1 知识感知推荐

目前知识图谱推荐系统分为三类：基于嵌入的方法，基于路径的方法，混合方法

1、

2.

3.

基于嵌入的方法使用知识边图嵌入 (KGE) 算法对 KG 进行预处理，该算法对严格的语义相关性进行建模，但这些方法缺乏高阶建模，扩展性较差。

基于路径的方法通过设计元路径模式或路径选择算法来利用知识图谱结构来提取异构知识图中的潜在特征。但是路径选择对很大程度上依赖于手动设计的元路径/元图有很大的影响。

在KGAT采用注意力机制聚合和传播实体的局部邻域信息，没有考虑用户对实体的个性化偏好。

这些基于混合传播的方法通过逐层传播隐式聚合高阶邻域信息

本文也属于基于混合传播的一个实例

2.2 图神经网络

图神经网络通过同时对边和节点属性进行建模，虽然这可以对知识图谱信息进行建模，但它们只是使用 GNN 来预测项目，并没有充分考虑针对推荐场景进行设计。

3 目标介绍

在这里插入图片描述

异构图：
$\cal G=(V,E,R)\\ \cal E= {(h, r, t)|h, t \in V, r \in R}$
协同知识图（CKG）:，
$\cal G_{CK} = (V_{CK},E_{CK},R_{CK})\\ \cal V_{CK}=U\bigcup I\bigcup A$

CKG为KGAT中提到的一个概念，通过将图谱关系信息及用户user点击商品item的交互图融合到一个异构图空间里，可以融合CF信息及KG信息，同时也可以通过CKG发现高阶的关系信息

在这里插入图片描述

关系增强的用户图谱：

由于层长的限制，我们缺乏探索长路径信息的能力。且CKG item通过一跳直接连接到了user，导致item 邻居聚合的信息要远比user的丰富，因此CKG聚合对用户信息的挖掘不足，难以对用户的个人偏好进行建模

为了解决这些问题，我们将构建元路径图的传统方法应用于我们的用户图。我们设计了基于元路径的关系增强用户图谱，元路径如下
$-user\\ \cal G_{RU} = (V_{RU} , E_{RU} )\\ \cal E_{RU} = {(h, r_u, t)|h, t \in U} \\ （h,r_u,t）及表示用户元路径$