Interest-aware Message-Passing GCN for Recommendation(个人笔记)

已于 2022-04-19 08:42:49 修改
阅读量1.2k 收藏 5
点赞数 3
文章标签： 深度学习 推荐算法
于 2022-04-17 10:26:42 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_29717841/article/details/124220525
版权
本文提出IMP-GCN模型，解决了基于GCN的推荐模型中的过度平滑问题，通过兴趣相似的用户分组和子图生成，减少负信息干扰，提升推荐效果。实验表明，IMP-GCN在多层结构中表现优越，特别是在3层以上，且不同子图数量对性能有显著影响。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

论文：兴趣感知信息传递GCN（WWW.2021）

文章链接：https://arxiv.org/abs/2102.10044

代码链接：GitHub - liufancs/IMP_GCN （原版-tensorflow1.x）     

                   https://github.com/PTMZ/IMP_GCN（Pytorch版）

1. 前言

1.1 提出的问题：

（1）现有基于GCN的推荐模型中存在的过度平滑问题。

（2）不加区分地利用高阶邻域会使具有不同兴趣的用户的嵌入变得相似。

（3）聚合邻居信息未考虑是否有交集的爱好，负面信息会严重干扰推荐结果。

1.2 做出的贡献：

（1）我们提出了一个IMP-GCN模型，该模型利用同一子图中的高阶邻居，其中用户节点比其他子图中的节点有更多相似的兴趣。实践证明，该方法能有效地解决过平滑问题。

（2）我们设计了一个子图生成模块来对用户进行分组，并根据用户特征和图结构信息从用户项二部图生成子图。

（3）我们对三个基准数据集进行了实证研究，以评估所提出的IPM-GCN模型。结果表明，IPMGCN可以通过叠加更多层和学习更好的用户/项目嵌入来获得改进，从而大大优于基于SOTA GCN的推荐模型。

2. 模型介绍

2.1 基于GCN模型不同聚合层数的节点平均覆盖率

最低0.47元/天 解锁文章
GCN论文解读
NLP与推荐算法
09-05 1937
He老师又出新作了，2020年的，此He非彼He，但在我看来都是一样的牛逼。我之前的SR-GNN版本速度好慢，这也是我的一个心病了，后面再想法子改版本，如果有好的版本（tf1.14或者tf.1.15能跑的，tf1.10以下的版本不能用）欢迎安利。 paper地址在此，代码地址在此，torch版本在此。 For Video Recommendation in Deep learning QQ Group 277356808 视频推荐深度学习加这个群 For Visual in deep learnin
LightGCN实践2——GPU内存爆炸终结篇
NLP与推荐算法
10-23 3102
hi，GPU内存占满的问题，这几天必须解决。这里issue，暂且相信一次，毕竟分布式GPU训练太难改模型了。 人生艰难啊。近在眼前都不能抓住，更不要鬼扯远在天边的了。 For Video Recommendation in Deep learning QQ Group 277356808 视频推荐深度学习加这个群 For Visual in deep learning QQ Group629530787 视觉深度学习加这个，别加错 I'm here waiting for you 别加那么多.
Interest-aware Message-Passing GCN for Recommendation WWW2021
qq_39091546的博客
05-17 1340
ABSTRACT 图卷积网络(GCNS)在推荐方面显示出巨大的潜力。这归功于他们通过利用来自高阶邻居的协作信号来学习好的用户和项目嵌入的能力。与其他GCN模型一样，基于GCN的推荐模型也存在一个臭名昭著的过度平滑问题–当堆叠更多层时，节点嵌入会变得更加相似，最终无法区分，从而导致性能下降。最近提出的LightGCN和LR-GCN在一定程度上缓解了这一问题，然而，我们认为它们忽略了推荐中过度平滑问题的一个重要因素，即没有用户共同兴趣的高阶相邻用户也可以参与用户在图形卷积操作中的嵌入学习。因此，多层图卷积将使兴
Interest-aware Message-Passing GCN for Recommendation(www 21)
qq_42018521的博客
05-08 912
GCN信息聚合的模式非常适合推荐，但众所周知在模型设计的时候通常只能堆叠2-3层，再多就会出现过平滑问题（结点特征之间没有区分度），LightGCN证明了GCN中的特征转化和非线性激活不适用于协同过滤，通过去除这两个组件可在一定程度上缓解过平滑问题，使得模型可以堆叠更多层（将层数拓展到了4层左右），LightGCN信息聚合方式如下，可以看到是对邻居特征进行简单加权求和，无筛选机制，在高层信息聚合时会因兴趣不相同邻居用户的存在，而引入噪声，使得学到的特征向量次优。本文根据用户兴趣对用户进行了分组（）
Interest-aware Message-Passing GCN for Recommendat.md
11-06
Interest-aware Message-Passing GCN for Recommendat.md
图神经网络用于推荐系统问题（IMP-GCN，LR-GCN）
nakaizura
03-03 8877
本篇文章follow一些Graph in Rec 的部分文章，以前博主整理过的系列可以见： 图神经网络用于推荐系统问题（PinSage，EGES，SR-GNN） 图神经网络用于推荐系统问题（NGCF，LightGCN） Interest-aware Message-Passing GCN for Recommendation 来自WWW2021的文章，探讨推荐系统中的过平滑问题。从何向南大佬的NGCF开始一直强调的就是高阶邻居的协作信号是可以学习良好的用户和项目嵌入。虽然GCN容易过平滑（即叠加更多层
解决推荐系统过平滑问题： Interest-aware Message-Passing GCN模型
本文探讨了"Interest-aware Message-Passing GCN for Recommendation"，发表于2021年WWW会议上，旨在解决推荐系统中图卷积网络（GCN）面临的两个主要问题：过平滑现象和兴趣相关性的忽略。过平滑是GCN模型在深度堆叠...
图神经网络用于检索问题（GraphCM，FNPS，GRAPH4DIV）
nakaizura
11-25 2892
本篇文章继续整理这个系列的文章，以前博主整理过的系列可以见： 图神经网络用于推荐系统问题（PinSage，EGES，SR-GNN） 图神经网络用于推荐系统问题（NGCF，LightGCN） 图神经网络用于推荐系统问题（IMP-GCN，LR-GCN） 这次更新最近SIGIR2021，博主自己刷过觉得还不错的几篇文章，分搜索和推荐两篇博文整理吧，这篇是关于检索的三篇文章。 图神经网络用于推荐系统问题（SURGE，GMCF，TASRec） A Graph-Enhanced Click Model for
万物皆可Graph | 当推荐系统遇上图神经网络（三）
Kaiyuan_sjtu的博客
08-16 600
NewBeeNLP原创出品公众号专栏作者@上杉翔二悠闲会·信息检索本篇文章follow一些Graph in Rec 的文章，以前博主整理过的系列可以见：万...
【Code】关于 GCN，我有三种写法
阿泽的学习笔记
05-21 2757
本篇文章主要基于 DGL 框架用三种不同的方式来实现图卷积神经网络。 1. DGL DGL（Deep Graph Library）框架是由纽约大学和 AWS 工程师共同开发的开源框架，旨在为大家提供一个在图上进行深度学习的工具，帮助大家更高效的实现算法。 用现有的一些框架比如 TensorFlow、Pytorch、MXNet 等实现图神经网络模型都不太方便，同样现有框架实现图神经网络模型的速度不够快。 DGL 框架设计理念主要在于将图神经网络看作是消息传递的过程，每一个节点会发出它自己的消息，也会接收来自其
设无向图g如图所示_阿里重磅发布大规模图神经网络平台 AliGraph，架构算法解读...
weixin_39599372的博客
11-24 626
图神经网络 (GNN) 主要是利用神经网络处理复杂的图数据，它将图数据转换到低维空间，同时最大限度保留结构和属性信息，并构造一个用于训练和推理的神经网络。在实际应用中，为了加速 GNN 训练和新算法的快速迭代，设计一套统一的图计算框架面临着巨大的挑战。近日，阿里巴巴在阿里云峰会北京站上重磅推出了大规模图神经网络平台 AliGraph，本文是 AI 前线第 74 篇论文导读，我们将深入了解阿里图神经...
DeepLearning | 图卷积网络基于拓扑结构的分类（T-GCN）
冯良骏 的 博客
06-27 4944
最近看了些图神经网络方面的论文，发现这几年这方面的文章虽然很多，但是各类方法在几个benchmark数据集上的准确率并没有很明显的提升。看了10来篇论文后，找了一个实现相对简单，性能还算可以的方法介绍给大家 之前写过几篇关于图神经网络的论文解析和复现 DeepLearning | 图注意力网络Graph Attention Network（GAT）论文、模型、代码解析 DeepLearning | 图卷积神经网络(GCN)解析(论文、算法、代码) 今天介绍的是2020年ICLR最新的论文 Topologic
深度学习之GCN的简单理解
zlinxi
07-11 9702
一、概述 GCN是一类非常强大的用于图书局的神经网络架构，下图展示了一个两层 GCN 生成的每个节点的二维表征，即使没有经过任何训练，这些二维表征也能够保存图中节点的相对邻近性。对于CNN中的卷积，本质上是利用一个共享参数的过滤器，计算中心像素点以及相邻像素点的加权和来构成特征图实现空间特征的提取，卷积核的参数通过优化求出才能实现特征提取的作用，而GCN的理论很大一部分就是为了引入可以优化的卷积...
神经图协同过滤（Neural Graph Collaborative Filtering）
xianfishY的博客
11-25 2786
神经图协同过滤（NGCF） 文章目录神经图协同过滤（NGCF）前言一、简介二、理论1.模型图2.嵌入层3.嵌入传播层3.1一阶传播3.2高阶传播4.模型预测5.优化实验1.数据集描述2.实验设置四.结果 前言 Embedding是现代推荐系统的核心。 从早期的矩阵分解到最近的基于深度学习的方法，都是通过映射用户(或物品)的已存在的特征(例如ID)来获得用户(或物品即项目)的嵌入向量。 这种方法的一个固有缺陷是：用户-物品交互中潜在的协作信号没有被编码到嵌入向量中。 因此，所得到的嵌入可能不足以捕捉协同
图卷积网络详细介绍（一）
热门推荐
Javy Wang
11-09 1万+
在图上进行机器学习是一项困难的任务，因为它的复杂性很高，同时也是由于信息丰富的图结构。这篇文章是关于如何用图卷积网络(GCNs)对图进行深度学习的系列文章中的第一篇。本文翻译自Tobias Skovgaard Jepsen写在Medium上的介绍文章，已经获得其本人的许可。
【论文解读】GCN论文总结
fengdu78的博客
04-12 5529
本次要总结和分享的是ICLR2017的关于GCN方面的代表作之一论文：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NET...
【GCN-RS】对比学习SGL：Self-supervised Graph Learning for Recommendation (SIGIR‘21)
chadlee
11-18 1720
Self-supervised Graph Learning for Recommendation (SIGIR‘21) 还是何向南组提出的图自监督学习框架，对用户-物品的二部图上的节点、边做dropout等方法实现数据增强，产生许多子视图，在多个子视图上进行对比学习，实现自监督。再配合监督学习，多任务学习。 作者提出的图自监督学习框架SGL可以改善长尾、提高鲁棒。SGL只是一个框架，里面的图表示学习方法可以用LightGCN等。 数据增强 一般GNN对节点编码的方式： Z1(l)=H(Z1(l−1),G
推荐系统第9课：bert，gcn等最新算法在推荐系统中的应用
ibelieve8013的博客
04-18 4449
GNN,GCN学习整理
mubaba_的博客
08-21 8499
GNN GNN定义 GNN是Graph Neural Network的简称，是用于学习包含大量连接的图的联结主义模型。当信息在图的节点之间传播时GNN会捕捉到图的独立性。与标准神经网络不同的是，GNN会保持一种状态，这个状态可以代表来源于人为指定的深度上的信息。 图神经网络处理的数据就是图，而图是一种非欧几里得数据。GNN的目标是学习到每个节点的邻居的状态嵌入，这个状态嵌入是向量且可以用来产生输出，例如节点的标记。如下图，最终的目的就是学习到红框的H，由于H是定点，因此可以不断迭代直到H的值不再改变即停止。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值