论文阅读和分析：LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation

原创 已于 2023-04-05 12:26:04 修改 · 849 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#论文阅读

于 2023-02-08 23:13:00 首次发布
文章介绍了对EEG脑电数据的分析，特别是使用图神经网络（GCN）的相关论文阅读和实验。提出了LightGCN模型，这是一种简化版的GCN，专为推荐系统设计，减少了计算复杂性且提高了性能。LightGCN仅包含邻域聚合，对比现有模型NGCF显示出显著改进。

下面所有博客是个人对EEG脑电的探索，项目代码是早期版本不完整，需要完整项目代码和资料请私聊。


数据集
1、脑电项目探索和实现(EEG) (上)：研究数据集选取和介绍SEED
相关论文阅读分析：
1、EEG-SEED数据集作者的—基线论文阅读和分析
2、图神经网络EEG论文阅读和分析：《EEG-Based Emotion Recognition Using Regularized Graph Neural Networks》
3、EEG-GNN论文阅读和分析：《EEG Emotion Recognition Using Dynamical Graph Convolutional Neural Networks》
4、论文阅读和分析:Masked Label Prediction: Unified Message Passing Model for Semi-Supervised Classification
5、论文阅读和分析：《DeepGCNs: Can GCNs Go as Deep as CNNs?》
6、论文阅读和分析： “How Attentive are Graph Attention Networks?”
7、论文阅读和分析：Simplifying Graph Convolutional Networks

8、论文阅读和分析：LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
9、图神经网络汇总和总结
相关实验和代码实现：
1、用于图神经网络的脑电数据处理实现_图神经网络 脑电
2、使用GCN训练和测试EEG的公开SEED数据集
3、使用GAT训练和测试EEG公开的SEED数据集
4、使用SGC训练和测试SEED数据集
5、使用Transformer训练和测试EEG的公开SEED数据集_eeg transformer
6、使用RGNN训练和测试EEG公开的SEED数据集

最低0.47元/天 解锁文章
SIGIR20|LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
qq_34739497的博客
12-16 683
SIGIR20|LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation ABSTRACT 图卷积网络已经成为结合协同过滤算法的最新技术。但是，它推荐的有效性的原因还不是很明确。现有的使GCN适应推荐的工作缺乏对GCN的消融分析，GCN由于参考了卷积神经网络改造而来，所以包含许多神经网络操作。但是作者基于实验发现GCN最常见的两个设计-特征转换和非线性激活对协同过滤的性能几乎没有影响。反而增加了训练的难度
LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
nuist_Jiang的博客
10-24 2374
from Xiangnan He , University of Science and Technology of China, published in SIGIR‘20， July 25-30,Virtual Event, China. 研究背景 GCN（图卷积网络）成为协同过滤的最新技术，但是推荐的有效性原因不明确，现有工作缺乏对GCN的彻底的消融分析。GCN中最常见的两个设计-特征转换和非线性激活-对协作过滤的性能几乎没有贡献。更糟糕的是，包括它们会增加培训的难度并降低推荐性能。 GCN具体是做什
【图卷积】 LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
CRW__DREAM的博客
04-01 4340
作者提出一个简化GCN的模型LightGCN，只包含GCN最重要的组成部分，例如领域的聚合，多层传播，抛弃了GCN最常见的**设计-特征转换**和**非线性激活**两个步骤，并且通过在用户-项目交互图上线性传播用户和项目的嵌入来学习它们，最后将所有层上学习到的用户和项目嵌入加权和算作最后的预测得分。
LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation(SIGIR2020)
weixin_43401022的博客
01-12 905
原文链接[2002.02126] LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation (arxiv.org)https://arxiv.org/abs/2002.02126 代码GitHub - kuandeng/LightGCNhttps://github.com/kuandeng/LightGCN 1 INTRODUCTION Neural Graph Collaborative...
LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation 论文笔记
Running Snail
08-19 1211
1.简介 1.1 摘要 GCN中两种最常见的设计——特征转换和非线性激活，对协同过滤的性能贡献很小。我们提出了一个新的模型LightGCN，它只包含GCN中最重要的组件——邻域聚合——用于协同过滤。具体来说，LightGCN通过在用户-项目交互图上线性传播来学习用户和项目嵌入，并使用在所有层上学习到的嵌入的加权和作为最终的嵌入。 2.准备工作 ...
LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation论文学习笔记
wwer142526363的博客
10-11 2473
用户和商品最后表示的内积作为推荐生产的排名分数。
论文阅读：LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
qq_43431934的博客
03-04 4156
论文阅读：LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation paper：https://arxiv.org/abs/2002.02126code：https://github.com/kuandeng/LightGCN NGCF和LightGCN模型展示对比 何向南老师组的两大必读论文NGCF和LightGCN，分别发在SIGIR19’和SIGIR20’。 LightGCN模型的总体...
【推荐算法论文阅读】LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
qq_36643449的博客
03-17 1175
这篇文章是基于NGCF提出的改进，NGCF相关的工作参考【推荐算法论文阅读】Neural Graph Collaborative Filtering 一、背景 通过严格的对照实验（在相同的数据集和评估指标上），我们得出结论，从 GCN 继承的两个操作——特征转换和非线性激活——对 NGCF 的有效性没有任何贡献。 更令人惊讶的是，删除它们会显着提高准确性。 这反映了在图神经网络中添加对目标任务无用的操作的问题，这不仅没有带来任何好处，反而降低了模型的有效性。 受这些实证发现的启发，我们提出了一个名为 Lig
【论文笔记】LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation --- SIGIR2020
热门推荐
weixin_44884854的博客
10-10 1万+
本文提出了一种轻型但是有效的GCN网络用于推荐系统 摘要 GCN在协同过滤中已经变成了一个最先进的方法，但是，它有效性的理由一直没有被理解。现有的工作缺少对GCN的彻底消融分析（thorough ablation analyses），然而，我们发现两个最常见的GCNs操作（特征变化和非线性激活）对协同过滤是没有用的，甚至还会增加训练的复杂度并且降低推荐系统的表现。 在本文中，我们对GCN的设计进行了简化让它更加适用于推荐系统，我们把它叫做LightGCN。它只包含GCN中最基本的结构（邻居聚合）.
LightGCN推荐系统实现[项目代码]
最新发布
11-15
本文详细介绍了如何使用LightGCN模型实现推荐系统，包括数据加载与处理、模型定义、损失函数与评价指标的设计以及训练过程。LightGCN是一种简化版的图卷积网络，去除了GCN中的非线性激活和特征变换，仅保留邻居聚合和消息传递，适用于推荐系统场景。文章提供了完整的代码实现，涵盖了从数据预处理到模型训练的全过程，并使用了MovieLens数据集进行实验。此外，还介绍了BPR损失函数和Recall、Precision、NDCG等评价指标的使用，以及如何通过可视化监控训练过程。
论文笔记：LightGCN Simplifying and Powering Graph Convolution Network for Recommendation
qq_44015059的博客
08-14 2225
前言 论文链接：https://arxiv.org/abs/2002.02126 github：https://github.com/gusye1234/LightGCN-PyTorch 参考：https://blog.youkuaiyun.com/qq_39388410/article/details/106970194 https://blog.youkuaiyun.com/u013422128/article/details/107504654 图卷积网络(GCN)已经成为协同过滤的最新技术。然而，对于推荐的有效性的原因却没
论文《LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation》阅读
xingzhe123456789000的博客
03-19 790
论文《LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation》阅读论文概况Introduction模型分析LightGCN与SGCN的关系LightGCN与APPNP的关系二阶embedding平滑模型训练总结 论文概况 这篇文章是何向南教授刚刚发表在SIGIR 2020上的作品，作者介绍了一个轻量版的GCN模型做推荐系统。 论文地址：LightGCN Introduction 这篇文章的亮点在于将以往
【论文阅读】Hypergraph Convolutional Network for Group Recommendation
qq_43955154的博客
08-07 1443
超图卷积在组推荐中的应用
【图卷积推荐论文阅读笔记】LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation
weixin_45371401的博客
05-30 1805
1）通过实验证明，GCN的**特征转换**和**非线性激活**，对协同过滤的有效性没有积极影响; 2）提出LightGCN，它通过仅包括GCN最重要的推荐组件，简化了模型设计并提高了性能； 3）按照相同的设置同其他先进协同过滤和图卷积推荐模型进行比较，对LightGCN的合理性进行了深入分析。
SIGIR2020|LightGCN图卷积网络在推荐系统中的应用(已开源)
hestendelin的专栏
07-20 2389
LightGCN: Simplifying and Powering Graph Convolution Network for RecommendationXiangnan He,K...
CIKM2021推荐系统论文集锦
张小磊的博客
10-20 1688
嘿，记得给“机器学习与推荐算法”添加星标第30届信息和知识管理国际会议（CIKM）将于2021年11月1日-5日在线上和线下的澳大利亚昆士兰黄金海岸同时举行。CIKM会议是数据库／数据挖掘...
LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation【论文阅读笔记】
xzq_13972146251的博客
03-08 944
这篇论文提出了LightGCN模型，是目前最先进的推荐模型，这篇文章是何向南团队在2020发表在ACM的一篇文章。
从200多篇顶会论文看推荐系统前沿方向与最新进展
abcdefg90876的博客
04-03 6453
推荐系统作为深度学习御三家（CV, NLP, RS）之一，一直都是学术界和工业界的热门研究topic。为了更加清楚的掌握推荐系统的前沿方向与最新进展，本文整理了最近一年顶会中推荐系统相关的...
Lightgcn: Simplifying and powering graph convolution network for recommendation
04-01
### LightGCN 在推荐系统中的应用 LightGCN 是一种专门为推荐系统设计的轻量级图卷积网络 (Graph Convolutional Network, GCN)，其核心目标是在保持高性能的同时减少计算复杂度和参数数量。以下是关于 LightGCN 的实现及其优化的关键点： #### 1. **模型结构** LightGCN 去除了传统 GCN 中常见的两个操作——特征转换和非线性激活函数[^1]。这种简化不仅减少了模型的复杂性和训练时间，还提高了推荐系统的性能。 - 特征转换被移除意味着不再需要学习额外的权重矩阵 \( W_1 \) 和 \( W_2 \)[^4]。 - 非线性激活函数也被省略，从而进一步降低了计算开销。 通过这些修改，LightGCN 能够专注于传播用户的嵌入表示，而无需引入复杂的变换或激活机制。 #### 2. **预测层的设计** 在传统的基于 GCN 的方法（如 NGCF）中，最终的用户和物品嵌入通常是多层嵌入的拼接 (concatenation) 结果。然而，LightGCN 将这一过程替换为加权求和的方式。具体来说，每一层的嵌入都被赋予不同的权重，并通过对这些嵌入进行加权平均来生成最终的表示。 公式如下所示： \[ e_u^{(K)} = \sum_{k=0}^{K} w_k e_u^{(k)} \] 其中 \( e_u^{(k)} \) 表示第 \( k \)-th 层的用户嵌入，\( w_k \) 则是对应的权重系数。 #### 3. **损失函数与正则化** 为了提高推荐质量并防止过拟合，LightGCN 使用了贝叶斯个性化排名 (Bayesian Personalized Ranking, BPR) 损失作为主要的目标函数。BPR 损失鼓励模型更倾向于用户已交互过的项目而非未交互的项目。 此外，L2 正则化项也用于约束模型参数，以提升泛化能力。 #### 4. **实验验证** 研究表明，尽管 LightGCN 的架构非常简单，但它仍然能够在多个公开数据集上取得优于其他复杂模型的结果。这表明，对于推荐任务而言，简单的消息传递机制可能已经足够有效。 --- ### Python 实现代码示例 以下是一个简化的 LightGCN 模型实现框架： ```python import torch import torch.nn as nn import torch.optim as optim class LightGCN(nn.Module): def __init__(self, num_users, num_items, embedding_dim, n_layers): super(LightGCN, self).__init__() self.num_users = num_users self.num_items = num_items self.embedding_dim = embedding_dim self.n_layers = n_layers # 初始化用户和项目的嵌入 self.user_embedding = nn.Embedding(num_users, embedding_dim) self.item_embedding = nn.Embedding(num_items, embedding_dim) def forward(self, adjacency_matrix): all_embeddings = torch.cat([self.user_embedding.weight, self.item_embedding.weight], dim=0) embeddings_list = [all_embeddings] for _ in range(self.n_layers): all_embeddings = torch.sparse.mm(adjacency_matrix, all_embeddings) embeddings_list.append(all_embeddings) final_embeddings = sum(embeddings_list) / (self.n_layers + 1) user_final_embeddings, item_final_embeddings = torch.split(final_embeddings, [self.num_users, self.num_items]) return user_final_embeddings, item_final_embeddings # 示例初始化 num_users = 1000 num_items = 500 embedding_dim = 64 n_layers = 3 model = LightGCN(num_users=num_users, num_items=num_items, embedding_dim=embedding_dim, n_layers=n_layers) optimizer = optim.Adam(model.parameters(), lr=0.001) ``` --- ### 性能对比分析 相比于其他先进的推荐算法（例如 KGAT 或者强化学习方法），LightGCN 主要具有以下几个优势[^2]: - 更少的超参数调整需求； - 显著降低的内存占用； - 可扩展性强，适合大规模稀疏场景下的高效推理。 不过需要注意的是，在某些特定领域（比如涉及知识图谱的任务），像 KGAT 这样的模型可能会提供更加丰富的语义信息支持。 ---
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

KPer_Yang

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值