文献阅读分享：LIGHTGCL - 图对比学习在推荐系统中的新突破✨

LIGHTGCL: SIMPLE YET EFFECTIVE GRAPH CONTRASTIVE LEARNING FOR RECOMMENDATION

ICLR

2023

研究背景🔍

在推荐系统的世界里，图神经网络（GNN）凭借其强大的学习能力，成为了基于图的推荐系统中的热门选择。它们通过聚合邻居信息来提取局部协同信号，从而学习用户和项目的表示。然而，现实总是充满挑战，数据稀疏性问题就像一座大山，阻碍了我们从有限的交互数据中学习到高质量的用户和项目表示。为了解决这个问题，研究者们引入了对比学习，希望通过数据增强来缓解标签稀缺的困境。但现有的图对比学习方法，要么采用随机增强（如节点/边扰动），要么依赖基于启发式的增强技术（如用户聚类），这些方法都存在着一些局限性，比如丢失有用结构信息、模型泛化能力受限等。😩

相关工作📚

在对比学习的赛道上，已经有不少选手了。比如SGL和SimGCL，它们通过随机dropout操作对图结构和嵌入进行数据增强。还有一些基于自监督学习的方法，像HCCF和NCL，它们设计了基于启发式的策略来构建视图进行嵌入对比。尽管这些方法取得了一定的成果，但它们的成功在很大程度上依赖于特定的启发式方法，很难适应不同的推荐任务。👀

模型图输入输出转变🔄

LightGCL模型的出现，就像是一股清流。它的输入是用户-项目交互图，通过独特的SVD引导增强和对比学习机制，输出是更具鲁棒性和泛化能力的用户和项目表示。这些表示能够更好地捕捉用户的偏好和项目的特点，从而为推荐任务提供更有力的支持。📈

方法及创新🌟

现在，让我们来重点看看LightGCL的创新之处！

• SVD引导增强：LightGCL采用奇异值分解（SVD）来指导图增强。这种方法不仅能够提炼用户-项目交互的有用信息，还能将全局协作关系注入到对比学习的表示对齐中。与传统的随机增强方法相比，SVD增强能够更好地保留用户-项目交互的重要语义，避免了因随机扰动而引入的噪声。🔍

• 奇异值分解在许多领域都有广泛的应用，例如：

数据降维：通过选择前k 个最大的奇异值及其对应的奇异向量，可以对数据进行降维。

图像处理：可以用于图像压缩和去噪。

推荐系统：可以用于发现用户和物品之间的隐含关系。

自然语言处理：可以用于文本数据的降维和主题发现。

• 全局协作关系学习：通过SVD重构的邻接矩阵，LightGCL能够在全局范围内学习用户和项目之间的协作关系。这种全局视角使得模型能够捕捉到更广泛的合作信号，从而为推荐提供更丰富的上下文信息。🌐

• 简化的局部-全局对比学习：与传统的对比学习方法不同，LightGCL简化了对比学习框架，直接将SVD增强后的视图嵌入与主视图嵌入进行对比。这种简化的对比方式不仅提高了模型的效率，还能够增强主视图的表示，使其更好地反映用户特定偏好和跨用户全局依赖。🔗

实验🔍

实验部分，作者在Yelp、Gowalla、ML-10M、Amazon-book和Tmall这五个真实世界的数据集上进行了广泛的实验。结果表明，LightGCL在性能上显著优于现有的最先进方法。特别是在对抗数据稀疏性和流行度偏差方面，LightGCL展现出了强大的能力。实验还验证了LightGCL在训练效率上的优势，相比现有的GCL方法，它的训练效率更高。🏃‍♂️