论文阅读GraphSAGE《Inductive Representation Learning on Large Graphs》

已于 2022-04-10 23:45:36 修改
阅读量663 收藏 2
点赞数 5
CC 4.0 BY-SA版权
分类专栏： 深度学习 人工智能 神经网络 文章标签： 人工智能 深度学习 神经网络 卷积神经网络
于 2022-04-10 23:32:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/BrickLoveStudy/article/details/124088504
本文探讨了GraphSAGE在图神经网络中的归纳式学习方法，对比了其与GCN的差异，重点介绍了采样邻居、聚合函数选择和参数学习。GraphSAGE通过灵活地生成新节点embedding，提升了图模型的迁移能力和计算效率。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

目录

研究背景

算法模型

采样邻居顶点

生成向量的伪代码

聚合函数的选取

参数的学习

实验结果

GraphSAGE的核心：

改进方向：

其他补充学习知识

归纳式与直推式

为什么GCN是transductive，为啥要把所有节点放在一起训练？

研究背景

GCN是一种在图中结合拓扑结构和顶点属性信息学习顶点的embedding表示的方法。然而GCN要求在一个确定的图中去学习顶点的embedding，无法直接泛化到在训练过程没有出现过的顶点，即属于一种直推式(transductive)的学习。

GraphSAGE则是一种能够利用顶点的属性信息高效产生未知顶点embedding的一种归纳式(inductive)学习的框架。其核心思想是通过学习一个对邻居顶点进行聚合表示的函数来产生目标顶点的embedding向量。

算法模型

 GraphSAGE 是Graph Sample and aggregatE的缩写，其运行流程如上图所示，可以分为三个步骤

1. 对图中每个顶点邻居顶点进行采样

2. 根据聚合函数聚合邻居顶点蕴含的信息

3. 得到图中各顶点的向量表示供下游任务使用

采样邻居顶点

出于对计算效率的考虑，对每个顶点采样一定数量的邻居顶点作为待聚合信息的顶点。设采样数量为k，若顶点邻居数少于k,则采用有放回的抽样方法，直到采样出k个顶点。若顶点邻居数大于k，则采用无放回的抽样。

当然，若不考虑计算效率，我们完全可以对每个顶点利用其所有的邻居顶点进行信息聚合，这样是信息无损的。

生成向量的伪代码

这里K是网络的层数，也代表着每个顶点能够聚合的邻接点的跳数，如K=2的时候每个顶点可以最多根据其2跳邻接点的信息学习其自身的embedding表示。

在每一层的循环k中，对每个顶点v，首先使用v的邻接点的k-1层的embedding表示h(k-1,

最低0.47元/天 解锁文章

200万优质内容无限畅学
图神经网络（八）Inductive Representation Learning on Large Graphs
码匀的博客
03-13 899
一句话概括该论文： 本文提出的一种GraphSAGE方法，该方法是同时利用节点特征信息和结构信息得到Graph Embedding的映射，相比于之前保存映射结果的方法，该方法是学习一个函数来获得节点嵌入，可扩展性更强，以此解决了以往训练节点嵌入模型时必须知道全部数据且训练出来的表示唯一的短板。 Introduction： 研究背景： 目前已经证明，低维的嵌入向量在很多任务中都有着很好的作用，但是大多数方法都要求在训练过程中，图的所有节点都必须存在，这些训练好的模型无法自然地推广到存在看不见地节点地网络中，也
【论文解读】Inductive Representation Learning on Large Graphs（GraphSAGE）
weixin_41873871的博客
11-14 1527
Inductive Representation Learning on Large Graphs William在2017年发表于NIPS，是一篇关于动态网络表征学习（Dynamic NRL）的论文，属于 property-preserving 方法 论文链接：https://papers.nips.cc/paper/6703-inductive-representation-learning...
【图神经网络】GraphSage - Inductive Representation Learning on Large Graphs
C橘子
12-25 1441
GraphSage算法是17年在NIPS上提出的一个图卷积网络的算法，这篇文章到现在就有了5090的引用次数，证明这篇文章在图神经网络领域有很重要的作用。作者想要解决的问题主要是大多数之前的算法都是直推式的，没有归纳式的能力，也就是对于未见过的节点表示能力不好。因此，本文作者提出了一种通用的归纳式学习框架-GraphSage，不向之前的网络直接学习节点的嵌入向量，而是学习到从邻居节点采样和聚合的函数（因为GCN算法的通用框架就是采样+聚合），使得网络具有归纳式学习的能力。算法中SAGE其实是 SAmple
GraphSAGE《Inductive Representation Learning on Large Graphs》阅读笔记
weixin_37936515的博客
03-16 702
GraphSAGE《Inductive Representation Learning on Large Graphs》阅读笔记 Task：node classification 最近在读GNN的经典文章，网上对这些文章的解读已经非常透彻，本人在阅读文献过程中也学习了各路大神的独到见解，感谢，向你们致敬。在此分享我的阅读心得和热爱。 摘要 GraphSAGE为解决大多算法在embeddings训练...
《Inductive Representation Learning on Large Graphs》论文阅读（GraphSAGE）
ptxx_p的博客
09-17 927
Inductive Representation Learning on Large Graphsabstract1.introduction3.proposed method：GraphSAGE3.1 embedding generation（forward propagation）algorithm3.1.1 relation to the Weisfeiler-Lehman Isomorphism Test3.1.2 neighborhood definition3.2 learning the pa
GraphSage -《Inductive Representation Learning on Large Graphs》论文详解
November、Chopin
10-12 1775
GraphSage-《Inductive Representation Learning on Large Graphs》论文详解
[图神经网络论文] GraphSAGE-Inductive Representation Learning on Large Graphs
最新发布
zerokusinage的博客
11-06 1080
图神经网络论文阅读:GraphSAGE
论文阅读：Inductive Representation Learning on Large Graphs
qq_45402748的博客
12-25 1088
Low-dimensional embeddings of nodes in large graphs have proved extremely useful in a variety of prediction tasks, from content recommendation to identifying protein functions. However, most existing approaches require that all nodes in the graph are prese
【论文阅读｜深读】 GraphSAGE：Inductive Representation Learning on Large Graphs
海到无边天作岸 山登绝顶我为峰
07-06 2290
原文链接：https://dl.acm.org/doi/abs/10.5555/3294771.3294869会议：NIPS’17: Proceedings of the 31st International Conference on Neural Information Processing Systems （CCF A类）年度：2017/06/07大型图中节点的低维嵌入已被证明在从内容推荐到识别蛋白质功能的各种预测任务中非常有用然而，大多数现有的方法要求图中的所有节点在嵌入的训练过程中都存在这些以前的
[论文笔记]：GraphSAGE：Inductive Representation Learning on Large Graphs 论文详解 NIPS 2017
热门推荐
知行合一，止于至善
09-04 5万+
文章目录Abstract1 IntroductionPresent work2 Related workFactorization-based embedding approachesSupervised learning over graphsGraph convolutional networks3 Proposed method: GraphSAGE3.1 Embedding generat...
GraphSage: Inductive representation learning on large graphs
doswynkfsw的博客
05-11 463
GraphSage被提出\upcite{20}， 是一种在大图上基于归纳式子表示学习的算法。主要解决的问题可以被描述为：给定图，输入特征$\bf{X}$， 图${\mathcal G}({\mathcal V},{\mathcal E})$，在GraphSage 中包含两种操作，一种是采样操作者，另外一种是聚合操作。在采样过程中，GraphSage依据节点之间的信息连接对当前节点的邻居节点进行采样操作。在使用聚合函数操作时，使用的是多层聚合函数。通过多层聚合函数，对相邻节点的信息进行融合。在GCN中，网络训
GraphSage:Inductive Representation Learning on Large Graphs
Ying_M
06-20 1716
论文导读
GraphSAGE: Inductive Representation Learning on Large Graphs
BUPT-WT的博客
12-22 761
GraphSAGE研究意义： 1. 图卷积神经网络最常用的几个模型(GCN、GAT、GraphSAGE) 2、归纳式学习(inductive learning) 3、不同于之前的学习node embedding，提出学习aggregators等函数的方式 4、探讨了多种aggregator方式(mean、pool、lstm) 5、图表征学习的经典baseline 论文主要结构: 一、摘要Abstract 介绍图的广泛应用，主要引出本文的motivations是做图的归纳式学习，通过学习.
Paper Notes: Inductive Representation Learning on Large Graphs
HotChoc的博客
03-16 514
Inductive Representation Learning on Large Graphs LINK: https://arxiv.org/abs/1706.02216 CLASSIFICATION: SPATAIL-BASED GCN YEAR: Submitted on 7 Jun 2017 (v1), last revised 10 Sep 2018 (this vers...
GraphSAGE-Inductive Representation Learning on Large Graphs
为援不可图
09-07 866
在当前节点中的邻居节点中，随机抽取N个节点(有放回)，通过将这N个节点的特征进行聚合操作，来生成当前节点的表征。
【论文笔记】GraphSAGE：Inductive Representation Learning on Large Graphs（NIPS）
发现问题，并解决问题，批判性思维
10-06 2222
- GCN不能泛化到训练过程中没有出现的节点（即属于 $transductive$ 直推式学习，若加入新节点则需要重新训练模型），既然有新增的结点（一定会改变原有节点），那就没必要一定得到每个节点的固定表示。而GraphSAGE就是为了解决这种问题，利用Sample（采样）和Aggregate（聚合）两大核心步骤，通过利用学习到的聚合函数，得到一个新节点的表示。 - 本文先介绍GraphSAGE向前传播过程（生成节点embedding），不同的聚合函数设定，然后介绍无监督学习和有监督学习的损失函数和参数学习
Inductive Representation Learning on Large Graphs 论文/GraphSAGE学习笔记
qq_45347768的博客
12-03 1188
Inductive Representation Learning on Large Graphs 论文/GraphSAGE学习笔记
[论文精读]Inductive Representation Learning on Large Graphs
Sherlily的博客
10-11 403
计算机-人工智能-脑科学与类脑智能
论文笔记: Inductive Representation Learning on Large Graphs
qq_44015059的博客
04-01 2488
前言 PATCHY-SAN方法是将图结构的数据，通过一些列的取样和邻居节点的选择，将图结构的数据转化为序列结构的数据。将在欧氏空间表现良好的卷积方法作用于变形后的据图结构数据 此篇文章提出GraphSage方法旨在找出适用于图结构类型数据的卷积方法，也就是如何在图结构类型的数据上进行类似于卷积的操作。与结合图中全部节点进行权重更新的MPNN不同。区别于传统的全图卷积，GraphSage利用采样的部...
inductive representation learning on large graphs
03-16
归纳表示学习是指在大型图形数据集上学习图形节点的向量表示方法。该方法旨在通过从邻居节点的表示中合成节点的表示来捕捉节点之间的关系。这种方法通常用于图形分类，聚类和预测任务中。归纳表示学习是一种强大的...
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值