图学习笔记（六）：图神经网络算法（一）——GCN和GAT、消息传递机制

最新推荐文章于 2025-10-19 23:20:15 发布
最新推荐文章于 2025-10-19 23:20:15 发布
阅读量3.1k 收藏 4
点赞数 1
CC 4.0 BY-SA版权
分类专栏： 图神经网络入门(打卡营学习笔记-已完结)
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_37486501/article/details/113460361
本文介绍了图神经网络GNN的发展背景和应用，重点解析了图卷积网络GCN和图注意力网络GAT。GCN利用节点的度进行计算，而GAT引入注意力机制，解决了GCN中度的问题。文章详细阐述了GCN的计算公式、消息传递机制，并对比了GCN与GAT的区别。

图学习笔记（六）：图神经网络算法（一）——GCN和GAT、消息传递机制

图神经网络GNN的兴起:

图神经网络GNN业界论文发表
在这里插入图片描述
图神经网络GNN渗透到各领域：
在这里插入图片描述
图神经网络GNN权威榜单的出现：
在这里插入图片描述

回顾

  1. 图可以表示：
    在这里插入图片描述
  2. 图网络的目的：在图上做一些相关任务（节点/边/图任务）
    在这里插入图片描述
  3. 训练方式：
  • 图游走类模型
了解本专栏 订阅专栏 解锁全文
图学习笔记（七）：图神经网络算法（二）——图采样、邻居聚合
Wangzx的博客
02-01 2925
图学习笔记（七）：图神经网络算法（二）——图采样图采样1. 为什么要图采样？图采样的原因：MiniBatch训练2. 什么是图采样？3. 图采样算法详解（GraphSAGE、PinSAGE）GraphSAGE (SAmple & aggreGatE)邻居采样算法邻居采样算法的优点：PinSAGE：根据邻居节点重要性进行聚合的算法。 图采样 1. 为什么要图采样？ 图采样的原因： 如果图很大，需要进行“图采样”。 权图规模太大，当代的GPU/CPU资源受限，无法一次性全图送入计算资源（难以将整张图放
图卷积神经网络GCN、GAT的原理及Pytorch实现
Python，数据分析，机器学习，深度学习
10-22 7995
ICLR作为机器学习方向的顶会，最近看了ICLR2023 Openreview的论文投稿分析，通过2022和2023年论文关键词、标题高频词等信息的可视化比较。根据前十的关键词频率排名频率来看，基本上和去年保持一致，大火的领域依旧大火。但是可以明显看到前五名关键词的频率差距逐渐减少。有意思的是这一关键词终于又重回前三，再次为「国际学习表征会议」（ICLR）正名。这一关键词则是掉了一名，与交换了位置，但相比于去年的频率仍然火爆。GCN作为GNN的变种，依然是一个发论文的热门。
图神经网络系列之消息传递
君子之学必日新，日新者日进也。不日新者必日退，未有不进而不退者
09-19 3077
相比较于神经网络最基本的网络结构全连接层（MLP），特征矩阵乘以权重矩阵，图神经网络多了一个邻接矩阵。计算形式很简单，三个矩阵相乘再加上一个非线性变换。因此一个比较常见的图神经网络的应用模式如下图，输入是一个图，经过多层图卷积等各种操作以及激活函数，最终得到各个节点的表示，以便于进行节点分类、链接预测、图与子图的生成等等任务。消息传递机制（属性向量优化的方法叫做消息传递机制）是目前GNN的主流研究方向，以下面这个无向图举例说明各类别网络的消息传递机制的不同。
消息传递——GNN图神经网络核心思想
sjb2274540432的博客
12-22 2308
消息传递（Message Passing）是图神经网络（GNN）的核心思想，它的主要目标是基于图结构更新每个节点的特征表示。简单来说，消息传递包括以下两步：每个节点从其邻居节点（通过图的边连接）接收信息（即“消息”），这些信息通常是邻居节点的特征或状态。通过某种规则（例如求和、平均、最大值等）将这些邻居的消息聚合成一个整体表示。将聚合后的邻居信息与当前节点自身的特征结合起来（例如加权求和、非线性变换），更新当前节点的特征表示。
（三）图神经网络（3）（GAT）
最新发布
m0_74738212的博客
10-19 864
从实验结果看，GAT 凭借多头注意力机制，在 Cora、Citeseer 等数据集的归纳式（Inductive）和直推式（Transductive）任务上，性能都超过了 MLP、DeepWalk 等其他方法，比如在 Cora 上达到 83.0±0.7% 的准确率，证明了多头注意力能有效提升模型对图数据的处理能力。使用 K 个独立的注意力机制，每个注意力头按照单头注意力的方式（计算注意力系数、聚合邻居特征）对节点特征进行变换，得到 K 组中间特征。（分母是所有邻居对应指数的和）
消息传递图神经网络
model2018的博客
06-20 527
一、引言 我们将学习基于神 经网络的生成节点表征的范式——消息传递范式。消息传递范式是一种聚 合邻接节点信息来更新中心节点信息的范式，它将卷积算子推广到了不规 则数据领域，实现了图与神经网络的连接。此范式包含三个步骤：(1)邻接 节点信息变换、(2)邻接节点信息聚合到中心节点、(3)聚合信息变换。 Pytorch Geometric中的MessagePassing基类 Pytorch Geometric(PyG)提供了MessagePassing基类，它实现了消息传 播的自动处理，继承该基类可使我们方便地构
消息传递的图神经网络
人生苦短，LET US GO
06-20 816
一、消息传递范式介绍 消息传递范式是一种聚合邻接节点信息来更新中心节点信息的范式，它将卷积算子推广到不规则数据领域，实现了图与神经网络的连接。此范式包含三个步骤：（1）邻接节点信息变换；（2）邻接节点信息聚合到中心节点；（3）聚合信息变换。 消息传递图神经网络可以描述为： xi(k)=γ(k)(xi(k−1),□j∈N(i) ϕ(k)(xi(k−1),xj(k−1),ej,i)), \mathbf{x}_i^{(k)} = \gamma^{(k)} \left( \mathbf{x}_i^{(k-1)},
datawhale 6月学习——图神经网络：消息传递图神经网络
qq_40990057的博客
06-19 1464
前情回顾 图神经网络：图数据表示及应用 消息传递范式 消息传递范式是一种聚合邻接节点信息来更新中心节点信息的范式，它将卷积算子推广到了不规则数据领域，实现了图与神经网络的连接。 此范式包含三个步骤 邻接节点信息变换 邻接节点信息聚合到中心节点 聚合信息变换 图相对于其他结构化数据，其节点间存在联系，但是节点和节点间的关系没有那么规则，因此需要专门的消息传递方式来实现节点间信息的相互传递。 这个消息传递方式的表述是： 用xi(k−1)∈RF\mathbf{x}^{(k-1)}_i\in\mathbb
基于Python实现的图神经网络入门学习代码源码与笔记解析
10-05
这些代码不仅展示了如何使用现有的库（如PyTorch Geometric或DGL）来实现图神经网络，还会涉及到一些基础算法的细节，如GraphSAGE、GCN、GAT等，这对于初学者来说极为重要。 除了源代码文件，项目还包括12个Python...
图卷积神经网络笔记——第六章：（２）基于PyTorch的交通流量预测
热门推荐
Ma Sizhou
08-15 1万+
上一小节介绍了交通流量数据的处理，主要是把拿到的数据的结构信息（邻接矩阵）和节点信息（流量数据）处理成了模型所需要的train_data和test_data，上一小节： 链接. 这一小节基于上节的交通流量数据来构造图卷积模型，预测未来时刻的交通流量情况．分别使用GCN,Chebnet和GAT三种模型来构造． ...
GNN系统学习：消息传递图神经网络
m0_51448653的博客
11-11 1893
下方图片展示了基于消息传递范式的聚合邻接节点信息来更新中心节点信息的过程图中黄色方框部分展示的是一次邻接节点信息传递到中心节点的过程：B节点的邻接节点（A,C）的信息经过变换后聚合到B节点，接着B节点信息与邻接节点聚合信息一起经过变换得到B节点的新的节点信息。同时，分别如红色和绿色方框部分所示，遵循同样的过程，C、D节点的信息也被更新。实际上，同样的过程在所有节点上都进行了一遍，所有节点的信息都更新了一遍。这样的“邻接节点信息传递到中心节点的过程”会进行多次。
图神经网络 消息传递图神经网络
weixin_44133327的博客
06-19 1824
消息传递范式是一种聚合邻接节点信息来更新中心节点信息的范式，它将卷积算子推广到了不规则数据领域，实现了图与神经网络的连接。 此范式包含三个步骤：(1)邻接节点信息变换、(2)邻接节点信息聚合到中心节点、(3)聚合信息变换。 1.1 消息传递范式介绍 用xi(k−1)∈RF\mathbf{x}^{(k-1)}_i\in\mathbb{R}^Fxi(k−1)​∈RF表示(k−1)(k-1)(k−1)层中节点iii的节点特征，ej,i∈RD\mathbf{e}_{j,i} \in \mathbb{R}^Dej,i
图神经网络二：消息传递图神经网络
博客小主
06-18 2470
引言 这篇是datawhale组队学习之图神经网络第二篇，本笔记主要梳理课程的关键点，以及简单的代码实现。 首先我们将学习图神经网络生成节点表征的范式–消息传递（Message Passing）范式。 接着我们将初步分析PyG中的MessagePassing基类，通过继承此基类我们可以方便地构造一个图神经网络。 然后我们以继承MessagePassing基类的GCNConv类为例，学习如何通过继承MessagePassing基类来构造图神经网络。 再接着我们将对M...
图神经网络task2——消息传递
Wmnyang的博客
06-19 1586
这是目录1、消息传递范式2、MessagePassing基类2.1、MP类和基本方法3、MessagePassing实例3.1、三个函数的数学定义3.2、`GCNConv`实现步骤（1）向邻接矩阵添加自环边（2）对节点的特征矩阵进行线性变换（3）对变换后的节点特征进行标准化（4）归一化j中的节点特征（5）将节点特征求和参考文献 1、消息传递范式 消息传递是实现GNN的一种通用框架和编程范式。它从聚合与更新的角度归纳总结了多种GNN模型的实现，它的思路是： 首先结合边的特征以及和边相连的两个节点的特征，得到
图神经网络基础--消息传递图神经网络
发呆的比目鱼的博客
09-26 2013
消息传递图神经网络
图神经网络框架DGL教程-第2章：消息传递范式
test
05-04 2401
第2章：消息传递范式 消息传递是实现GNN的一种通用框架和编程范式。它从聚合与更新的角度归纳总结了多种GNN模型的实现。 消息传递范式 假设节点 vvv 上的的特征为 xv∈Rd1x_v\in\mathbb{R}^{d_1}xv​∈Rd1​，边 (u,v)(u,v)(u,v) 上的特征为 we∈Rd2w_{e}\in\mathbb{R}^{d_2}we​∈Rd2​。 消息传递范式 定义了以下逐节点和边上的计算 边上计算: me(t+1)=ϕ(xv(t),xu(t),we(t)),(u,v,e)∈E
GNN-2-消息传递图神经网络
qq_36744449的博客
06-19 772
参考开源学习地址：datawhale 1. 消息传递范式介绍 消息传递范式是一种聚合邻接节点信息来更新中心节点信息的范式，它将卷积算子推广到了不规则数据领域，实现了图与神经网络的连接。 该范式包含这样三个步骤：(1)邻接节点信息变换、(2)邻接节点信息聚合到中心节点、(3)聚合信息变换。 因为简单且强大的特性，消息传递范式现被人们广泛地使用。基于此范式，我们可以定义聚合邻接节点信息来生成中心节点表征的图神经网络。 在PyG中，MessagePassing基类是所有基于消息传递范式的图神经网络的基类，它大大
图神经网络（二）：消息传递范式
weixin_45774311的博客
07-15 931
1.消息范式的中心节点更新 基于消息传递范式的聚合邻接节点信息来更新中心节点信息生成节点表征（节点嵌入） 以红色框为例，C的邻居节点（A,B,E,F)经过变换后聚合到节点C，C节点自己的信息与聚合来的邻居节点的信息更新得到新的C节点信息，B,D节点同理。每个节点都经历一次如此的节点更新过程 A节点的邻接节点（B,C,D）的已经发生过一次更新的节点信息，经过变换、聚合、再变换产生了A节点第二次更新的节点信息。多次更新后的节点信息就作为节点表征。 （1）：神经网络的生成节点表征的操作称为节点嵌入（Node E
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Laura_Wangzx

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值