MessagePassing分析与说明

已于 2023-10-25 19:57:49 修改
阅读量187 收藏
点赞数
CC 4.0 BY-SA版权
文章标签： 自动驾驶
于 2023-10-25 13:47:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/eepii/article/details/134030732
本文讨论了图神经网络中GCN和EdgeConv的卷积操作，涉及初始化、propagate函数、message传递和update规则。GCN与EdgeConv的区别在于是否需要gamma函数和自环处理。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1 Motivation

在图神经网络中，如何像在欧式空间一样进行卷积操作，其重要的问题在于如何更新当前位置的信息。
其每个位置（或者叫节点node）的更新方式如下所示。
在这里插入图片描述
这一个式子既可以表达GCN，也可以表达Edge Conv。

2 函数分析

2.1 初始化

初始化默认有：

  1. 聚合方式aggr，默认是add，即上图中的【圆圈+】
  2. 数据流向flow，默认是source to target，是从邻居到中心（问：target to source是从中心到邻居吗）
  3. node_dim定义了沿着哪一维进行传播

2.2 propagate

必须输入edge_index

2.3 message

即上图中的fai函数
x_i表示中心节点central nodes，x_j表示邻居节点neignbouring nodes

2.4 update

即上图的gamma函数

3 GCN实例

在这里插入图片描述

3.1 分析

  1. 这个算子没有gamma函数的步骤，因此不需要update
  2. 在加和处有∪{i}，因此需要增加自环self loop
  3. W.t()的部分，由于每一个节点都需要线性变化，所以可以在forward中做掉
  4. 除以中心节点的度和邻居节点的度，然后开根号，必须要在message中做
  5. propagate()会自动调用message()、aggregate()和update()

4 Edge Conv实例

在这里插入图片描述

4.1 分析

  1. 这个算子没有gamma步骤，也不需要update
  2. 在消息传递步骤，同时用到了中心节点和邻居节点，因此需要x_i x_j
  3. aggr要设置为max
EEPI
关注
MessagePassing
mfccc的博客
06-16 1207
1.相关包导入 import os import re import inspect import os.path as osp from uuid import uuid1 from itertools import chain from inspect import Parameter from typing import List, Optional, Set from torch_geometric.typing import Adj, Size import torch from torch i
深入理解PyTorch中的MessagePassing
qlkaicx的博客
08-29 1391
通过类，PyTorch Geometric不仅简化了图神经网络层的实现，还提供了高度的灵活性和扩展性。开发者可以轻松定义自己的消息传递逻辑，从而在各种图形结构上有效地运行神经网络模型。
【图神经网络】PyG的MessagePassing机制实现
竹石破岩
08-08 2181
参考文章：https://zhuanlan.zhihu.com/p/397560946
PyG MessagePassing机制源码分析
发呆的比目鱼的博客
09-12 1163
PyG MessagePassing机制源码分析
一篇理解Message passing算法 | 贝叶斯推断
qq_41603411的博客
03-30 1万+
​Message Passing Introduction 我们前面介绍了概率论的基础和基本的贝叶斯网络的基础。这一节我们会给你一个黑盒子，它能在你提供一些信息的情况下回答你的问题。而这个黑盒子就是参数确定了的贝叶斯网络啦，而这个根据事实回答文题的功能被称为 Inference Inference 定义：计算事件Si在定义一些结点Sj的信息后的概率P(Si | {Sj = x})...
消息传递（Message Passing）
心想事成
05-16 1万+
消息传递（Message Passing）   通常可用把并行程序理解为一组相互独立的、能够发关和接收消息的组件，这也称为角色模型（ActorModel），在维基百科上可找到更正式的解释 http://en.wikipedia.org/wiki/Actor_model。虽然使用消息传递的场景往往相当复杂，但是其背后的思想却相对简单，正像下面将要看到的示例一样： 消息传递背后的基本思想是这
【QNX】Qnx IPC通信 Message-passing
林多
05-26 1564
QNX提供了多种IPC(Interprocess Communication )通信方式，包括Message-passing、Plus（脉冲）、Event、Signal、共享内存、Pipe，当然还有socket。Message-passing是Qnx IPC的主要形式。Message-passing提供了主从直接同步的双向消息传输，类似于Android 同步Binder。客户端向服务端请求(Request)，服务端向客户端(Reply）。
PYG(Pytorch Geometric)中文说明书——第3章TUTORIALS
qq_37415491的博客
08-02 1937
本文为pyg官网的中文翻译（官方原版链接 https://pytorch-geometric.readthedocs.io/en/latest/），并加入了一些其他网上大佬和自己的理解。如有翻译理解不当之处还请各位多多指出，非常感谢！ 3.1Creating Message Passing Networks 将卷积算子推广到不规则域通常表示为邻域聚合或消息传递方案。用表示第（k-1）层中节点 i 的特征，表示节点 j 到节点 i 的(可选)边缘特征，消息传递图神经网络可以描述为 其中表示一个可微的，排列
Torch geometric NNConv 源码分析
Glimmer
12-11 3882
xi′=Θxi+∑j∈N(i)xj⋅hΘ(ei,j), \mathbf{x}^{\prime}_i = \mathbf{\Theta} \mathbf{x}_i + \sum_{j \in \mathcal{N}(i)} \mathbf{x}_j \cdot h_{\mathbf{\Theta}}(\mathbf{e}_{i,j}), xi′​=Θxi​+j∈N(i)∑​xj​⋅hΘ​(ei,j​...
Torch geometric GCNConv 源码分析
热门推荐
Glimmer
12-03 1万+
Torch geometric GCNConv 源码分析公式向量形式矩阵形式GCNConv源码初始化initforwardmessageupdate参考文档 公式 向量形式 xi(k)=∑j∈N(i)∪{i}1deg⁡(i)⋅deg(j)⋅(Θ⋅xj(k−1)), \mathbf{x}_i^{(k)} = \sum_{j \in \mathcal{N}(i) \cup \{ i \}} \frac...
[Scene Graph] 图神经网络的核心方法——Message Passing
风中摇曳的小萝卜 的博客
02-20 7211
GNN中的Message Passing方法解析 一、GNN中是如何实现特征学习的？ 深度学习方法的兴起是从计算图像处理（Computer Vision）领域开始的。以卷积神经网络（CNN）为代表的方法会从邻近的像素中获取信息。这种方式对于结构化数据（structured data）十分有效，例如，图像和体素数据。但是，CNN的处理方式对于类似图（graph）数据则并不适用。对于一个图而言，类似图像像素的邻近关系是不存在的。考虑图中任意一个节点，我们几乎不可能始终找到8个有序邻近节点，因此类CNN卷积核将不
实现图神经网络的消息传递范式
u012194696的专栏
06-18 1011
消息传递图神经网络 一、引言 在开篇中我们介绍了，为节点生成节点表征（Node Representation）是图计算任务成功的关键，我们要利用神经网络来学习节点表征。消息传递范式是一种聚合邻接节点信息来更新中心节点信息的范式，它将卷积算子推广到了不规则数据领域，实现了图与神经网络的连接。消息传递范式因为简单、强大的特性，于是被人们广泛地使用。遵循消息传递范式的图神经网络被称为消息传递图神经网络。本节中， 首先我们将学习图神经网络生成节点表征的范式–消息传递（Message Passing）范式。 接着我
PyG(torch_geometric)的MessagePassing详解
Enjoy Coding
11-15 2055
MessagePassing是图神经网络（Graph Neural Networks，GNNs）的一个基础组件，它被设计用来处理图形数据的问题。在图形数据中，数据点（节点）之间的关系（边）是非常重要的信息。MessagePassing通过在节点之间传递和聚合信息，使得每个节点都能获取其邻居节点的信息，从而更好地理解图形的结构和特性。具体来说，MessagePassing的工作方式是这样的：对于每个节点，它会收集其所有邻居节点的信息（这个过程称为消息传递），然后将这些信息聚合起来（这个过程称为消息聚合）。
Pyg消息传递源码（MESSAGE PASSING）+实例
weixin_45928096的博客
09-20 1795
MessagePassing基类 GNN关键的步骤就是消息传递、聚合、更新。 **pytorch geometric**提供了一个MessagePassing基类，它已经通过MessagePassing.propagate()实现了以上三步对应的计算过程。 我们只需定义一个继承了MessagePassing基类的class，然后根据具体的图算法来更新函数 **message()** 的邻域聚合方式aggr="add", aggr="mean" or aggr="max"，以及函数**update()**，
gnu radio学习（三）Message Passing消息传递详解
I_believe_CWJ的博客
08-03 3086
Message PassingIntroductionMessage Passing APIMessage Handler Functions三级目录 Introduction GNU Radio was originally a streaming system with no other mechanism to pass data between blocks. Streams of data are a model that work well for samples, bits, etc., bu
图神经网络task2——消息传递
Wmnyang的博客
06-19 1520
这是目录1、消息传递范式2、MessagePassing基类2.1、MP类和基本方法3、MessagePassing实例3.1、三个函数的数学定义3.2、`GCNConv`实现步骤（1）向邻接矩阵添加自环边（2）对节点的特征矩阵进行线性变换（3）对变换后的节点特征进行标准化（4）归一化j中的节点特征（5）将节点特征求和参考文献 1、消息传递范式 消息传递是实现GNN的一种通用框架和编程范式。它从聚合与更新的角度归纳总结了多种GNN模型的实现，它的思路是： 首先结合边的特征以及和边相连的两个节点的特征，得到
【PyG】理解MessagePassing过程，GCN demo详解
LittleSeedling的博客
05-28 1393
文章目录PyG的信息传递机制MessagePassing ClassGCN demo1. 导入头文件2. 构造函数3. 前向传播forward4. message5. aggregate6. update完整GCN demo代码 参考： PyG利用MessagePassing实现GCN(了解pyG的底层逻辑） PyG官方demo GCN PyG的信息传递机制 PyG提供了**信息传递（邻居聚合）**操作的框架模型。 xik=γk(xik−1,□j∈N(i)ϕ(xik−1,xjk−1,ej,i)) x_i
PyG教程：MessagePassing基类
????
11-29 1094
理解PyG中的基类MessagePassing对于MPNN的实现原理，这对于我们利用PyG实现自己的GNN至关重要。
如果我希望在一个图神经网络中丰富它的整体分析模式，使它分析的结果更精确，例如加入图注意力机制，我应该如何编写这部分代码，并将这部分代码插入在哪里
最新发布
02-27
嗯，用户想在图神经网络中加入注意力机制，让分析结果更精确。首先，我得回忆一下图神经网络的基本结构，比如GCN或者GAT。注意力机制通常用在节点特征的聚合过程中，所以可能需要修改消息传递的步骤。 用户可能已经...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值