15、从异构图中学习:理论与实践

从异构图中学习:理论与实践

在许多实际应用场景中,如推荐系统、社交网络和网络安全等,我们会遇到包含不同类型节点和边的图结构,这类图被称为异构图。与之相对的是同构图,它只包含一种类型的节点和一种类型的边。本文将深入探讨异构图的相关知识,包括消息传递神经网络框架、异构图的引入、将同构GNN转换为异构GNN等内容。

消息传递神经网络框架

在探索异构图之前,我们先回顾一下同构GNN的相关知识。在之前的学习中,我们了解到不同的GNN层通过聚合和组合不同节点的特征来工作。最简单的GNN层是将相邻节点(包括目标节点本身)的特征进行线性组合,并与权重矩阵相乘,然后用这个结果替换目标节点的嵌入。

GCN和GAT层在节点特征上添加了固定和动态的权重,但核心思想不变。即使是GraphSAGE的LSTM算子或GIN的最大聚合器,也没有改变GNN层的主要概念。我们可以将这些不同的GNN层归纳为一个通用的框架,即消息传递神经网络(MPNN或MP - GNN)。该框架由三个主要操作组成:
1. 消息 :每个节点使用一个函数为每个邻居创建一个消息。这个消息可以仅仅是节点自身的特征,也可以考虑邻居节点的特征和边的特征。
2. 聚合 :每个节点使用一个置换不变函数(如求和)来聚合来自邻居的消息。
3. 更新 :每个节点使用一个函数来更新其特征,该函数将当前特征与聚合后的消息相结合。

这些步骤可以用一个方程来概括:
[h’ i = \gamma(h_i, \oplus {j \in \mathcal{N}(i)} \phi(

相关推荐

当Graph神经网络遇上强化学习:用异构图建模解决动态调度难题

本文探讨了Graph神经网络(GNN)与强化学习(RL)在动态调度问题中的创新应用。通过异构图建模将车间转化为信息网络,结合异构GNN和多跳注意力机制,有效解决了柔性作业车间调度问题(FJSP)中的动态决策挑战。实战测试显示,该方法能缩短22%的订单完成时间,为制造业调度提供了智能解决方案。

weixin_26765363的博客 420

图神经网络实战(19)——异构图神经网络

异构图由不同类型的节点和边组成,可以表示实体之间的各种关系,这比单一类型的连接具有更高的表达能力。在本节中,我们将回顾关于同构图神经网络 (Graph Neural Networks, GNN) 与消息传递神经网络框架的相关概念,以扩展 GNN 架构适用于异构图。首先,我们将创建自定义异构数据集。然后,将同构架构转化为异构架构。

盼小辉丶的博客 1万+

多重注意力指导下的异构图嵌入方法

本节将介绍本文使用的与异构图相关的一些重要术语的形式化定义。定义1 异构图。异构图由 G=(υ,ε)G=(υ,ε) 表示,它由节点集合 υυ 和边集合 εε 组成;ϕϕ : υ→Aυ→A 为节点类型映射函数, φφ : ε→Rε→R 为边类型映射函数;A和R表示预定义对象类型和链接类型的集合, |A|+|R|>2|A|+|R|>2 ,如图1所示。图 1异构图定义2 元路径。元路径pi。

fzq0625的博客 1180

15、从异构图中学习:GNN的新挑战与解决方案

本文深入探讨了在异构图上进行图神经网络(GNN)学习的新挑战与解决方案。文章首先回顾了同构GNN的基本原理,并介绍了消息传递神经网络(MPNN)框架。接着,详细讲解了异构图的概念、其复杂性以及在现实应用中的重要性。随后,文章展示了如何将同构GNN扩展到异构GNN,并通过PyTorch Geometric实现了异构GAT模型。此外,还介绍了一种专门针对异构图的分层自注意力网络架构,并通过实际应用案例(如推荐系统)展示了这些技术的实用性。最后,对不同架构进行了性能比较,并展望了异构图处理技术的未来发展方向。

y4z5a6b7的博客 136

2023.2.2,周四【图神经网络 学习记录16】异构图Graph Embedding算法——GATNE(异构图多属性 多边 类型算法),不建议普通PC跑...PyCharm可能会崩

【图神经网络 学习记录16】异构图Graph Embedding算法——GATNE(异构图多属性 多边 类型算法),不建议普通PC跑...PyCharm可能会崩

追光者♂:记录、分享、总结、提升,现象级专栏《Python从入门到人工智能》作者,无惧黑暗,坚信曙光 990

动态异构图表示学习(1):节点v的邻域特征聚合的详细过程 | 基于类型素数的节点签名 | 基于类型度的节点签名。思考:时序异构图网络表示学习,不依赖元路径,不使用网络快照,如何捕捉到细粒度的时间信息?

异质性意味着不同类型的节点具有不同的属性,不同类型节点对之间的交互行为保持着不同的语义。时间性揭示了节点随时间变化的交互趋势,网络中也可能存在有规律的演化模式。因此,对图的异构信息和时间信息进行充分建模,对于全面表示节点属性和合理预测未来链接具有重要意义。///

追光者♂:记录、分享、总结、提升,现象级专栏《Python从入门到人工智能》作者,无惧黑暗,坚信曙光 224

【基础知识】图神经网络 | 异构图神经网络建模方法(模型) | 元路径,静态元路径,动态元路径(方法) | 主流异构图模型有哪些?

图神经网络(Graph Neural Network,GNN)是一种用于处理图数据的机器学习模型。与传统的神经网络模型不同,GNN能够有效地对图结构数据进行建模和学习。在图神经网络中,每个节点被赋予一个特征向量,表示该节点的属性。模型通过学习节点之间的关系和连接来进行信息传播和特征更新。这种信息传播过程通常通过迭代的方式进行,每个节点会根据其周围节点的特征进行更新,从而逐步融合更广泛的上下文信息。图神经网络在社交网络分析、推荐系统、分子结构分析等领域具有广泛的应用。

追光者♂:记录、分享、总结、提升,现象级专栏《Python从入门到人工智能》作者,无惧黑暗,坚信曙光 552

一人公司 CEO × Accio Work:最大能效实战指南

作为一人公司 CEO,你需要同时扮演市场、销售、运营、财务、产品等多个角色。Accio Work 本质上就是你的。

华盛AI的博客 2110

使用STM32F103C8T6控制舵机丝滑运转附代码

使用STM32F103C8T6控制舵机丝滑运转原理和案例,附代码。

m0_63566592的博客 4238

c语言国际象棋(easyx图形库)

c语言实现的国际象棋,先放源码,有空再更 所有图形资源均来源于网络,侵删 #include <graphics.h> #include<stdio.h> #include<conio.h> #include<math.h> #include<stdlib.h> #include <time.h> #define HEIGHT 800 #define WIDTH 1100 #define SIZE 100 #define true.

Betelgeuse13的博客 1914

Ubuntu安装pytorch3d的最便捷方法【原创】

Ubuntu安装pytorch3d的最便捷方法

qq_54900679的博客 2925

逆向实战:基于内存态匿名段分析的 DexProtector 检测绕过策略

本文深入探讨了针对DexProtector加固方案的Frida检测绕过策略。通过分析运行时动态加载到匿名内存段的核心检测逻辑,提出了一套基于内存态分析、定位并转储匿名可执行段,进而通过精准Hook与“等式化替换”等技术实现稳定绕过的实战方法。该方法不仅适用于DexProtector,也对采用类似内存隐藏技术的加固方案具有参考价值。

ik678901的博客 516

KMS服务器一键部署与激活实战指南

本文详细介绍了KMS服务器的一键部署与激活实战指南,包括快速入门、安装步骤、服务管理技巧及常见问题排查。特别针对Windows和Mac用户提供了Office激活的具体操作步骤,并分享了高级配置与优化方案,帮助IT管理员高效管理批量授权激活。

weixin_29305313的博客 462

RH850 GreenHillSoftware Install

IDE一次链接到一个Compiler/Green Hills Debug Probe安装目录。如果您安装了IDE、编译器和绿山调试探测器软件,安装程序会将安装链接在一起。如果您只使用Advanced Install选项安装IDE,那么当您第一次启动它时,IDE会提示您链接到编译器和绿山调试探针安装*。如果您使用Advanced Install选项只安装编译器和绿山调试探针软件,安装程序会提示您将IDE的安装链接到新的编译器和绿山调试探针安装。

舊梦的博客 1219

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

上一篇: 23、企业风险管理与治理的全面解析
下一篇: 13、AI在社会中的应用:从工业到医疗的变革
code8
博客等级 码龄17年 65粉丝 1720原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值