16、从异质图和动态图中学习:GNN的新进展

从异质图和动态图中学习:GNN的新进展

1. 异质图学习

在图神经网络(GNN)的应用中,异质图是一种包含不同类型节点和边的图结构,它能够更丰富地表示实体之间的各种关系。

1.1 异质图注意力网络(Heterogeneous GAT)

在异质图上进行学习时,异质图注意力网络(Heterogeneous GAT)是一种有效的方法。通过以下代码进行训练和测试:

loss = F.cross_entropy(out[mask], data['author'].y[mask])
loss.backward()
optimizer.step()
if epoch % 20 == 0:
    train_acc = test(data['author'].train_mask)
    val_acc = test(data['author'].val_mask)
    print(f'Epoch: {epoch:>3} | Train Loss: {loss:.4f} | Train Acc: {train_acc*100:.2f}% | Val Acc: {val_acc*100:.2f}%')
test_acc = test(data['author'].test_mask)
print(f'Test accuracy: {test_acc*100:.2f}%')

异质图注意力网络在测试集上达到了78.42%的准确率,相比同质版本有了5.13%的提升。

1.2 分层自注意力网络(HAN)

为了进一步提升性能,我

相关推荐

AAAI 2024论文合集:AI前沿热点解析与高效科研实践指南

人工智能领域的快速发展,使得追踪和理解前沿技术趋势成为研究者和工程师的核心需求。从基础原理来看,机器学习模型通过从数据中学习模式,不断推动着计算机视觉、自然语言处理等领域的进步。其技术价值在于能够自动化复杂任务,提升决策效率,并催生了众多创新应用。在应用场景上,图神经网络(GNN)正从同质化向处理异质图、动态图等复杂现实场景深化,而时间序列分析则聚焦于概率预测、长序列预测及异常检测等关键任务。多模态学习已超越简单的对齐,致力于实现任意模态间的深度理解、生成与推理。异常检测的研究也转向了系统化解决方案,并借助

weixin_33884611的博客 401

GNN泛化新解法:Sheaf神经网络在归纳任务中的基准评测指南

图神经网络在实践中常遇到换图失效的问题,原因往往不在模型容量或调参,而在于评测协议:传导设置掩盖了模型对全新结构的适应能力。真正面向工业部署的归纳学习任务,要求模型在完全未见过的图上依然保持稳定表现。Sheaf Neural Networks通过为每条边配备可学习的线性映射,将消息传递从标量加权扩展为空间变换,显著缓解了深层传播中的过度平滑现象,为图表示学习开辟了新方向。但更强的表达能力是否必然带来更强的泛化能力?本文从图拉普拉斯与层丛拉普拉斯的原理出发,厘清传导与归纳评估的本质区别,并给出可执行的Benc

weixin_33806914的博客 439

图神经网络进阶与系统优化:从消息传递到大规模训练

本文深入探讨了图神经网络(GNN)的核心消息传递机制及其在大规模图数据上的系统优化策略。通过对比不同GNN变体的聚合方式,分析工业级挑战如内存爆炸和计算低效,并提出了图分区、通信压缩等优化技术。文章还分享了实战中的调参经验和框架性能对比,为处理超大规模图数据提供了实用指南。

weixin_29054399的博客 258

图嵌入与社区检测:mWDK方法解析与实践

图嵌入技术是将复杂图结构转化为低维向量表示的关键方法,广泛应用于社区检测、节点分类等图数据分析任务。其核心原理是通过保留图的拓扑特性(如局部连接性和全局结构),使传统机器学习算法能高效处理图数据。主流方法包括基于随机游走的DeepWalk、基于矩阵分解的Laplacian Eigenmaps,以及基于深度学习的GCN。本文重点介绍的mWDK方法创新性地采用Isolation Kernel解决过平滑问题,通过双分布联合建模(节点属性分布和度分布)显著提升社区检测效果。实验表明,mWDK在Cora、BlogCa

abc_1114的博客 549

16、图神经网络:从异质图学习到动态图时间序列预测

本文探讨了图神经网络在异质图学习和动态图分析中的应用。首先介绍了异质图学习中的异质图GAT和分层自注意力网络(HAN)的实现与实验结果,验证了HAN在处理异质图中的优势。随后,文章深入讨论了动态图与时间图神经网络,以EvolveGCN为例,展示了其在网页流量预测和疫情预测中的应用。通过实验和分析,强调了在不同应用场景下选择合适模型的重要性,并对时间图神经网络的未来发展进行了展望。

y4z5a6b7的博客 142

图神经网络(GNN):同质图模型【GCN/GraphSAGE/GAT...】、异质图模型【HAN/HetGNN...】

目前的图神经网络主要针对同质图(节点类型和边类型单一)设计. - 同质图中只有一种类型的节点和边(例如,只有朋友关系的社交网络),网络结构较为简单.因此,同质图神经网络通常只需要聚合单一类型的邻居来更新节点的表示即可(例如,通过在朋友关系下的邻居来更新节点表示). - 但真实世界中的图大部分都可以被自然地建模为异质图(多种类型的节点和边,如下图所示,IMDB数据中包含三种类型的节点Actor、Movie和Director,两种类型的边Actor-Moive和Movie-Director). 多种类型的节点

u013250861的博客 3781

GNN-图卷积模型-2019:GTN【Graph Transformer Networks】【异质图】

摘要:图神经网络在图的表示学习中得到了广泛的应用,在节点分类和链路预测等任务中取得了很高的性能。然而,大多数现有GNNs的设计目的是学习固定和齐次图上的节点表示。当学习指定错误的图或由各种类型的节点和边组成的异类图上的表示时,这种局限性尤其成问题。在本文中,我们提出了能够生成新图结构的图转换网络(GTNs),它涉及到识别原始图上未连接节点之间的有用连接,同时以端到端方式学习新图上的有效节点表示。Graph Transformer层是GTNs的核心层,它学习了边类型的软选择和复合关系,以生成有用的多跳连接,即

u013250861的博客 1172

2019年,异质图神经网络领域有哪些值得读的顶会论文?.zip

真实世界中的图大部分都可以被自然地建模为异质图(多种类型的节点和边,如下图所示,IMDB 数据中包含三种类型的节点 Actor、Movie 和 Director,两种类型的边 Actor-Moive 和 Movie Director)。多种类型的节点和丰富的语义信息给异质图神经网络设计带来了巨大挑战。

Chapter 4 Ripple-Based Control Technique Part I

本文介绍了DC-DC转换器的纹波控制技术,重点分析了迟滞控制、恒定开通时间控制、恒定关断时间控制等方案的工作原理及优缺点。纹波控制无需补偿网络,具有快速瞬态响应和结构简单的优势,特别适合电池供电应用。其中,恒定开通时间控制在轻载时能自动延长关断时间,实现伪定频工作;而恒定关断时间控制轻载效率较低。文章还讨论了纹波注入技术解决Boost转换器右半平面零点问题,并比较了不同控制方案在负载瞬态下的性能表现。最后指出基于纹波的控制技术在提高调节精度和降低EMI方面的改进方向。

2304_76736886的博客 1303

昇腾CANN实战:如何用DVPP+AIPP实现32路视频流毫秒级预处理(附性能对比)

本文深入探讨了昇腾CANN架构中DVPP和AIPP模块在32路视频流毫秒级预处理中的硬件加速技术。通过异构计算架构的优化,实现了从传统CPU方案的40.7毫秒到CANN方案3.4毫秒的显著性能提升,特别适用于智能安防领域的实时视频分析需求。文章详细解析了DVPP多通道并行设计和AIPP模型级预处理融合的技术细节,并提供了性能对比数据与实战调优经验。

alice7model的博客 920

手把手教你用Zygo干涉仪分析光学元件:从原始数据到清晰面形图的完整滤波流程

本文详细介绍了使用Zygo干涉仪和MetroPro软件分析光学元件面形的完整滤波流程,从原始数据解析到清晰面形图生成。重点讲解了滤波策略选择、参数调优技巧及常见问题解决方案,帮助工程师高效处理干涉图数据,提升光学元件检测精度。

weixin_42641998的博客 410

ifix5.8连接ab plc的点-通过rslinx

以ifix连接ab plc的点为例 1.先在rslinx上把plc的点导出为opc server 2.使用opc power tool 作为opc client 去连接 3.保存到项目的PDB文件夹下面,并且以节点名命名。 也可以不以节点名命名,系统自动会生成一个以节点名命名的这种文件,就显得很乱。 同时,项目的PDB目录下面必须还得拷过来一个de...

中国智造2025 4115

sap 标准委外和工序委外_SAP PP 工序委外详解

在SAP里有外包和外协两种:外包:指把原材料发出去,扣减库存,然后供应商加工生产,最后再作为成品入库。主要是在MM模块下实现的。对应的英语叫Subcontracting。外协:一般是指某种工序外协,在工艺路线里设置某个工序为外协后,系统自动会产生一个采购订单,一般是指采购某种服务。采购回来后再继续本公司的其他工序。主要是在PP模块下实现的。对应的英语叫Processing。2.当有委外加工的业务流...

weixin_26849971的博客 4582

ros1 Noetic下运行cartographer算法进行2d建图

最近的工作重点放在机器狗的二次开发上,项目的需求是要升级机器狗的slam算法和导航避障算法,slam拟采用激光与视觉融合算法,激光slam就使用最为流行和实用的cartoghper算法。在这过程中遇到好多坑,希望看到这篇博客的人能少走弯路吧。我用的仿真机器人是wpr_simiulation。首先复制一份demo_revo_lds.launch文件和revo_lds.lua文件,修改成下面的样子。my_test.lua文件,base_link就是机器人的坐标系。下载与安装的博客有很多,我推荐。

sun5739的博客 1551

STM32开发笔记85: SX1268驱动程序设计(芯片唤醒)

单片机型号:STM32L053R8T6 本系列开发日志,将详述SX1268驱动程序的整个设计过程,本篇介绍芯片唤醒驱动程序。 一、RxDutyCycle模式 在讲述本篇内容之前,我们先来看一下SX1268的一种模式RxDutyCycle,译为中文为接收占空比模式。其可使用SetRxDutyCycle命令进入RxDutyCycle模式,我们来看一下该命令的详细解释。 该命令具有2个参数,...

snmplink的博客 4068

高通SA8295P音频接口深度解析:全面掌握SA8295P的LS-I2S、PCM/TDM与高性能音频处理技术设计

SA8295P提供丰富的音频接口选项,包括LS-I2S、PCM/TDM和HS-I2S接口,具备灵活的配置选项,适合各种高保真音频和高速数据传输应用。结合LS-I2S和PCM/TDM接口:在复杂的音频编解码器设计中,可结合使用LS-I2S和PCM/TDM接口,以处理和传输不同的音频数据流。使用HS-I2S接口:在软件定义无线电(SDR)系统中,高速I2S接口可处理高速数据流,如无线电信号的解码和处理。LS-I2S(低速I2S)接口是SA8295P的一部分,提供了丰富的音频数据传输选项。

weixin_43199439的博客 1410

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

上一篇: 38、边缘计算卸载的拍卖设计:MBS 边缘云的最优卸载率研究
下一篇: 72、射频连接器高频感应焊接与非可展曲面共形承载天线结构3D打印研究
code8
博客等级 码龄17年 65粉丝 1720原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值