同构和异构经典图神经网络汇总+pytorch代码

本文汇总了关于图神经网络的优质资源,包括GCN、GAT、GraphSAGE的理论解析及代码实现,并介绍了异构图神经网络RGCN和HGT的概念及应用。提供了PyTorch相关的代码示例,帮助读者深入理解图神经网络在处理同构和异构图上的差异。同时,还分享了PyG的学习心得和安装指南。
部署运行你感兴趣的模型镜像

收集一些讲解比较好的博客或者知乎文档,以及对应的代码

1、同构图神经网络-GCN/GAT/GraphSAGE

2、异构图神经网络-RGCN/HGT

3、pytorch相关代码

建议下载好DBLP数据集后,合并下面的RGCN和HGT代码到一个项目里面进行效果对比

4、pytorch学习相关

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch 2.5

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库,基于 Torch 库,底层由 C++ 实现,应用于人工智能领域,如计算机视觉和自然语言处理

# GPF ## 一、GPF(Graph Processing Flow):利用图神经网络处理问题的一般化流程 1、图节点预表示:利用NE框架,直接获得全图每个节点的Embedding; 2、正负样本采样:(1)单节点样本;(2)节点对样本; 3、抽取封闭子图:可做类化处理,建立一种通用图数据结构; 4、子图特征融合:预表示、节点特征、全局特征、边特征; 5、网络配置:可以是图输入、图输出的网络;也可以是图输入,分类/聚类结果输出的网络; 6、训练测试; ## 二、主要文件: 1、graph.py:读入图数据; 2、embeddings.py:预表示学习; 3、sample.py:采样; 4、subgraphs.py/s2vGraph.py:抽取子图; 5、batchgraph.py:子图特征融合; 6、classifier.py:网络配置; 7、parameters.py/until.py:参数配置/帮助文件; ## 三、使用 1、在parameters.py中配置相关参数(可默认); 2、在example/文件夹中运行相应的案例文件--包括链接预测、节点状态预测; 以链接预测为例: ### 1、导入配置参数 ```from parameters import parser, cmd_embed, cmd_opt``` ### 2、参数转换 ``` args = parser.parse_args() args.cuda = not args.noCuda and torch.cuda.is_available() torch.manual_seed(args.seed) if args.cuda: torch.cuda.manual_seed(args.seed) if args.hop != 'auto': args.hop = int(args.hop) if args.maxNodesPerHop is not None: args.maxNodesPerHop = int(args.maxNodesPerHop) ``` ### 3、读取数据 ``` g = graph.Graph() g.read_edgelist(filename=args.dataName, weighted=args.weighted, directed=args.directed) g.read_node_status(filename=args.labelName) ``` ### 4、获取全图节点的Embedding ``` embed_args = cmd_embed.parse_args() embeddings = embeddings.learn_embeddings(g, embed_args) node_information = embeddings #print node_information ``` ### 5、正负节点采样 ``` train, train_status, test, test_status = sample.sample_single(g, args.testRatio, max_train_num=args.maxTrainNum) ``` ### 6、抽取节点对的封闭子图 ``` net = until.nxG_to_mat(g) #print net train_graphs, test_graphs, max_n_label = subgraphs.singleSubgraphs(net, train, train_status, test, test_status, args.hop, args.maxNodesPerHop, node_information) print('# train: %d, # test: %d' % (len(train_graphs), len(test_graphs))) ``` ### 7、加载网络模型,并在classifier中配置相关参数 ``` cmd_args = cmd_opt.parse_args() cmd_args.feat_dim = max_n_label + 1 cmd_args.attr_dim = node_information.shape[1] cmd_args.latent_dim = [int(x) for x in cmd_args.latent_dim.split('-')] if len(cmd_args.latent_dim) == 1: cmd_args.latent_dim = cmd_args.latent_dim[0] model = classifier.Classifier(cmd_args) optimizer = optim.Adam(model.parameters(), lr=args.learningRate) ``` ### 8、训练测试 ``` train_idxes = list(range(len(train_graphs))) best_loss = None for epoch in range(args.num_epochs): random.shuffle(train_idxes) model.train() avg_loss = loop_dataset(train_graphs, model, train_idxes, cmd_args.batch_size, optimizer=optimizer) print('\033[92maverage training of epoch %d: loss %.5f acc %.5f auc %.5f\033[0m' % (epoch, avg_loss[0], avg_loss[1], avg_loss[2])) model.eval() test_loss = loop_dataset(test_graphs, model, list(range(len(test_graphs))), cmd_args.batch_size) print('\033[93maverage test of epoch %d: loss %.5f acc %.5f auc %.5f\033[0m' % (epoch, test_loss[0], test_loss[1], test_loss[2])) ``` ### 9、运行结果 ``` average test of epoch 0: loss 0.62392 acc 0.71462 auc 0.72314 loss: 0.51711 acc: 0.80000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 10.09batch/s] average training of epoch 1: loss 0.54414 acc 0.76895 auc 0.77751 loss: 0.37699 acc: 0.79167: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 34.07batch/s] average test of epoch 1: loss 0.51981 acc 0.78538 auc 0.79709 loss: 0.43700 acc: 0.84000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 9.64batch/s] average training of epoch 2: loss 0.49896 acc 0.79184 auc 0.82246 loss: 0.63594 acc: 0.66667: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 28.62batch/s] average test of epoch 2: loss 0.48979 acc 0.79481 auc 0.83416 loss: 0.57502 acc: 0.76000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 9.70batch/s] average training of epoch 3: loss 0.50005 acc 0.77447 auc 0.79622 loss: 0.38903 acc: 0.75000: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 34.03batch/s] average test of epoch 3: loss 0.41463 acc 0.81132 auc 0.86523 loss: 0.54336 acc: 0.76000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 9.57batch/s] average training of epoch 4: loss 0.44815 acc 0.81711 auc 0.84530 loss: 0.44784 acc: 0.70833: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 28.62batch/s] average test of epoch 4: loss 0.48319 acc 0.81368 auc 0.84454 loss: 0.36999 acc: 0.88000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 10.17batch/s] average training of epoch 5: loss 0.39647 acc 0.84184 auc 0.89236 loss: 0.15548 acc: 0.95833: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 28.62batch/s] average test of epoch 5: loss 0.30881 acc 0.89623 auc 0.95132 ```
### 关于异构图神经网络 #### 原理 异构图神经网络旨在处理由不同类型的节点边构成的复杂关系网。这类网络不仅要整合多样的节点类型及其连接方式,还需兼顾节点本身的特性信息。为了应对这些挑战,研究人员提出了多种策略技术。 一种典型的方法是通过引入注意力机制来增强模型对于不同类型实体间交互的理解能力[^3]。具体来说,在Heterogeneous Graph Attention Networks (HGATs) 中,自注意力层允许模型自动学习哪些邻居更重要,从而更好地捕捉到局部子图中的重要模式。这种方法有助于提高对具有丰富语义背景的数据集的学习效果。 此外,HetGNN作为一种专门设计用于异构图表示学习的框架,它尝试同时利用结构化信息(即谁与谁相连)以及非结构性特征(如文本描述),以此获得更加全面而深刻的表达形式[^4]。 ```python import torch.nn as nn class HetGNN(nn.Module): def __init__(self, input_dim, hidden_dim, output_dim): super(HetGNN, self).__init__() # 定义模型架构... def forward(self, x): # 实现前向传播逻辑... pass ``` #### 应用场景 在多个领域中都能找到异构图神经网络的身影: - **社交网络分析**:理解用户行为背后复杂的相互作用; - **知识图谱构建**:帮助机器理解推理现实世界的事物之间的联系; - **推荐系统优化**:基于用户的兴趣偏好提供个性化的商品建议; 上述应用均依赖于有效提取并利用存在于大规模异质数据集中潜在关联的能力[^1]。 #### 实现方法 当涉及到具体的实现细节时,则需考虑如何高效地聚合来自不同源的信息,并确保所得到的结果既准确又具备良好的泛化性能。为此,可以采取如下措施: - 使用消息传递机制作为基础构件,使得每个节点都能够收集到来自其邻域范围内其他成员的影响; - 结合预训练技术加速收敛过程,特别是在面对稀疏标注样本的情况下尤为有用; - 设计合理的损失函数引导整个训练流程朝着预期目标前进,比如最小化预测误差或是最大化某些特定指标得分等。 综上所述,通过对原理深入探讨、应用场景广泛覆盖以及实现路径精心规划三个方面展开讨论,希望能够为读者呈现一幅较为完整的异构图神经网络画卷。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值