
图神经网络
文章平均质量分 76
数据铁人
这个作者很懒,什么都没留下…
展开
-
图神经网络 总结
图神经网络学习内容图论与程序中图的操作实现图神经网络的消息传递范式节点表征学习与节点预测和边预测超大图上节点表征学习图表征学习与图预测图神经网络学习总结十分感谢大佬设计的课程,学习到了最前沿的图神经网络内容。图神经网络的应用很广,希望在以后可以应用到实际场景上,如生物医学,智慧城市等。图神经网络需要的硬件需求还是比较高的,后续继续研究有什么方法可以加快运行。引用链接: datawhale-gnn...原创 2021-07-10 23:08:18 · 202 阅读 · 2 评论 -
图神经网络task7
超大规模数据集类的创建图神经网络的新基准Benchmarking Graph Neural Networks与图形无关的NN(MLP)在小型数据集上的表现与GNN相同对于较大的数据集,GNN改进了与图无关的NN最简单形式的GNN表现较差各向同性GNN架构在原始GCN上有所改进。GraphSage证明了在图卷积层中使用中心节点信息的重要性。GIN采用了中心节点特征以及一个新的分类器层,该分类器层在所有中间层均与卷积特征相连。DiffPool考虑了一种可学习的图形池化操作,其中在每个分辨率级别使用Gr原创 2021-07-08 15:52:15 · 194 阅读 · 0 评论 -
图神经网络task6
基于图神经网络的图表征学习方法引用链接: datawhale-gnn原创 2021-07-05 14:56:39 · 166 阅读 · 0 评论 -
图神经网络task5
超大图上的节点表征学习Cluster-GCN的工作原理如下:在每个步骤中,它对一个与通过用图聚类算法来区分的密集子图相关联的一组节点进行采样,并限制该子图中的邻居搜索。这种简单且有效的策略可以显著提高内存和计算效率,同时能够达到与以前算法相当的测试精度。现有GCN训练算法缺陷1、GCN的第一篇论文提出了全批次梯度下降(Full-batch gradient descent)。要计算整个梯度,它需要存储所有中间embeddings,导致O(NFL)内存需求,这是不可扩展的。2、GraphSAGE中提出原创 2021-07-01 17:58:03 · 137 阅读 · 0 评论 -
图神经网络task4
数据完全存于内存的数据集类如何利用容量大于内存的数据集训练神经网络在训练神经网络的时候,我们常常会遇到训练集大于RAM的情况。如果直接暴力读取会出现MemoryError,那这个时候我们应该怎么办呢?Dataset类在__init__()中把你的数据集全都遍历一遍,然后生成一个惰性迭代器。之后在你需要数据的时候,输入数据的index他就只会加载你需要的数据,而不是一下子全部加载到RAM中。那有人会问,你这不是还要遍历一遍完整的数据集吗,遍历的时候不是还是需要加载到RAM中吗?对没错,确实需要,但是遍原创 2021-06-27 23:08:52 · 199 阅读 · 1 评论 -
图神经网络task3
基于图神经网络的节点表征学习其中如何设计一套合理方式来高效地进行特征表示,是十分重要的,比如在cv与nlp任务中,我们会分别设计cnn模块与RNN模块来建模图像中像素点表征的信息、word表征的信息。Graph的特征表示极为复杂,主要表现在以下三个方面:1、极其复杂的拓扑结构,很难简单地像图像中的感受野来提取有效信息;2、无特定的节点顺序;3、通常graph会是动态变化的, 且使用多模态特征;对graph进行特征学习的三个方法1、Embedding Nodes2、Random Walk3、原创 2021-06-23 18:30:10 · 138 阅读 · 0 评论 -
图神经网络task2
消息传递图神经网络GNNGNN是一个邻居聚合策略,一个节点的表示向量,由它的邻居节点通过循环的聚合和转移表示向量计算得来。我们来想象人类学习知识的过程,在自身具有一定知识的基础上,我们会想要从周围的伙伴那里学习到更多的知识,然后将伙伴给予的信息与自身已有的知识组合起来,更新并获得更高阶的知识,这个过程就是一个消息传递过程。MPNN消息传递阶段 :共运行T个时间步,并包含以下两个子函数:Aggregation Function:也称消息函数,作用是聚合邻居节点的特征,形成一个消息向量,准备传递给原创 2021-06-19 13:34:38 · 138 阅读 · 0 评论 -
图神经网络 task1
图结构数据图的定义什么是图呢?图是一种复杂的非线性结构。在线性结构中,数据元素之间满足唯一的线性关系,每个数据元素(除第一个和最后一个外)只有一个直接前趋和一个直接后继;在树形结构中,数据元素之间有着明显的层次关系,并且每个数据元素只与上一层中的一个元素(双亲节点)及下一层的多个元素(孩子节点)相关;而在图形结构中,节点之间的关系是任意的,图中任意两个数据元素之间都有可能相关。图G由两个集合V(顶点Vertex)和E(边Edge)组成,定义为G=(V,E)图相关的概念和术语1,无向图和有向原创 2021-06-15 17:21:07 · 179 阅读 · 0 评论