SimonChen

论文引用网络节点分类比赛 Baseline赛题介绍图神经网络（Graph Neural Network）是一种专门处理图结构数据的神经网络，目前被广泛应用于推荐系统、金融风控、生物计算中。图神经网络的经典问题主要有三种，包括节点分类、连接预测和图分类三种。本次比赛是图神经网络7日打卡课程的大作业，主要让同学们熟悉如何图神经网络处理节点分类问题。数据集为论文引用网络，图由大量的学术论文组成，节点之间的边是论文的引用关系，每一个节点提供简单的词向量组合的节点特征。我们的目的是给每篇论文推断出它的论文类别。

通常就采取随机采样就行。位置编码：就是对输入的句子进行的一个位置编码，保留顺序信息，因为transformer在建模的时候是没有把顺序信息考虑进去的，这时候就要用position embeddings。百度使用masked label prediction来解决标签泄露的问题。...

ERNIESage是用在NLP的一个模型。UniMP是标签传播的一个模型https://aistudio.baidu.com/aistudio/education/lessonvideo/937035ERNIESageERNIE结构其实就是多层的transformer。

https://aistudio.baidu.com/aistudio/projectdetail/1343890

1.三种经典聚合函数2.怎么评估聚合函数的表达能力—单射3.基于单射的模型----GINGIN怎么聚合的？就是利用sum的单射能力，以及自连边的加权的方式来既保留所有邻居的信息也可以区分到中心节点和邻居节点。...

从上图变化到下图上图右边的例子，对节点进行一个随机的采样，结果采样到的节点是互不相连的（特别是在图规模很大的时候，随机采样出来的节点很有可能是孤立的），然而这种孤立的点是不符合GNN的要求的。（即一个节点的表示是由其领居进行表示的）两种图采样算法：GraphSAGE...

图采样详解邻居聚合GraphSage实战为了保证计算量在一个可接受的一个范围内，就要用到图采样。

主要引入基本的同构图、异构图知识以及基本概念；同时对deepWalk代码的注解以及node2vec、word2vec的说明总结；（以及作业代码注解）一、图基础及分类1.1 什么是图？用一张图表示(图来源:PGL课程预习前置1)简单来说：图就是通过一些具有实际意义的节点和代表节点间关系的边组成的一个网状或非网状的结构。1.2 图具有的信息/属性①图具有以下基本的属性：          &n.

对于图游走类算法来说，目标就是要学出图中每一个节点的一维表示，也就是这个node embeddings。然后就可以利用这些一维表示进行下游任务，也就是节点分类之类的。为什么一维表示可以用来做下游任务呢？是因为我们利用图游走类算法，使得我们学到的embeddings可以学习到节点和邻居的关系，然后更好的表示图结构和图特征的信息。那如何得到这个node embeddings?如下1.图游走类算法梗概每一个node就相当于NLP中的每一个词，游走序列就相当于一个句子，这里就引入Word2Vec..

下面通过一个例子看看什么是同构图和异构图。predecessor是前继邻居successor是后继邻居。图的表示方式：1.邻接矩阵图的表示方式：2.邻接表图的表示方式：3.边集

1.介绍图也可以应用在自然语言处理的领域，利用图学习可以做知识图谱推理，实体关系抽取等等，也有一些文章做图文本生成的。2.图学习是如何做的？图游走类算法就像我们去旅游一样，到一个地方再到另外一个地方。生成一个个可能性序列，然后使用图表示。图神经网络涉及面是很广的，这里说一下它的一种实现方式，消息传递。消息传递实质就是把当前节点的邻居节点的信息发送到自身，将这些信息聚合起来之后，再利用这些信息来更新自身的表示。3. 图学习框架-PGL...