- 博客(24)
- 收藏
- 关注
原创 图神经网络(11)— 在知识图谱上推理
这篇文章,主要是讨论在不完整的知识图谱上推理,回答(预测)多跳的查询问题。主要介绍Traversing Knowledge Graphs in Vector Space(以TransE为例)和Query2box*两个算法。
2022-04-18 17:01:41
6045
原创 图神经网络(10)- knowledge graph(知识图谱)
主要是介绍知识图谱以及一些解决知识图谱问题的经典算法,与GNN关系不大。GNN是现在解决知识图谱问题的一种新方法。
2022-04-14 19:57:21
3899
原创 图神经网络(10)- relational GCN
从普通的GNN拓展到可以处理异质图的GNNHeterogeneous Graphs(异质图)——有多种类型的边relational GCN一种关系的有向图有多种关系的有向图knowledge graph(知识图)
2022-04-14 16:07:57
1546
原创 利用MessagePassing实现GraphSAGE(了解pyG的底层逻辑)
利用MessagePassing实现GraphSAGE(了解pyG的底层逻辑)
2022-03-26 10:03:17
1266
1
原创 Why Do Attributes Propagate in Graph Convolutional Neural Networks? —— 传播本质
这一部分详细的介绍作者思路,按照作者思路一步步推理得到:为什么传播的本质其实是成对相似性的数学优化过程!必要准备准备(一):线性系统中的梯度下降的介绍首先,对于对称的正定系统有下面这个公式,A是对称正定的矩阵,u和x是N维向量。这个公式在理工科很常用。一般来讲,我们给出A和x,需要求u。求这个u给出两种方式。方法一:将方程改为求函数最小值上面的方程可以改为求,下面这个函数的最小值。使得函数f(u)最小的u就是上面方程的近似解。对求函数的最小值,我们有...
2022-03-21 16:20:35
744
原创 Why Do Attributes Propagate in Graph Convolutional Neural Networks?
这篇论文是收录在The Thirty-Fifth AAAI Conference on Artificial Intelligence (AAAI-21)上面关于图神经网络的一篇论文。
2022-03-20 11:37:46
1355
原创 图神经网络(9)- GNNs的理论理解
GNN如何很好的区分不同的图??常用GNN模型的表达能力(区分不同图的能力)怎么设计表达能力最强的GNN模型?
2022-03-13 20:26:14
2060
原创 基于空间的图卷积网络和基于谱的图卷积网络(spectral-based GCN and spatial-based GCN)
基于空间的图卷积网络和基于谱的图卷积网络(spectral-based GCN and spatial-based GCN)的介绍
2022-03-10 12:30:00
7997
原创 图神经网络(7)-续 GNN的具体实践(BN,dropout等)
目录实践中的GNN层GNN的过渡平滑问题(节点嵌入趋同)增强GNN的表达能力增加跳跃连接在实际应用中,也就是在编程的时候,基本就可以把GNN层看作是CNN层,可以往上面加上各种在深度学习中应用的模块。实践中的GNN层具体操作,参考深度学习中的内容。后面自己补一个,神经网络优化内容的总结。GNN的过渡平滑问题(节点嵌入趋同)在GNN中,如果大量GNN层堆叠,就很有可能出现over smoothing问题——通过图神经网络处理得到的各个节点embe
2022-03-08 12:34:32
1646
原创 图神经网络(6)-续 GNN与CNN,TRANSFORMER的关系
这篇文章是接上篇文章的,主要说明一下,GNN与其他网络模型的一下关系。图神经网络(GNN)与卷积神经网络(CNN)的联系卷积神经网络的卷积操作也可以看作图神经网络的信息传递和聚集过程。CNN的卷积核(也就是下面公式中的Wl)就对应着GNN中的信息传递处理操作。对于聚集操作,CNN中可以看作是采取的求和(GNN采取的是求和取平均)。对图片中的一个像素点而言,它的邻居节点就是周围的八个像素节点。可以看到,GNN与CNN的公式可以化成同一种模式。区别就是,卷积神经网络中,像素点的邻居是固定的(..
2022-03-05 11:24:52
2729
1
原创 图神经网络(1) introduction
这是CS224W: machine learing with graph的笔记。看了一半课程发现,之前的东西都忘光了,所以决定自己做笔记。第一部分,关于图的一些介绍为什么要用图呢??图是一种描述和分析物体之间联系(相互关系)的通用语言。我为什么对图神经网络感兴趣呢?主要是,神经网络譬如CNN,它的结构就是一个图,那么通过对神经网络的计算图应用图神经网络会不会是实现通用人工智能的一种途径??群体智能貌似也跟图表示学习关系密切,有时间了解一下。图的结构和图片和语音之类的数据结
2022-03-03 19:30:20
576
原创 使用DQN解决cartpole问题(深度强化学习入门)
使用DQN解决cartpole问题(深度强化学习入门)# -*- coding: utf-8 -*-"""Created on Mon Nov 22 11:16:50 2021@author: wss"""import numpy as npimport torchimport torch.nn as nnimport torch.nn.functional as F # 调用relu啥的import collectionsimport randomimport torch.opt
2021-11-23 16:53:57
1763
2
转载 2021-06-05
红色石头的个人网站:redstonewill.com 从去年8月份开始,AI界大IP吴恩达在coursera上开设了由5们课组成的深度学习专项课程,掀起了一股人工智能深度学习热潮。这里附上deeplearning.ai的官网: deeplearning.ai 关于...
2021-06-05 16:56:16
62
转载 2021-06-05
在参考“如何快速转载优快云中的博客”后,由于自己不懂html以及markdown相关知识,所以花了一些时间来弄明白怎么转载博客,以下为转载优快云博客步骤和一些知识小笔记。 参考博客原址:http://blog.youkuaiyun.com/bolu1234/article/d...
2021-06-05 16:54:28
50
原创 2020-08-08
后序非递归算法参照严蔚敏,吴伟明的数据结构的写法Status PostOrderTraverse(BiTree T, Status(*Visit)(TElemType e)){Initstack(s); p=t; BiTree pre=null; int flag=0;while(p||!stackEmpty(s)){if(p){push(s,p); p=p->lchild; flag= 0;}else{ if(flag==0&&Ge...
2020-08-08 16:22:57
112
原创 FileInputStream及InputStream read方法的阻塞问题
刚刚看关于文件上传的课程,记录自己对于read方法阻塞的理解。如有问题,希望大家指正。read方法调用后,会阻塞(程序暂停在read方法使用处)。阻塞后,read方法有多种情况会解除阻塞: 1.检测到有输入数据可用。 一般在使用中OutputStream.write(),InputStream.read()一一对应, 不会出现阻塞 2.接收到结束标记 调用socket...
2020-02-22 14:15:39
4968
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人