- 博客(129)
- 收藏
- 关注
原创 图神经网络表示学习时间线
文章目录同质图:DeepWalk(KDD2014):只保留了二阶相似性。LINE(WWW2015):建模一阶和二阶相似性,但是分开训练,然后拼接。Node2vec(KDD2016):同时建模一阶和二阶相似性。Structural Deep Network Embedding(SDNE)(KDD2016):和Node2vec同时在KDD2016出现。同时建模一阶和二阶相似性,深度模型,对稀疏图也具有鲁棒性。GraphSAGE(NeurIPS2017):GCN在空域上的实现,使图的节点表示学习从
2020-12-16 17:46:26
617
原创 卷积
文章目录卷积的定义以下回答摘自知乎回答“如何通俗易懂地理解卷积”。卷积的定义连续形式的卷积:离散形式的卷积:它们都有一个共同的特征:直观上来看,函数g(n−τ)g(n-\tau)g(n−τ)的含义是将函数g(τ)g(\tau)g(τ)首先进行沿y轴翻转得到g(−τ)g(-\tau)g(−τ),然后向左平移n个单位得到g(n−τ)g(n-\tau)g(n−τ)。即先对g函数进行翻转,相当于在数轴上把g函数从右边褶到左边去,也就是卷积的“卷”的由来。然后再把g函数平移n个单位,在这
2020-11-22 18:45:32
735
2
原创 图神经网络——GraphSAGE
论文地址:http://papers.nips.cc/paper/6703-inductive-representation-learning-on-large-graphs.pdf发表会议:NeurIPS2017文章目录1. GraphSAGE和GCN2. GraphSAGE如何进行Inductive Learning1. GraphSAGE和GCNGCN和GraphSAGE几乎同时出现,GraphSAGE是GCN在空间域上的实现,似乎两者并没有太大区别。实际上,GraphSAGE解决了GC..
2020-11-02 15:47:44
2269
3
原创 [conda]anaconda操作
文章目录1. 虚拟环境2. 镜像1. 虚拟环境查看当前虚拟环境列表:conda env list更新conda:conda update conda更新包:conda update --all//更新所有已安装的包conda update 包名//更新指定包创建虚拟环境:conda create -n your_env_name python=X.X(2.7、3.6等)创建的虚拟环境文件可以在Anaconda安装目录envs文件下找到激活虚拟环境:conda activate yo
2020-10-18 17:01:19
141
1
原创 tensorboard
tensorboardtensorboard启动:cmd下切换到logdir所在目录。比如你的日志文件的路径为usr/logdir/event.out.tfevents......则cd到usr目录下即可。然后输入:tensorboard --logdir=logdir(输出文件的上层目录名)然后浏览器输入localhost:6006即可。注意:每次重新打开tensorboard会读取logname下的输出文件,然后将图像显示出来。...
2020-10-18 16:37:45
221
原创 linux非ROOT用户安装软件
非root用户没有权限,所以不能用apt-get命令一键安装,一般非root用户的安装流程为:wget命令下载软件源码,如:wget http://mama.indstate.edu/users/ice/tree/src/tree-1.7.0.tgz解压:tar -zxvf ~进入解压后的文件。找到makefile,用vim打开,修改里面的所有安装目录,将root目录改为当前用户的目录(因为默认是root用户地址,没有权限),这一步是非ROOT用户安装软件的关键。安装:make &&a
2020-10-18 14:15:34
5392
1
原创 图神经网络——node2vec
论文地址:https://arxiv.org/pdf/1607.00653.pdf发表会议:KDD2016文章目录1. 引言2. 采样算法2.1. 传统的采样算法2.2. Node2vec中的采样算法2.3. 使用基于random walk采样的好处(时间空间复杂度分析)3. node2vec算法流程1. 引言这篇论文可以说是对DeepWalk的扩展。按照LINE中的说法,DeepWalk只捕捉了节点间的二阶相似性,LINE同时捕捉节点间的一阶相似性和二阶相似性。而Node2Vec也是同时捕捉..
2020-10-04 18:26:43
2795
原创 图神经网络-LINE
论文地址:http://de.arxiv.org/pdf/1503.03578发表会议:WWW2015文章目录动机模型实验动机这篇论文的初衷是解决两个问题:大规模图节点的表示学习有向、有权图的节点表示学习这篇论文首先指出了DeepWalk的缺点:1. 无法建模有权重的图;2.只捕获了图中节点的二阶相似性(second-order proximity )定义1. 一阶相似性通俗来讲,一阶相似性刻画了图本身的结构,即节点-边-节点,它是能直接从图中观察到的图的基本结构,是图的局部..
2020-10-03 16:28:33
1390
原创 [node.js]入门
第一次接触node.js,感觉它的逻辑性还是比较强的,学起来也比较有意思。http协议;url:统一资源定位器,也就是网站地址,一个url应包含的几点要素,常用端口;对用户请求和服务器响应有了大体的了解,端口监听listen;学会了运用模块来使项目可读性更强;node.js提供了很多模块,用require()来获得并返回一个对象,可使用其中的函数方法等,同样自定义的模块同样用require(文件名)来获得,并用exports来导出函数;客户端请求的不同url需要不同的方法去处理
2020-09-30 17:03:58
132
原创 [node.js]异步处理
异步处理:为什么需要异步处理?当函数需要完成耗时的操作时(比如读取文件),需要等完成这个操作后才能往下进行,比如用户请求服务器,服务器读取文件时,就会造成 阻塞。所以需要异步处理函数。而对于像休眠这样不是异步处理的函数,就需要找到一个能代替休眠这个功能的异步处理函数。node.js的异步处理node.js支持异步处理,有特定的异步处理函数,当程序进行到这些函数时,因为耗费时间,node.js会先自动返回,接着处理下面的程序,而不管函数是否处理完,同时给函数一个回调函数参数,当函数处理完后将自动调用回
2020-09-30 17:01:35
356
原创 php基础知识
1。post和get都可传递表单上的内容给php处理,其中get还可以直接通过url传值(通常是在html界面链接处,如:〈a href="page.php?name=xiaoming">lianjie而在php处理时用$_GET['XIAOMING']来接收值。2。可以创建一个html头模版和尾模板,这样写html时直接用require(‘header.html’)来包含。就
2020-09-30 16:53:10
643
原创 php(文件和目录)
1.文件权限:读,写,执行;2.写入文件:先用fopen(filename,mode)打开(以什么方式打开,mode的方式)fopen会返回一个文件指针$fp。fwite($fp,data to be written);来写入文件;每次写完文件用fclose关闭;3.锁定文件:如果同一时刻有多个用户提交表单写入文件,那么就要用锁定文件,flock($fp,LOCK
2020-09-30 16:51:50
698
原创 二叉树链表实现的各种算法(递归)
/** 二叉树深度的递归算法 */ int depth(BTree root){int ldepth,rdepth;if(!root) return 0;else{ldepth = depth(root->lchild);rdepth = depth(root->rchild);return ldepth>rdepth?ldepth+1;rdepth+1;}}
2020-09-30 16:51:26
2235
原创 c/c++
c/c++#####头文件 stdio.h c语言的标准输入输出,常用 printf;scanf iostream c++语言的标准输入输出,重用 cin;cout algorithm c++的常用算法头文件,如 sort;qsort 数组处理memcpy 数组a复制k个元素到数组b: memcpy(b,a,sizeof(int)*k)
2020-09-30 16:49:00
267
原创 图神经网络-DeepWalk
这篇论文是基于embedding的同质图网络节点表示学习的开山之作。DeepWalk的目的是给定一个图,返回节点的embedding表示,节点的embedding表示嵌入了图的结构信息。图通常是很大的,直接对全图进行表示学习是不现实的。所以作者借鉴了random walk的思想。random walk是一种在图上进行随机游走的算法,即从一个节点走到它的任意邻居节点的概率是相同的。通过若干随机游走序列,就可以表示出整张图的结构信息。作者采用random walk的思想有两点原因:(1)random wa.
2020-09-30 00:40:53
1127
原创 零样本学习(zero-shot learning)——综述
-------本文内容来自对论文A Survey of Zero-Shot Learning: Settings, Methods, and Applications的理解和整理,这里省去了众多的数学符号,以比较通俗的语言对零样本学习做一个简单的入门介绍,用词上可能缺乏一定的严谨性。一些图和公式直接来自于论文,并且省略了论文中讲的比较细的东西,如果感兴趣建议还是去通读论文注:为了方便,文中“已...
2020-05-01 03:14:06
20718
2
原创 知识图谱(knowledge graph)——概述
知识图谱总结概念技术链概括通用知识图谱和垂直领域知识图谱国内外开放知识图谱技术链详解知识获取知识融合知识表示知识推理功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图...
2020-04-10 16:04:56
5549
原创 知识图谱(knowledge graph)——RDF(Resource Description Framework)
RDF的基本单元是三元组(triple)每个三元组是(主语 谓语 宾语) 这样的元组tuple。主谓宾的取值称为"资源"(Resource, 也就是RDF里的R)资源可以是一个网址(URI),一个字符串或数 字(严格来讲都是带类型的字符串,称为 literal),或者一个“空节点”(blank node)。有两种特殊类型的资源。rdfs:Class代表类。 rdf:Prope...
2020-04-10 16:04:06
5908
原创 [pip]pip操作
为什么需要 virtualenvwrapper为什么需要 virtualenvwrapper?而不是virtualenv?这要从 virtualenv 说起。virtualenv 的一个最大的缺点就是,每次开启虚拟环境之前要去虚拟环境所在目录下的 bin 目录下 source 一下 activate,这就需要我们记住每个虚拟环境所在的目录。一种可行的解决方案是,将所有的虚拟环境目录全都集中...
2019-09-03 17:01:52
1545
原创 tf.tensordot运算
函数原型:tf.tensordot(a, b, axes)tensordot函数的一个好处是:当a和b的维度不同时,函数也可以正常运行。举例:1.import tensorflow as tfa = tf.ones(shape=[2,3,3])b = tf.ones(shape=[3,2,6])c = tf.tensordot(a,b, axes=1)with tf.Session...
2019-08-09 01:05:09
20778
3
原创 实体关系抽取——ACE2005数据介绍
ACE2005数据介绍overallEnglish partrelationchinese partarabic partoverallACE2005数据集包括英语,阿拉伯语和中文三部分数据,可以用来做实体,关系,事件抽取等。English partEnglish部分包括了broadcast news(bn), broadcast conversations(bc), newswire(...
2019-08-07 22:29:37
4876
2
原创 实体关系抽取——CRF++
CRF++是CRF算法的一个实现。 它最重要的功能我认为是采用了特征模板。这样就可以自动生成一系列的特征函数,而不用我们自己生成特征函数,我们要做的就是寻找特征,比如词性等。特征模板 特征模板就是为了生成特征函数。在crf++中有unigram和bigram两种模板。首先看训练文件格式: 这里每一列是一个特征(比如这里第一列是句子本身的特征(一个个字),第二列是词性特征,第三列是o...
2019-07-10 23:48:39
14009
3
原创 远程访问Jupyter Notebook
参考链接:设置 jupyter notebook 可远程访问如果你的jupyter notebook是5.0以上,则直接执行jupyter notebook password,然后输入你的密码,系统会根据你的密码自动生成密文,并创建jupyter_notebook_config.json,并把生成的密文写入。接下来你要做的就是运行jupyter,然后打开本地浏览器,输入刚才的密码就可以了。另...
2019-04-25 11:51:42
971
原创 [论文解读]Genre Separation Network with Adversarial Training for Cross-genre Relation Extraction
本论文的主要任务是跨领域的关系抽取,具体来说,利用某个领域的数据训练好的关系抽取模型,很难去直接抽取另一个领域中的关系,比如我们拿某个领域训练好的模型,把另一个领域的数据直接输入整个模型,很难抽取出来正确的实体关系。这主要是因为源领域和目标领域特征表达的不同,在源领域的某个特征,在目标领域可能表达相反的意思。而为了在领域迁移时可以直接利用模型,而不用再训练一次,本论文提出了一种新的跨领域关系抽取模...
2019-03-07 22:31:57
762
原创 unpooling(上池化),unsampling(上采样),Deconvolution(反卷积)
unpooling如图所示,以maxpooling为例,上池化在池化过程中会记录最大值所在下标,然后利用特征图填充最大值所在下标,其他位置填0,特征图一般为maxpooling后得到的最大值矩阵。unsampling上采样并不像上池化那样记录最大值的下标,而是把所有位置都附为特征图中的值。反卷积反卷积其实是卷积的逆过程,即通过padding再进行一次卷积,已达到和源输入一样的大小,所以...
2019-03-07 22:14:56
2157
原创 tensorflow中的conv1d和conv2d
网上搜的一篇资料,还没看:tensorflow中一维卷积conv1d处理语言序列的一点记录tensorflow中的conv1d和conv2d的区别:conv1d是单通道的,conv2d是多通道,所以conv1d适合处理文本序列,conv2d适合处理图像。conv1dimport tensorflow as tfinput = tf.Variable(tf.random_normal([1...
2019-02-25 20:21:07
9458
4
原创 变分自编码器(Variational Auto-Encoder,VAE)
最近看论文看到变分自编码器,发现它也可以用于数据增强,就仔细了解了一下,把比较好的讲解资料和自己的想法整理一下,以备用。经典论文Auto-Encoding Variational Bayes(还没看,据说很经典)详细介绍Tutorial - What is a variational autoencoder?(从神经网络和图模型两个方面来讲解)变分自编码器(一):原来是这么一回事(写的...
2019-02-17 21:02:13
5022
原创 TextCNN
论文2014EMNLP:Convolutional Neural Networks for Sentence Classification。文章提出将卷积神经网络运用到文本分类任务,并且取得了目前最好的效果。模型网络结构如论文中所示:具体解释如下:CNN最先应用到图像领域,而在文本上,由于文本没有类似图像的通道(channel)一说,比如彩色图像通常未R,G,B三通道。文本中的c...
2019-02-16 13:59:29
789
原创 实体关系抽取——概况
实体和关系抽取目前应该大体分为两种方式:底层网络共享,上层网络输出分开(实体和关系),损失函数加起来。改变标签体系,从而让实体和关系一起输出,不用再分开输出。...
2019-01-22 22:18:05
1204
原创 capsule network
一篇通俗易懂的capsule network的讲解,直接搬运过来。CapsuleNet解读后面如果用到会添加自己的理解和想法。
2018-11-26 21:53:57
516
原创 [论文解读]Going out on a limb: Joint Extraction of Entity Mentions and Relations without...
Going out on a limb: Joint Extraction of Entity Mentions and Relations without Dependency Trees背景作者在2016年发表的论文:”Investigating LSTMs for Joint Extraction of Opinion Entities and Relations“联合抽取了opin...
2018-11-15 14:51:52
1948
9
原创 python3 urllib2 报错raise AttributeError, attr SyntaxError: invalid syntax
使用python3经常会出现关于urllib2的一些问题,urllib2是python2里面的,这里代码出错往往是因为引用了urllib2。解决办法,找到报错的文件,找到出错代码,比如我下面报错的信息:于是打开mldata.py找到12行try: # Python 2 from urllib2 import urlopen from urllib2 import HT...
2018-11-08 22:27:31
6626
2
原创 [论文解读]Investigating LSTMs for Joint Extraction of Opinion Entities and Relations
这篇论文是意见实体和关系联合抽取。作者称这是第一次尝试把深度网络用到意见实体和关系联合抽取上。以前利用crf等的传统联合抽取方法太依赖众多特征。opinion analysis所谓“意见分析(opinion analysis)","is to identify subjective expressions in text along with their associated sourc...
2018-09-28 11:03:50
912
原创 [论文解读]End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures
这篇论文应该算是实体和关系联合抽取的开山鼻祖。结构从上图可以看出,网络结构主要包含三部分:embedding layerembedding主要有4部分,word embedding,pos embedding,dependency embedding(依赖关系),label embedding(预测出的实体label)。sequence layersequence layer...
2018-09-27 14:53:57
1352
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人