论文学习笔记:DeepWalk

本文介绍了一种名为DeepWalk的无监督学习方法,该方法通过randomwalk抽取网络中节点的邻居序列,并利用Skip-Gram算法生成节点的低维向量表示。这些表示不仅能够反映节点间的社交相似性,还具有适应性和连续性的特点。文章还探讨了DeepWalk的并行实现及流式拓展。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


DeepWalk无监督学习网络中节点的潜在表示
输入:网络
输出:节点的低维向量表示
亮点:(1)random walk提取中心顶点的邻居序列,可并行(设置多个walkers)。(2)使用language model Skip-Gram算法

a是输入的Karate Graph, b是输出二维潜在向量表示,节点颜色代表聚类的簇,左右两种表达具有惊人的相似性,而且b中线性可分。
学习到的表示具有以下特点

  • 适应性
  • 社区意识,潜在特征向量之间的距离应该能够反应网络中社交成员之间的社交相似性。
  • 低维度
  • 连续

贡献:

  • DeepWalk学习当前结构规律
  • Micro F1算法评估
  • 阐述并行和流式拓展

传统关系分类方法,将问题作为无向马尔科夫网络的推断,使用迭代近似推理算法


random walk选择顶点 v i v_i vi的邻居顶点的集合

顶点度的分布服从幂率,顶点出现在random walk的频率也服从幂律分布。之所以要进行这样的比较是为了根据节点出现的频率创建节点的huffman树。
幂律分布

Screenshot from 2018-08-08 14:45:27.png-46.7kB

DeepWalk

Screenshot from 2018-08-08 19:09:46.png-120.3kB
输入:

输出:
image_1ckc821jr17sq1mi0sr8glq1rgp1s.png-72.2kB

并行

ASGD异步随机梯度下降
image_1ckck99gd18ulbni118ekqs7h335.png-33kB

算法变化

Streamimg
Non-random walks

调参

image_1ckckuhnbrl116hq11e8176cj3l3i.png-195kB

Code

DeepWark-Deep Learning for Graphs

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值