图嵌入表示学习—Node Embeddings随机游走

Random Walk Approaches for Node Embeddings

一、随机游走基本概念

想象一个醉汉在图中随机的行走，其中走过的节点路径就是一个随机游走序列。

随机行走可以采取不同的策略，如行走的方向、每次行走的长度等。

二、图机器学习与NLP的关系

从图与NLP的类比关系可以看出，图机器学习和NLP相似度很高，了解两者的类比关系可以加深对图机器学习的理解。

随机游走的根本目标是对图中的各个节点进行编码，将图中的各个节点编码成可供下游任务使用的向量，即编码器。因此，随机游走是一个无监督/自监督算法，没有使用任何标签。

三、概念定义（可以先看后面，用到时再看概念）

1. ${\mathbf{z}}_u$：期望获得的节点$u$的嵌入向量，是算法的目标

2. $P(v|{\mathbf{z}}_u)$：从$u$节点出发的随机游走序列经过$v$节点的概率。

   如果$u$节点和$v$节点出现在同一个随机游走序列，那么$P$值应该高；如果$u$节点和$v$节点没有出现在同一个随机游走序列，那么期望$P$应该低，这也是之后优化算法的根本思路。

3. $P(v|{\mathbf{z}}_u)$的计算：本文使用softmax计算$P$值，具体计算方法在“五、优化算法”中，这里只介绍两个非线性函数

   • softmax：将k维的向量的值通过softmax改为k维的概率值，其中：
     $$\sigma (z)[i]$$