CS224W 3.2 Random Walk Approaches for Node Embeddings

目录

Notation

Random-Walk Embeddings

 为什么Random Walks

Random Walk Optimization无监督feature learning

Random Walk Optimization

思路

Negative Sampling—降低计算复杂度

SGD

 Random Walks:Summary

 node2vec:Biased Walks

---

Notation

是要找到的节点u的嵌入。从节点u出发的random walks访问节点v的概率。

基于两个非线性函数生成所需概率：Softmax函数处理后，使大的对应的值更大，使K个概率和为1；Sigmoid函数，将值压缩到(0,1)。

random walk：给定一个图和一个起始节点，随机选择一个邻居节点，移动到邻居节点，随机选择这个邻居节点的 邻居节点(也可以移动到上一步经过的点)，移动到它，持续下去直到给定步长。以这种方式随机访问的节点序列——称为图上的random walk。

两个节点嵌入的内积约等于节点u和v在图上通过一个随机游走共现的概率。

Random-Walk Embeddings

 估计使用某种随机游走策略，从一个初始节点的random walk访问节点v的概率，优化嵌入。