【斯坦福CS224W图机器学习】06 节点嵌入Node Embedding

最新推荐文章于 2025-03-12 21:13:03 发布
原创 最新推荐文章于 2025-03-12 21:13:03 发布 · 1.3k 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #图嵌入

本文介绍了节点嵌入(NodeEmbedding)在图表示学习中的应用，旨在通过学习低维向量表示来捕捉网络结构的相似性。节点嵌入的目标是使嵌入空间中的相似性反映原始图中的节点关系。通过浅层编码如简单的嵌入查找，可以将节点映射到嵌入空间，并用解码器优化嵌入以最大化节点对之间的相似性。这种方法无须手工特征工程，适用于多种下游任务。

节点嵌入Node Embedding

文章目录

概述

回顾传统的图机器学习方法：给定一个输入图，提取节点、链接和图级特征，学习一个模型(SVM、神经网络等。)将特征映射到标签。

在这里插入图片描述

传统的图机器学习任务中，我们将大量时间花费在特征工程上，即手工设计节点（边、图）级别的特征。

那么我们可以摆脱手工设计特征的束缚吗？答案或许是：图表示学习

图表示学习 Graph Representation Learning

图形表示学习减轻了每次进行特征工程的需要。

在这里插入图片描述

目标：高效的独立于任务的图形机器学习特征学习！

在这里插入图片描述

为什么要做嵌入Embedding？

任务：将节点映射到嵌入空间。

  • 节点之间嵌入的相似性表明它们在网络中的相似性。例如：两个节点彼此靠近(由一条边连接)
  • 编码网络信息
  • 可能用于许多下游预测

在这里插入图片描述

节点嵌入的例子–扎卡里空手道俱乐部网络节点的2D嵌入:

在这里插入图片描述

节点嵌入Node Embedding

Setup

我们假设我们有一个图 G G G

  • V V V是顶点集
  • A A A是邻接矩阵（假设是二进制的）
  • 为简单起见:不使用节点特征或额外信息

在这里插入图片描述

最低0.47元/天 解锁文章
网络表示初学习--节点嵌入 node embedding
qq_35780315的博客
06-03 4635
Node Embedding四步骤 根据在原空间中想求的相似关系，定义相似函数，但是有一个问题，如果我们已经知道在原空间中的相似关系，为什么还要映射到欧氏空间中？ 答：为了更适应深度学习等的处理方法，且原数据多为结构化数据，且维数过多。 相似函数是最重要的！一般根据任务来选择设计。 编码方式有两种：浅层（node2vec,DeepWalk,LINE…其实就是一个查询表，无法得到全局最优的结果）和深层。 浅层嵌入方式（node2vec,DeepWalk,LINE,struc2vec)的区别是原始网络的相似
【斯坦福CS224W图机器学习】 07 节点嵌入的随机游走Ranndom Walk方法
如是我闻__一时__的博客
07-18 1332
07 节点嵌入的随机游走Ranndom Walk方法 文章目录07 节点嵌入的随机游走Ranndom Walk方法注意NotationRandom Walk随机游走Random-Walk EmbeddingUnsupervised Feature Learning -- 无监督特征学习Feature Learning as Optimization -- 优化问题Random Walk Optimization负采样Negative Sampling随机梯度下降Stochastic Gradient De
图节点嵌入概述（Node Embeddings）
08-23
这部分是关于学习节点嵌入的方法。这些方法的目标是将节点编码为低维向量，这些低维向量总结了它们的图位置和它们的局部图邻域的结构。
节点嵌入学习算法
04-18
传统社交网络多采用图建模或邻接矩阵表达，导致其计算复杂度较 高，且很难处理上亿节点的大规模社交网络。本项目旨在研究构建大规 模社交网络的节点嵌入学习算法，从而缓解大规模社交网络带来的维度 灾难问题，并拓展到社区发现、社区推荐、节点分类以及链接预测等诸 多应用上。有效识别微博中多个社区在社会网络分析中是一个很有意义的问题。然而已有的微博社区发现算法大多是基于用户的链接关系或是基于内容关系的，无法合理地发现微博中的多个社区；少数结合微博用户的链接和内容关系的微博社区发现算法采用的是多次聚类，导致社区发现的效率较低。
CS224W摘要03.Node Embedding
老毛的博客
09-12 579
文章目录Encoder 和Decoder框架Encoder小例子Note随机游走notation特点算法描述负采样优化SGD小结Node2Vec小结Embedding entire graphs新法 Learn Walk Embedding CS224W: Machine Learning with Graphs 公式输入请参考：在线Latex公式 上一节讲的是传统的图机器学习如何进行特征工程的（node-level, edge-level, graph-level features） 而这节课的目标是自动
图机器学习-节点嵌入(Node Embedding)
小吴同学的小屋
01-25 2857
我们首先需要设计一个encoder对节点进行编码。既然要比较相似度那么我就需要定义节点的相似度。同时我们还需要定义一个decoder，它是一个从embedding space到相似度得分的映射。最后我们需要优化encoder的参数，使得nodes在embedding space的相似度和在原始图中的相似度尽量相近。
【斯坦福CS224W图机器学习】08 图嵌入
如是我闻__一时__的博客
07-19 727
08 图嵌入 文章目录08 图嵌入图嵌入-方法1-方法2-方法3 **Anonymous Walks Embedding**使用Anonymous Walks 嵌入图形New Idea： Learn Walk EmbeddingsLearn Walk Embeddings总结节点嵌入的应用 图嵌入 目标：想要嵌入一个子图或整个图，图形嵌入：ZGZ_GZG​ 任务： 分类有毒分子和无毒分子， 识别异常图等 -方法1 简单的想法1： 在（子）图上运行标准的图形嵌入技术，然后只计算（子）图中的节点嵌入的总和（或
斯坦福CS224W课程作业解决方案代码集
斯坦福大学的CS224W课程是计算机科学领域中极具影响力的高级课程之一，全称为“Machine Learning with Graphs”（图上的机器学习），该课程系统性地讲解了图结构数据在现代机器学习和数据挖掘中的应用。从标题...
【从零开始】CS224W-图机器学习-2021冬季学习笔记3.1：Node Embeddings
leisongyuan的博客
08-13 508
本文主要介绍了图表示学习和节点嵌入，并具体介绍了基于随机游走的节点嵌入方法
第三章、节点嵌入 Node Embedding
weixin_38616616的博客
09-15 1万+
图表示学习（Graph Representation Learning） 图表示学习减轻了每次进行特征工程的需要。传统机器学习对于输入的图信号会进行一系列的特征提取工作，如第二章所示。而图表示学习则是淡化了特征提取工作。 图表示学习的目标：对图机器学习希望得到一个高效，且任务独立的特征学习方法。 Embedding 作用：将节点映射到一个embedding空间中。 下面是embedding的性质和作用： 网络中相似的节点，在Embedding空间中也...
embedding-learning:嵌入学习演示
05-08
嵌入学习 这是Dai Ben，沉晓彤和王俊辉在TensorFlow（tensorflow_demo.py）和Keras（keras_demo.py）中实现论文的工具的演示。 @article{dai2020embedding, title={Embedding learning}, author={Dai, Ben and Shen, Xiaotong and Wang, Junhui}, journal={Journal of the American Statistical Association}, number={just-accepted}, pages={1--36}, year={2020}, publisher={Taylor \& Francis} } ./supplementary文件夹中包含用于重现论文数值实验的代码。 该项目由创建。
CS224W-03：节点嵌入
泊柴的博客
05-27 1641
CS224W-03：节点嵌入 节点嵌入（Node embedding）的目的是为了将图中每一个节点映射到一个低维的向量表示，在嵌入空间最好能够满足下面的性质： 如果两个节点在图中具有很高的相似性，那么二则的嵌入也应该具有相应的相似性 嵌入应该能够提取图的信息 嵌入向量可以用于下游学习和预测任务 本节内容包括： 提取器和重构器框架 (Encoder-decoder framework) 提取器：浅层次的嵌入查找表 重构器：基于嵌入向量预测节点相似性 节点相似性的度量方法：无偏和有偏的随机游走 (D
【斯坦福大学公开课CS224W——图机器学习】三、节点和图嵌入
NZR的blog
09-11 1511
【斯坦福大学公开课CS224W——图机器学习】三、节点和图嵌入
如何理解embedding（嵌入），Node Embedding（节点嵌入）
最新发布
Never Give Up
03-12 1233
那么这种高维信息现在我们想将它用一个向量表示，（用向量表示只是个例子），向量是一维的，那么从高维的图结构变成一维的向量，这种过程我觉得就是所谓的“嵌入”，你可以想象把一个立方体压平成一个薄片，对应高维度图结构信息压成一维度向量。当embedding作为名词时，他的意思类似于feature(特征)，指的是节点或者边的一些具体的信息，往往用tensor或者vector存储，这种训练后得到的embedding可以用于神经网络的预测、分类等应用了；：原始的图结构（点+边）不能直接输入机器学习模型，
3 学习社区嵌入的社区检测与图节点嵌入(2017)
qq_41106162的博客
05-04 2118
参考论文Learning Community Embedding with Community Detection and Node Embedding on Graphs 以前的研究都是针对节点嵌入，在这篇文章中引入社区嵌入。一方面，节点嵌入可以帮助改进社区检测，从而输出良好的社区以适应更好的社区嵌入，另一方面，社区嵌入可以通过引入a community-aware high-order...
图机器学习——2.2 节点嵌入：基于矩阵分解 及 节点嵌入的局限性
Kanny
11-22 3569
1. 节点嵌入——基于矩阵分解的方法 我们得到的所有节点嵌入全部排列到一起，就构成了我们的嵌入矩阵Z\mathbf{Z}Z： 每一列zi\mathbf{z_i}zi​代表一个节点的嵌入，其为列向量。当vvv与uuu为邻居节点时，我们优化目标是最大化zvTzu\mathbf{z}_{v}^{\mathrm{T}} \mathbf{z}_{u}zvT​zu​（也就是使余弦相似度尽可能大）。由于我们已经对嵌入进行归一化，因此zvTzu\mathbf{z}_{v}^{\mathrm{T}} \mathbf{z}_
Content to Node: Self-Translation Network Embedding 论文阅读
miumiushu的博客
08-18 307
Content to Node: Self-Translation Network Embedding摘要简介本文贡献实验过程及结果导出与导入导出导入 paper code 这篇文章发表于2018年的kdd上。 摘要 这篇文章主要涉及到网络嵌入（Network Embedding,NE）的问题，目的是学习网络中节点的低维表示。现有的NE方法面对现实应用中的复杂网络时仍然很难提取其特征。首先，对于以前的网络嵌入方法，主要倾向于将每个节点的内容和结构分开嵌入，但进行简单的组合效果并不理想。其次，现有的NE方法通
图节点嵌入：编码器-解码器（cs224w笔记-lecture3.1）
spatial_coder的博客
09-12 1431
文章目录图表示学习（graph representation learning）节点嵌入（embedding nodes）节点嵌入步骤节点相似度 节点嵌入是一种无监督或自监督的学习方式，且嵌入具有任务独立的特点，即不针对特定任务，而是可以用于任何任务。 图表示学习（graph representation learning） 图表示学习的意义在于消除每次需要手工特征工程的繁琐,为在图上进行机器学习生成有效的、任务独立(task independent)的特征表示,用于节点分类、链接预测、图分类、异常节点检测
Network Representation 网络节点嵌入
热门推荐
我和我追逐的梦~~~
08-10 1万+
Network Representation 最近看了几篇网络节点embedding的论文，思想很新颖，很有趣，这里分享给大家。 Network Representation可以翻译为网络(节点)表征、网络(节点)向量、网络(节点)嵌入等… Aim to learn distributed vector representation for each vertex in a network.
探索图形化机器学习：斯坦福CS224W课程材料解析
资源摘要信息:"斯坦福CS224W机器学习图课程材料" 斯坦福大学的CS224W课程是计算机科学领域中一门专注于图结构数据的机器学习课程。该课程材料提供了系统性地学习和应用图神经网络（GNNs）及其相关技术的平台。图...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值