同济子豪兄笔记-随机游走-图嵌入表示学习

原创 已于 2024-01-18 15:33:29 修改 · 606 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#笔记 #学习

于 2024-01-15 11:08:51 首次发布
本文介绍了图嵌入的基本框架，重点讨论了编码器和解码器的作用，以及如何通过随机游走定义节点相似度。浅编码器旨在优化Z矩阵，如DeeWalk和node2vec方法，强调了图机器学习与NLP之间的紧密联系。

图嵌入-基本框架

编码器-解码器

encoder 编码器

解码器

（这里用的是   两个向量做点乘）

节点相似度的定义可以自己定义：你可以说节点扮演的角色相似是相似，（巴拿马运河和十字路口都是交通要道）

如何定义节点相似度？

本章学习的随机游走：在图里面像醉汉一样随机游走，如果节点出现在同一个序列里，就定义为相似

目标：使得编码器能够将图中相似节点数量积大，不相似节点数量积小。

浅编码器-查表

深编码器-用深度学习的方法

浅编码器

目标：优化 Z 矩阵

直接优化 Z 矩阵

方法：DeeWalk,  node2vec

图机器学习和NLP很相近

这两个领域，无论哪一方出现新进展，都可以直接用到另一个领域。

机器学习笔记--DeepWalk和Node2Vec图嵌入代码实战一
太阳当空照，花儿对我笑，微风轻轻拂，心情无限好。
12-27 731
知识图谱专业老师：刘焕勇老师，也有公众号：老刘说NLP。
机器学习笔记--图嵌入表示学习
太阳当空照，花儿对我笑，微风轻轻拂，心情无限好。
12-28 1023
嵌入的思想是将一个研究对象映射到D维的向量中，类比一个2维向量表示平面中的一个点，3维向量表示3维空间中的一个点，D维向量表示的就是一个D维空间中的一个点。即，将我们的研究对象映射到了D维空间中的点，而且由于我们映射的时候采取的方式都是对研究对象中的节点做相似度度量，所以最终的D维向量就可以很好的反应出研究对象的特征、结构、语义等信息。所以虽然我们再做嵌入的时候并没有考虑下游任务是什么，但是我们通过合理的方式得到效果非常好的D维向量。
图嵌入表示学习—Node Embeddings随机游走
qq_44733706的博客
05-06 1405
图神经网络、随机游走、图嵌入
图机器学习——2.1 节点嵌入：基于随机游走
Kanny
11-22 4220
嵌入（embedding）方法是目前文本分析，知识图谱相关中非常常见的一种算法。其为表示学习的一类方法，可以自动地从数据中学习“有用”的特征，并可以直接用于后续的具体任务。后面学习的相关嵌入学习均为表示学习中的内容。 节点嵌入 关于图的一些信息如何能够转化为计算机可以识别的语言呢？通常的方法也是进行嵌入（embedding）。在此之前，我们已经学习了双曲嵌入： 双曲嵌入深度学习 双曲嵌入论文与代码实现——1. 数据集介绍 双曲嵌入论文与代码实现——2. 方法与代码 其将图结构嵌入到双曲空间中而后根据双曲
【论文逐句精读】DeepWalk，随机游走实现图向量嵌入，自然语言处理与图的首次融合
D_Ddd0701的博客
06-11 5253
这是一篇划时代的论文，标志着图机器学习向图深度学习的转变，主要贡献在于取代人工图特征标注，转化为无监督图嵌入向量描述。
图嵌入方法基础学习之随机游走
wwwkkkmm的博客
04-03 3880
图嵌入方法学习（二） 1. 什么是随机游走 随机游走（Random Walk，缩写为 RW），又称随机游动或随机漫步，是一种数学统计模型，它是一连串的轨迹所组成，其中每一次都是随机的。它能用来表示不规则的变动形式，如同一个人酒后乱步，所形成的随机过程记录。 因此，它是记录随机活动的基本统计模型。其概念接近于布朗运动，是布朗运动的理想数学状态。 2. 随机游走算法的操作步骤 2.1 全局最优化求解 全局最优化是一个非常复杂的问题，梯度下降法是一种求解局部极小值的方法，在求解精度不高的时候可以近似代替全局最小
干货！基于随机游走的图嵌入的更广阔图景
AITIME_HY的博客
12-07 1235
点击蓝字关注我们AI TIME欢迎每一位AI爱好者的加入！基于随机游走的图嵌入为许多与图相关的下游应用提供了解决方法。然而，有关图嵌入的海量文献使得比较现有方法及在它们的基础上创新变得愈发...
图机器学习及图神经网络学习笔记（三）——————基于CS224W课程及同济子豪兄
qq_46582366的博客
03-26 1219
GNN 的公式为：而CNN 的公式本来为, 我 们可以把它写 成.类比两个式子，再看如下两图我们可以把4*4的卷积看成一个图有9个节点。但是在CNN中，不同位置的邻域分别学习到不同的权重，但是在 GCN 中，卷积核权重由预定义。CNN 可以看作是一个特殊的 GNN, 具有固定的邻居大小和顺序：过滤器的大小是为 CNN 预先定义的。GNN 的优点是它对每个节点处理不同程度的任意图。CNN不是排列不变/等变的。切换像素的顺序会导致不同的输出。
图机器学习及图神经网络学习笔记（一）——————基于CS224W课程及同济子豪兄
qq_46582366的博客
03-26 894
传统的数据分析中，每一个数据样本都是彼此无关、彼此独立的，我们称之为独立同分布(i.i.d)。但图是描述关联数据（数据样本直接存在联系）的通用语言，现实生活中，图是无处不在的，比如疾病的变异路径、食物链、地铁站、社交网络、经济网络、神经元、医疗知识图谱、场景图、基因蛋白质的调控网络、分子、代码等都可以抽象为图。现代的深度学习网络主要用来解决表格、矩阵、序列等数据，但是没有专门用来解决关联数据的神经网络，并且训练神经网络是复杂的，主要表现如下：任意大小和复杂的拓扑结构（即，没有像网格那样的空间局部性）；
机器学习笔记--DeepWalk和Node2Vec图嵌入二
太阳当空照，花儿对我笑，微风轻轻拂，心情无限好。
12-28 872
知识图谱专业老师：刘焕勇老师，也有公众号：老刘说NLP。
基于随机游走的图嵌入之快速指南
imherer的博客
01-03 2321
1. 背景 1.1 何为图嵌 图嵌入是利用节点属性、节点间拓扑关系将复杂、高维图数据进行向量化的一项技术。 图数据结构突破传统数据库按记录组织数据的限制，具备更灵活的现实数据建模能力。如何将图数据结构中的信息进行合理表征，方便地应用于下游任务成为一个问题。 近年来随着NLP领域预训练词向量技术的流行，图嵌入，也就是图数据向量化也成为了一个越来越活跃的研究领域。 1.2 图数据向量化 ①...
同济子豪兄--随机游走的艺术-图嵌入表示学习【斯坦福CS224W图机器学习】
m0_51118873的博客
10-21 1293
意思是我们不关心下游任务是解决的节点的分类问题、连接预测问题、社群聚类问题还是整图的分类，这个向量是上游直接得到的我们不知道下游的任务是什么，只是先通过某种方式将节点变成的一个向量，至于你要用这个向量干嘛我们是不管心的。是机器学习中的一个重要概念，它指的是学习如何以一种能够揭示数据本质特征和结构的方式表示数据点的过程。V的平方的数量积还是很大的，下面做了一些优化，在分母中原来需要做所有节点的遍历，现在只做k个负样本，k个样本是从图中非均匀随机采样的k个样本，每个样本被找到的概率是不一样的。
随机游走的艺术-图嵌入表示学习
保持学习
04-16 277
随机游走的艺术-图嵌入表示学习
从Random Walk（随机游走）到Graph Embedding（DeepWalk，LINE，Node2vec，SDNE，Graph2vec，GraphGAN）
热门推荐
qq_44015059的博客
10-14 1万+
前言 本文转载自csdn博主上杉翔二系列博客并外加一些自己收集的资料，在这里仅作为自己学习之用。 原文链接：https://blog.youkuaiyun.com/qq_39388410/article/details/87904974 1. 随机游走 普通数据挖掘方法大多都是确定性模型，对于输入的输出往往没有随机性，而一些能给出概率的随机性模型似乎更加的适用，如蒙特卡洛模拟，即模拟输入一堆的随机数进行评估。 1.1 几何布朗运动(Brownian motion) 布朗运动是将看起来连成一片的液体，在高倍显微镜下看其实
【斯坦福CS224W图机器学习】 07 节点嵌入的随机游走Ranndom Walk方法
如是我闻__一时__的博客
07-18 1331
07 节点嵌入的随机游走Ranndom Walk方法 文章目录07 节点嵌入的随机游走Ranndom Walk方法注意NotationRandom Walk随机游走Random-Walk EmbeddingUnsupervised Feature Learning -- 无监督特征学习Feature Learning as Optimization -- 优化问题Random Walk Optimization负采样Negative Sampling随机梯度下降Stochastic Gradient De
graph embedding（图嵌入）
mengmeng6666的博客
10-21 4225
图embedding 文章目录图embedding一、pandas是什么？二、使用步骤1.引入库2.读入数据总结 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例可供参考 一、pandas是什么？ 示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。 二、使用步骤 1.引入库 代码如下（示例）： import
简单实践GraphEmbedding图嵌入的几种方法
素质云笔记
07-14 2410
参考： 详解Graph Embedding经典方法：算法原理、代码实现与应用样例 Graph Embedding 图表示学习的原理及应用 代码参考： https://github.com/shenweichen/GraphEmbedding 本篇简单测试一下该库 文章目录1 Graph Embedding 几种常见方法1.1 DeepWalk1.2 LINE1.3 nodo2vec1.4 SDNE1.5 Struc2Vec2 实验代码 1 Graph Embedding 几种常见方法 Mod
关于随机游走的一个小实验
梦否
11-17 1232
实验目的：阅读源码DeepWalk中的随机游走算法，然后单独抽离出来，做训练语料库，然后学习每个节点的向量表示，最后计算相似度，统计，并得出逻辑上的意见领袖节点（基于上面的那个相似观点来的）。 代码如下： import random as rand def getPath(start, nx_G, path_length, alpha): if start: path = [start] else: # Sampling is uniform w.r.t V
图嵌入(Graph Embedding)方法小结
外婆家的大灰狼
02-01 3753
Embedding 定义：Embedding在数学上是一个函数，即将一个空间的点映射到另一个空间，通常是从高维抽象空间映射到低维的具象空间。 意义：高维数据转换到低维有利于算法的处理，同时解决one-hot向量长度随样本变化而变化以及无法表示两个实体之间的相关性这一问题。 常用方法：word2vec，根据语料库中单词的共线关系求出每个单词的embedding。常用的word2vec模型有cbow...
同济子豪兄labelme
最新发布
01-10
### 同济子豪兄 Labelme 教程及相关资源 同济子豪兄在其分享的内容中提供了丰富的计算机视觉项目教程，其中包括如何使用 `labelme` 进行图像标注[^1]。`Labelme` 是一款基于 Python 的轻量级图形界面工具，用于创建矩形、多边形、线条等多种类型的标签文件。 #### 安装与配置 为了开始使用 `labelme` 工具，建议先安装该软件包。可以通过 pip 命令轻松完成安装： ```bash pip install labelme ``` 这使得用户能够在本地环境中快速搭建起适合个人需求的数据标注平台。 #### 使用指南 对于初学者来说，了解基本操作至关重要。通过阅读文档以及观看视频教程可以掌握以下技能： - 如何启动应用程序并加载图片； - 创建不同形状的标记对象（如矩形框、自由绘制曲线等）； - 导出 JSON 文件作为后续处理的基础格式； 这些知识点均可以在同济子豪兄提供的资料里找到详细的解释说明。 #### 实际案例分析 除了理论讲解外，还存在许多实际应用场景下的实例供学习者参考借鉴。比如，在目标检测任务中准备自定义数据集时，利用此工具可高效准确地标记大量样本，从而提高模型训练效果。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值