深度学习基础----GAE和VGAE

最新推荐文章于 2025-04-07 17:03:19 发布
最新推荐文章于 2025-04-07 17:03:19 发布
阅读量2k 收藏 6
点赞数 1
分类专栏： Pytorch 深度学习基础 文章标签： 深度学习 pytorch 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weiwei935707936/article/details/126454430
版权

就看这一个就行了：Pytorch Geometric Tutorial

 

配合PyG的文档食用：torch_geometric.nn — pytorch_geometric documentation

只有一个地方不理解，那个KL的实现如何理解，和我在别的地方看到的不一样：

按我自己的理解就是：

GAE其实就是GCN之后把得到的embedding经过内积(decoder)后送入交叉熵损失函数。

VGAE会经过两个GCN，一个输出均值，一个输出标准差（得为正值就是使用log的原因）。一个采样的标准正态分布会和标准差运算。  而最终的损失函数就是原本GAE的损失函数加上KL散度。（然后，我不太懂的地方就是PyG里KL的实现，见上）

开始入坑深度学习（DeepLearning）
网易搬砖头
09-14 1816
       现在游戏越来越难做，国家广电总局审核越来越变态，国家各种打压游戏，游戏产业也成为教育失败的背锅侠，所以本人现在开始做深度学习方向。     深度学习研究的热潮持续高涨，各种开源深度学习框架也层出不穷，其中包括TensorFlow、Caffe、Keras、CNTK、Torch7、MXNet、Leaf、Theano、DeepLearning4、Lasagne、Neon，等等。然而Ten...
图神经网络实战（14）——基于节点嵌入预测链接
盼小辉丶的博客
06-17 4265
链接预测可以帮助我们发现隐藏的关联规律，从而为网络分析、推荐系统等问题提供有效的解决方案。在本节中，介绍了如何使用图神经网络 (Graph Neural Networks, GNN) 实现链接预测，学习了基于节点嵌入的链接预测技术，包括图自编码器 (Graph Autoencoder, GAE) 和变分图自编码器 (Variational Graph Autoencoder, VGAE)，并使用边级随机分割和负采样在 Cora 数据集上实现了 VGAE 模型。
图自编码器（GAE）与变分图自编码器（VGAE）
热门推荐
小鱼的小窝
10-10 1万+
在学习图自编码器之前先了解一下自编码器与变分自编码器。
简单理解Autoencoder(AE)、Variational AutoEncoder(VAE)、Graph Autoencoder(GAE)和VGAE
weixin_43788535的博客
04-11 3641
首先是自动编码器和图自动编码器。自动编码器的主要作用是学习一个东西的主要特征，从高维编码到低维，再从低维解码到高维。衡量编码和解码的好坏就是重构损失，也就是看原始向量和重构向量像不像，一般用交叉熵或者均方误差来衡量损失。而图自动编码器主要是用来学习图的主要特征，更具体来讲是学习每个节点的主要特征。在编码阶段，AE是用全连接层或者卷积层，GAE一般使用的是GCN进行编码，输入是邻接矩阵和节点的特征矩阵，当然特征矩阵也可以没有。在解码阶段有些不同，AE使用的是一个隐层，但是GAE直接用Z*Z的转置来还原图的邻.
广义优势估计(GAE)：端策略优化PPO中偏差与方差平衡的关键技术
最新发布
数据派THU
04-07 52
GAE通过对各种不同步长优势估计的加权组合，实现了在t时刻的优势估计是状态或状态-动作价值的n步估计的衰减加权和。这一特性使TD-λ成为价值函数估计的有效工具，但在策略梯度方法中，我们需要自定义损失函数(如PPO中使用的损失函数)，并且优化目标是策略而非价值函数。GAE的创新之处在于找到了将这一思想应用于策略梯度方法的有效途径。GAE的理论基础建立在资格迹(eligibility traces)和时序差分λ(TD-λ)之上，为深入理解GAE的核心价值，我们需要先分析其解决的根本问题。强化学习中的核心问题。
深度强化学习（DRL）算法 2 —— PPO 之 GAE 篇
以后要认真写文章
02-17 5418
到这里，PPO 算法相关的细节就讲完了，但是 PPO 的代码实现上还有许多细节，可以参考cleanrl是目前我看过的可读性最好的 ppo 代码实现，对具体实现感兴趣的可以看下这个 repo。接下来的文章会介绍 DRL 其他的常用算法，如 DDPG、SAC 等。
VGAE（自编码器）
zz1049694353的博客
07-21 2830
1.GAE(图自编码器) 其中，graph由A、X两个矩阵代表图信息，最重要的GCN公式可解释为： Z为中间编码器生成的隐层即最终生产的embedding。其中GCN具体实现为如下的两层的GCN： 其中，为图邻接矩阵A的拉普拉斯矩阵。表现了图中信息扩散的趋势方向。即把自己邻居的信息累计起来也加入为自己的特征的一部分。两层的GCN即获取二阶邻居。 2.变分图自编码器（VGAE） 在GAE的基础上，不再生成确定的Z，相反生成Z的分布（从一个（多维）高斯分布中采样得到）。 参考...
NeurIPS 2016 | VGAE：变分图自编码器
KI的博客
07-12 2750
NeurIPS 2016 | VGAE：变分图自编码器
gae_in_pytorch-master_GAE_
10-03
图形自动编码器（Graph Autoencoder, GAE）是一种应用于图数据的深度学习模型，它结合了自动编码器（Autoencoder）的思想与图神经网络（Graph Neural Network, GNN）的特性。GAE的目标是学习到图的低维表示，即节点...
GNN，GCN，图神经网络深度讲解100页ppt 包括基础的GNN和其多个变体
12-19
图神经网络（GNN）是一种针对非欧式空间数据的深度学习模型，它结合了深度学习和图计算的优势，以处理复杂的关系网络。GNN的出现源于传统卷积神经网络（CNN）在处理非结构化数据时的局限性。在CNN中，平移不变性是...
1-9+Recent+Progress+on+Graph+Contrastive+Learning.pdf
03-18
- 比较与传统方法，如GAE (Graph Autoencoder) 和 VGAE (Variational GAE)，对比学习方法通常在保持或提高性能的同时，提高了模型的稳定性和鲁棒性。 5. **结论与展望**： - 图对比学习的研究不断深入，为图数据...
Kipf图神经网络阅读笔记-1
kongfangyi的专栏
06-08 1173
引言         如果一篇论文你觉得有价值那就一定要把它读懂，读一遍不行就读两遍，读两遍不行就读十遍，直到读懂为止。当然，读大神的文章需要有点功底，如果确实读不懂，隔几天第一次，肯定每次读都会有新的认识。人生中没有任何一步路是白走的，也没有一滴汗是白流的。 ######1、对论文的理解     这篇论文是图神经网络大神kipf的博士毕业论文，这篇论文是由一系列已发表论文构成的，这些论文每一篇都是经典之作，都有划时代的意义，所以大神的脑袋真的是
vgae_pytorch-master_vgae_vgae_pytorch-master_
09-29
图形自动编码器的pytorch实现，参考论文vgae
GAE入门教程
12-08
pass之GAE入门教程， 学习GAE
Variational graph auto-encoders (VGAE)
连理o的博客
06-27 1695
图自编码器、变分图自编码器
【图神经网络】图变分自编码器VGAE
sxl的博客
10-26 401
[1]第三课.图变分自编码器&图对抗生成网络 [2]【GNN】VGAE：利用变分自编码器完成图重构 [3]【GNN五大类 VGAE】（变分图自编码器）：Variational Graph Auto-Encoders [4]图自编码器的起源和应用
深入理解变分图自编码器（VGAE）：原理、特点、作用及实现
qq_42754434的博客
07-09 3039
图神经网络（Graph Neural Networks, GNNs）在处理图结构数据方面展现出强大的能力。其中，变分图自编码器（Variational Graph Auto-Encoder, VGAE）是一种无监督学习模型，广泛用于图嵌入和图聚类任务。本文将深入探讨VGAE的原理、特点、作用及其具体实现。
【论文阅读】Variational Graph Auto-Encoders(VGAE) | day10、11
qq_41821608的博客
01-27 2449
Variational Graph Auto-Encoders 变分图自动编码器 - 2016-11-21 文章目录一、模型1.定义2.变分自编码器相关知识3.推断模型-编码器4.生成模型-解码器5.学习过程   变分图自编码器VGAE：使用变分自编码器VAE，针对图结构数据，构建无监督学习模型。利用潜在变量，学习无向图的可解释的潜在表示。   基于引文网络构造的无监督VGAE模型的潜在空间。灰色线条表示引用连接，彩色点表示不同类型的论文。 一、模型   该模型由一个卷积神经网络的编码器，和一个简单的内置
代码解读VGAE（Variational graph auto-encoders）
salaryhhhh的博客
02-20 2278
VGAE详细的代码解读
pyg
03-17
### PyG 的定义及其基本用法 #### 什么是 PyG？ PyTorch Geometric (简称 PyG) 是一种基于 PyTorch 构建的库，专门用于处理图结构化数据。它提供了多种工具来简化图神经网络（Graph Neural Networks, GNNs）的研究和开发过程[^1]。 #### 安装 PyG 为了安装 PyG，首先需要确认已正确安装对应的 PyTorch 版本。可以通过以下命令测试当前环境中的 PyTorch 是否正常运行： ```python import torch print(torch.__version__) ``` 根据打印的结果选择合适的 PyTorch 和 Python 配置组合。如果希望使用更稳定的配置，可以考虑降级到较低版本的 Python（例如 3.8），而不是最新的版本（如 3.12.4）。随后按照官方文档指导完成 PyG 的安装操作[^2]。 #### 使用 PyG 处理 Cora 数据集 通过 PyG 可以轻松加载常见的基准引文网络数据集，比如 Cora、Citeseer 或 Pubmed。这些数据集中包含了丰富的信息，具体如下所示： - **`edge_index`**: 表示图中所有的边连接关系，形状为 `[2, E]`，其中 `E=10556` 对应的是无向图经过预处理后的总边数。 - **`x`**: 节点特征矩阵，大小为 `[N, F]`，这里 N=2708 表明共有 2708 个节点；F=1433 则表示每个节点具有维度为 1433 的特征向量。 - **`y`**: 每个节点所属类别的标签数组，长度等于节点总数即 2708。 - **分割掩码 (`train_mask`, `val_mask`, `test_mask`)**: 这些布尔型张量分别指定了哪些节点属于训练集、验证集以及测试集的一部分[^3]。 下面是一个简单的代码片段展示如何利用 PyG 加载并初步探索 Cora 数据集的信息： ```python from torch_geometric.datasets import Planetoid dataset = Planetoid(root='/tmp/Cora', name='Cora') data = dataset[0] print(f'Number of nodes: {data.num_nodes}') print(f'Number of edges: {data.num_edges}') print(f'Node feature matrix shape: {data.x.shape}') print(f'Class labels distribution: {data.y.unique(return_counts=True)}') ``` #### 总结 综上所述，PyG 提供了一套完整的解决方案支持从基础的数据准备阶段直至模型构建与评估全流程自动化实现。借助该框架能够极大程度减少开发者手动编码的工作负担，并且让研究者更加专注于算法设计本身而非底层细节管理方面的问题。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值