李沐详解图神经网络（GNN/GCN）

于 2025-02-20 19:25:40 发布
阅读量322 收藏 3
点赞数 3
文章标签： 神经网络 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sylviiiiiia/article/details/145760938
版权

图

在这里插入图片描述
顶点可以用向量来表示，边也是，全局信息也是
把image表示成graph
在这里插入图片描述
把text表示成graph
在这里插入图片描述
一个词和下一个词之间有一条边
分子图
在这里插入图片描述
社交网络
在这里插入图片描述
空手道俱乐部
在这里插入图片描述
引用图（有向）

在这里插入图片描述

三大类问题

1.图层面的任务 识别环，对图进行分类
2.顶点层面的任务 社区检测
3.边层面的任务

神经网络遇到的挑战
1.怎样表示图，顶点/边/全局/连接性，最后一个如何表示？邻接矩阵？非常稀疏，非常大，低效，在gpu上用很难。排序不能影响。
在这里插入图片描述
使用邻接表，与顺序无关

GNN

GNN是一个对图上所有属性的优化变换，可以保存对称的信息。
使用信息传递的框架。进入是图，输出是图。会对向量变换，但不会改变连接性。
对于顶点/边/全局，分别构造MLP多层感知机，输入和输出大小一样
在这里插入图片描述
全连接层
在这里插入图片描述
如果想对顶点预测，但没有向量，使用pooling
把和它邻接的以及全局向量拿出，表示这个向量在这里插入图片描述
在这里插入图片描述

sylviiiiiia
关注
图神经网络学习笔记 | 基础知识与 GNN 介绍 直观透彻理解
叶庭云 成为自己的光
08-17 1351
图神经网络学习笔记 | 基础知识与 GNN 介绍 直观透彻理解
如何读论文（李沐）
竦貊的博客
06-01 2438
看题目， 摘要，直接看结论 要知道文章，大概讲什么，，方法怎么样决定要不要继续读可以从头到尾读， 作者提出的方法，和别人的方法差别有多大，，流程图，，x轴，y轴读它引用的文献知道每一句话在干什么，，，重复，实现这一片文章，脑补文章 我会怎么办？能不能走下去？..............................
新手怎么入门深度学习和图卷积（保姆级）
weixin_43249462的博客
09-01 280
不用很厉害的写代码水平，只要能看懂代码就可以，import、class、def这些怎么用，剩下的知识在后面步骤可以边学边查，这样是最高效的。
跟李沐学AI：A Gentle Introduction to Graph Neural Networks（图神经网络GNN）
weixin_43589205的博客
07-05 1223
跟李沐学AI：零基础多图详解图神经网络（GNN/GCN）【论文精读】
图卷积的一些迷思（GCN）
存放地
12-02 358
用他连着的边和全局向量（整个图的平均）求得。是用该节点和与它相连的节点一起f。但是在聚合体现图结构的时候。如果有一个节点缺失值。
【深度学习4】GNN图神经网络介绍（李沐）
MaoZhihang的博客
09-18 1140
基础介绍
零基础多图详解图神经网络（GNN/GCN）【李沐论文精读】
m0_51448653的博客
10-07 1180
图神经网络在应用上还只是起步阶段，应用领域有药物发现、物理模拟、虚假新闻检测、车流量预测、推荐系统等。这篇文章是探索和解释现代图神经网络，第一部分是什么样的数据能表示成一张图，第二部分是图和别的数据有什么不同，第三部分是构建GNN的模块，第四部分是搭建一个GNN的playground图是一个序列。图越深，上层的节点链接的下次节点越多把节点信息、边信息和全局信息做embedding，通俗地说就是把这些信息存储为向量的形式。所以图神经的核心就是，怎么样把我们想要的信息表示成向量，以及向量是否能通过数据学习到。
李沐论文讲解笔记 之 GNN
weixin_44733311的博客
11-30 626
李沐论文讲解的自己做的笔记
【李沐精读GNN论文总结】A Gentle Introduction to Graph Neural Networks
李子逸恒的博客
08-18 615
沐神讲解零基础多图详解图神经网络
李沐《动手学深度学习》卷积神经网络 经典网络模型
weixin_47748259的博客
01-27 2828
DenseBlock中的非线性组合函数采用的是BN+ReLU+3x3Conv的结构。
GIKT:A Graph-based Interaction Model for Knowledge Tracing
m0_45275062的博客
03-08 2243
论文地址：[2009.05991] GIKT: A Graph-based Interaction Model for Knowledge Tracing (arxiv.org) 代码地址： ApexEDM/GIKT: GIKT: A Graph-based Interaction Model for Knowledge Tracing (github.com) 个人理解：本篇文章使用图神经网络继续知识追踪，简单来说，就是借由图来得到更加合适的exercise和concept嵌入向量，然后送入后...
跟李沐老师动手学习AI学习笔记：第三章——线性神经网络
AndrewPerfect的博客
05-16 590
已学习两章pytorch，对于其中的很多函数使用起来仍然有些不了解，尤其是pytorch语法，以及jupyter文件的认识仍不足，需要进一步回顾也好，学习新内容也好，去熟悉pytorch代码编写的特点，会用，更会灵活使用，要多思考。既没有那么难，因为目前遇到的问题都可求得解决方法，但是，也没有那么简单，需要自己静下心，好好捋一捋所学到的、学了忘记的知识。更重要还是提高效率，保持好心态，相信一定可以学有所思，思有所获！
李沐《动手学深度学习》卷积神经网络
BanLisen的博客
06-24 464
​这篇文章是我在学习李沐《动手学深度学习》pytorch版“卷积神经网络”的笔记。该部分包含我在卷积神经网络课程学习中部分神经网络的代码实现。
【动手学深度学习】李沐——循环神经网络
FavoriteStar的博客
11-04 1971
关于李沐老师的【动手学深度学习】课程其中的循环神经网络章节的学习记录，包括完整代码的解释及个人见解。
李沐-16 PyTorch 神经网络基础【动手学深度学习v2】
小菜的博客
04-16 1282
它的任何子类都必须定义一个将其输入转换为输出的前向传播函数， 并且必须存储任何必需的参数。在定义我们自己的块时，由于框架的自动微分提供了一些后端实现，我们只需要考虑前向传播函数和必需的参数即可。使用块进行抽象的一个好处是可以将一些块组合成更大的组件， 这一过程通常是递归的，如图所示。通过定义代码来按需生成任意复杂度的块， 我们可以通过简洁的代码实现复杂的神经网络。在下面的代码片段中，我们从零开始编写一个块。这个前向传播函数非常简单： 它将列表中的每个块连接在一起，将每个块的输出作为下一个块的输入。
李沐机器学习系列2--- mlp
weixin_43485943的博客
01-03 1296
LP中有一个很强的假设，输入和输出是线性关系，这一般是不符合事实的。通过几何的方式去对信息进行理解和压缩是比较高效的，MLP可以表示成下面的形式。
李沐_动手学深度学习第5章卷积神经网络_笔记
qq_48278620的博客
10-20 2163
李沐_动手学深度学习第5章卷积神经网络_笔记
李沐动手学深度学习V2-RNN循环神经网络从零实现
flyingluohaipeng的博客
06-24 3403
根据上篇博客介绍李沐动手学深度学习V2-RNN循环神经网络原理， 来从头开始基于循环神经网络实现字符级语言模型，模型将在H.G.Wells的时光机器数据集上训练，首先读取数据集。 2. 独热编码(one-hot encoding) 在train_iter中，每个词元都表示为一个数字索引， 将这些索引直接输入神经网络可能会使学习变得困难，我们通常将每个词元表示为更具表现力的特征向量，最简单的表示称为独热编码（one-hot encoding）。 简言之，将每个索引映射为相互不同的单位向量： 假设词表中不同词元
李沐经典卷积神经网络LNET
最新发布
03-10
### 李沐讲解下的LeNet卷积神经网络 #### LeNet架构概述 LeNet作为早期的卷积神经网络之一，在手写字符识别方面取得了显著成果。该模型由多个层次构成，包括两组交替出现的卷积层和下采样层（即最大池化），随后接两个全连接层[^1]。 #### 架构特点 - **输入层**：接受固定大小的灰度图像。 - **卷积层**：通过应用不同数量的小型滤波器来提取局部特征；这些滤波器会在整个图像上滑动以捕捉空间上的模式。 - **激活函数**：通常采用Sigmoid或者ReLU等非线性变换，使网络能够处理更复杂的映射关系。 - **子采样/池化操作**：减少数据维度的同时保留重要信息，有助于提高计算效率并防止过拟合。 ```python import torch.nn as nn class LeNet(nn.Module): def __init__(self, num_classes=10): super(LeNet, self).__init__() # 定义卷积层 self.conv_layers = nn.Sequential( nn.Conv2d(in_channels=1, out_channels=6, kernel_size=5), nn.ReLU(), nn.MaxPool2d(kernel_size=2), nn.Conv2d(in_channels=6, out_channels=16, kernel_size=5), nn.ReLU(), nn.MaxPool2d(kernel_size=2) ) # 定义全连接层 self.fc_layers = nn.Sequential( nn.Linear(16 * 4 * 4, 120), nn.ReLU(), nn.Linear(120, 84), nn.ReLU(), nn.Linear(84, num_classes) ) def forward(self, x): conv_out = self.conv_layers(x).view(-1, 16*4*4) fc_out = self.fc_layers(conv_out) return fc_out ``` #### 关键改进点 相比于传统的多层感知机，LeNet引入了共享权重机制以及稀疏交互特性，这不仅降低了参数量还增强了泛化能力[^3]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值