论文报告笔记（三） DEMO-Net:Degree-specific Graph Neural Networks for Node and Graph Classification

最新推荐文章于 2023-02-08 21:25:50 发布
原创 最新推荐文章于 2023-02-08 21:25:50 发布 · 1.7k 阅读 · 7 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#graph #图卷积 #数据挖掘 #图神经网络 #WLtest

这篇论文介绍了DEMO-Net，一种针对节点和图分类的度特定图神经网络框架。DEMO-Net通过度数特定的多任务图卷积和新的图级池化方案，解决了传统图神经网络在度信息处理和图级池化方面的不足。实验表明，DEMO-Net在节点和图分类任务中表现出有效性和高效性。

论文笔记（二） DEMO-Net:Degree-specific Graph Neural Networks for Node and Graph Classification

这篇论文不是cv相关，由于要做报告，顺便发篇博客吧

这是2019年8月份在KDD上的一篇关于图神经网络的文章，（找了半天连中文笔记都找不到，只好自己写一篇了）我也是第一次接触图神经网络，有错误请务必评论指正，不胜感激。

FCOs论文链接：https://arxiv.org/abs/1906.02319?context=cs
开源代码：https://github.com/jwu4sml/DEMO-Net
报告ppt：https://pan.baidu.com/s/1XpLGRRc2lwJ0mMs5JX2V8Q提取码：xh6c

Introduction

background

  1. 各种高影响力的领域都产生了大量的图数据：比如生物信息学，全基因组关联研究，社交网络分析等等，而一整张图是难以进行分析的，所以需要从节点和边的属性以及图的拓扑结构中学习到高效的节点和图的表示，然后用这种表示来进行分类、聚合等数据分析
  2. 深度学习在网格结构数据（图像，视频，语言等等）上的成功：所以研究者们觉得 图的拓扑结构和节点属性可以通过像卷积神经网络那样 对局部相邻节点的连续特征向量的
最低0.47元/天 解锁文章
[论文解读]All in one：: Multi-Task Prompting for Graph Neural Networks图神经网络的多任务提示
强化学习曾小健
02-26 2163
这个函数可能是对提示图参数进行操作的某种计算，比如根据这些参数生成新的节点表示，或者更新模型的状态以适应新任务。在不同的上下文中，函数 f(θ) 可以有不同的具体含义，它通常会涉及到如何使用这些参数来影响模型的行为或其对数据的处理方式。不过，由于我无法直接查看PDF文件的内容，所以这里的解释是基于常见的机器学习和深度学习术语的一般性解释。提示图是一种用于调整预训练模型以适应特定任务的结构，这些参数可能包括用于构造提示的节点和边的权重，或者其他用于定义提示图结构的属性。与原始图 G 结合后的新表达式。
深度图卷积网络系列文章（二）---DropEdge:Toward Deep Graph Convolutional Networks on Node Classification
hjy18154017802的博客
09-17 2073
深度图卷积网络系列文章（二）---DropEdge:Toward Deep Graph Convolutional Networks on Node ClassificationDropEdge:关于节点分类的深度图卷积网络过拟合过平滑DropEdge数据增强器消息传递减少器Layer-wise DropEdgeDropEdge vs Dropout实验结果 DropEdge:关于节点分类的深度图卷积网络 今天分享的一篇文章是DropEdge:Toward Deep Graph Convolutional
2019-KDD-DEMO-Net Degree-specific Graph Neural Networks for Node
08-04
Node and Graph ClassificationGraph data widely exist in many high-impact applica
Demo-NetCommunication
07-07
这里是对之前的Python访问Mysql数据库代码的一个优化程序。
图神经网络（Graph Neural Networks）入门之Node Classification
KGV093的博客
03-24 1961
又回来补DL的坑了，这次是关于一个相对较新的方向——图神经网络。之前想做melody/chord generation时听Computer Music方向的大佬Gus Xia教授随口提了一句可以用图神经网络。最近暑期跟Finance相关的研究又跟Knowledge Graph扯到一起，于是开始了解一点GNN~ 为什么要在graph的基础上跑neural networks？目的其实就是为了考虑entities之间的关系。李宏毅教授（的助教）的课中举的一个很贴切的例子：给定一部悬疑片的人物信息，需要预测凶手是
.NET 单点登录DEMO
02-19
.NET 单点登录DEMO 继承JWT 非常规单点登录模式。
Graph-Bert 代码理解③code.MethodGraphBertNodeClassification.py
weixin_40459958的博客
07-21 339
考虑script_3_fine_tuning.py中setting_obj.load_run_save_evaluate() 定义MethodGraphBertNodeClassification类 learning_record_dict = {} lr = 0.001 weight_decay = 5e-4 max_epoch = 500 spy_tag = True load_pretrained_path = '' save_pretrained_path = '' 输入为GraphBertCo
论文笔记--GCC Graph Contrastive Coding for Graph Neural Network Pre-Training
weixin_44139001的博客
10-22 2278
论文笔记–GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training 简介：KDD 2020发表的一篇关于预训练应用在图神经网络的论文，目前引用量120+。目标是学习一个初始化的GNN encoder，但是实验效果不佳， GCC 表现逼进甚至不如目前的GIN。论文链接???? 摘要 引言 相关工作 GCC 实验 结论 摘要 ​ 图表征学习（Graph representation learning）已经成为解决现实问题的一种强
《Graph-MLP Node Classification without Message Passing in Graph》阅读笔记
LW的技术小筑
07-24 1370
Overview ​ 传统GNN的相关工作都强调信息传递（message passing）的重要性，但是作者提出这不是必要的。为此作者设计了一种基于多层感知机的框架——Graph-MLP，该框架在前向传播的过程中并不涉及信息的传递，而是在计算Loss时隐式的引入邻接信息来弥补CNN和MLPs之间的差距。实验结果表明作者提出的框架相对于GNN而言具有更快的运算效率，同时在缺失边的推断场景下更具有鲁棒性（因为推断过程中不需要提供结点之间的邻接信息）。 ​ 作者在文中所作的贡献可以概括如下： 提出了第一个不利用
Label Contrastive Coding based Graph Neural Network for Graph Classification
小菜鸡
06-30 949
题目 **Label Contrastive Coding based Graph Neural Network for Graph Classification **作者团队 Yuxiang Ren， Jiyang Bai，Jiawei Zhang作者单位 佛罗里达州立大学论文链接 https://arxiv.org/pdf/2101.05486.pdf本文来自佛罗里达州立大学，作者使用实例间的细粒度类别信息，基于标签对比损失，设计了一种基于标签对比编码的图分类网络，实现了监督式的对比学习。之前学习的基于
论文研读：Label Contrastive Coding based Graph NeuralNetwork for Graph Classification
yihanyifan的博客
07-06 844
图对比学习
gnn python 包_关于图神经网络（GNN）的必读文章
weixin_35880151的博客
01-26 842
Bayesian Semi-supervised Learning with Graph Gaussian Processes. NeurIPS 2018. paperYin Cheng Ng, Nicolò Colombo, Ricardo Silva.Adaptive Graph Convolutional Neural Networks. AAAI 2018. paperRuoyu Li, ...
【CS224W】(task2)传统图机器学习和特征工程
发现问题，并解决问题，批判性思维
02-08 1417
除了想获得训练数据中节点or边or图特征数据，还有反应节点在网络中位置、局部网络local network structure等特征。本讲不讲属性特征，只讲连接特征。
（DataWhale）图神经网络Task06：基于图神经网络的图表征学习
misite_J
07-03 808
文章目录背景Weisfeiler-Lehman Test (WL Test)Weisfeiler-Leman Test 算法实例WL Subtree Kernel：图相似性衡量图同构网络图表征学习方法简介图同构网络基本思路图同构网络的实现`GINConv`--图同构卷积层`BondEncoder`与`AtomEncoder`基于图同构网络的节点嵌入模块（GINNodeEmbedding Module）基于图同构网络的图表征模块（GINGraphRepr Module）参考 背景 Weisfeiler-Leh
学习笔记：DEMO-成品网页1
ZixiangLi的博客
11-22 726
具体代码见: http://download.csdn.net/my
图神经网络GNN论文2019-2020顶会列表
zenRRan的博客
01-29 1418
点击上方，选择星标或置顶，每天给你送干货！阅读大概需要16分钟跟随小博主，每天进步一丢丢整理：专知KDD 20191、Cluster-GCN: An Efficient Algorith...
Multi-Channel Graph Neural Network for Entity Alignment
Hello_word5的博客
02-10 2328
原文地址：https://arxiv.org/pdf/1908.09898v1.pdf 0摘要 实体对齐往往受结构异质性及有限的种子对的约束。本文提出多通道图神经网络MUGNN来学习面向对齐的知识图谱嵌入，通过多个通道鲁棒地编码两个知识图谱。每个通道通过不同的关系权重模式来编码KG，以同时完成两个任务：基于自注意力的KG补全和跨语言注意力的实体修剪。另外，还在两个KG中进行规则知识的推理和转移...
图算法之节点分类Node Classification
热门推荐
u012526436的博客
06-01 1万+
在图谱当中，有一项很重要的任务，节点分类。该任务通常是给定图中某些节点对应的类别，从而预测出生于没有标签的节点属于哪一个类别，该任务也被称为半监督节点分类。 本文主要要解决的问题就是如何做节点分类。 图中的相互关系 在图谱中，存在着两种重要的相互关系 homophily亲和性(我自己的翻译成，不一定准确)，具体意思就是指人以群分物以类聚，例如在社交网络中，喜欢蔡徐坤的人通常都会有同样的喜好。 influence影响性，某节点的行为可能会影响到和他有关系的节点行为，例如有一天你吃起了螺蛳粉，结果你身边的人都
ICLR 2020 图神经学习论文汇总
南有芙蕖
09-08 3005
ICLR 2020 图神经学习论文汇总 Composition-based Multi-Relational Graph Convolutional Networks Graph Neural Networks Exponentially Lose Expressive Power for Node Classification What graph neural networks cannot learn: depth vs width On the Equivalence between Node
SAT-Net: A staggered attention network using graph neural networks for encrypted traffic classification
最新发布
08-08
SAT-Net（Staggered Attention Network）是一种基于注意力机制的深度学习模型，旨在处理加密流量分类任务。加密流量分类是网络安全领域中的一个重要问题，随着网络通信的加密化趋势不断增强，传统的基于内容的流量分析方法难以直接获取流量特征，因此需要依赖于流量元数据（如包大小、时间间隔等）进行分类[^1]。 SAT-Net的核心设计是通过“交错注意力机制”（Staggered Attention）来捕捉加密流量中的时序依赖性和上下文信息。该模型结合了图神经网络（Graph Neural Network, GNN）的结构，将流量数据建模为图结构，其中节点表示流量片段，边表示它们之间的时序或语义关系。这种图结构使得模型能够更有效地捕捉流量中的复杂模式[^1]。 ### 模型结构 SAT-Net的主要组成部分包括： 1. **图构建模块**：将流量数据转换为图形式。每个流量片段（例如一组连续的数据包）被视为图中的一个节点，节点之间的边由时间顺序或特征相似性定义。 2. **交错注意力机制**：该机制通过在不同时间步长上应用注意力权重，捕捉流量数据的长期依赖关系。与传统的注意力机制不同，交错注意力机制通过引入滑动窗口策略，增强模型对局部和全局特征的感知能力。 3. **图神经网络模块**：使用图卷积网络（GCN）或图注意力网络（GAT）对图结构数据进行处理，进一步提取节点之间的高阶关系特征。 4. **分类器**：将提取的特征输入到全连接层中，最终输出流量的分类结果。 ### 加密流量分类中的应用 在加密流量分类任务中，SAT-Net被用于识别应用程序类型、检测恶意流量或分析用户行为。由于加密流量无法直接解析内容，因此需要依赖流量行为特征。SAT-Net能够有效利用这些特征，并通过图结构建模流量片段之间的复杂关系，从而提高分类的准确率。 实验结果表明，SAT-Net在多个加密流量数据集上表现优异，尤其在处理长序列流量和高噪声环境下具有较强的鲁棒性。相比传统的LSTM或CNN模型，SAT-Net能够更好地捕捉流量中的上下文信息，从而实现更精准的分类效果[^1]。 ### 代码示例 以下是一个简化的SAT-Net模型伪代码示例，用于展示其基本结构： ```python import torch import torch.nn as nn from torch_geometric.nn import GATConv class StaggeredAttention(nn.Module): def __init__(self, input_dim, hidden_dim): super(StaggeredAttention, self).__init__() self.attention = nn.MultiheadAttention(input_dim, num_heads=4) self.linear = nn.Linear(input_dim, hidden_dim) def forward(self, x, edge_index): # x: [N, T, D] N:节点数, T:时间步, D:特征维度 x = x.transpose(0, 1) # [T, N, D] out, _ = self.attention(x, x, x) out = out.transpose(0, 1) # [N, T, D] return self.linear(out) class SATNet(nn.Module): def __init__(self, input_dim, hidden_dim, num_classes): super(SATNet, self).__init__() self.staggered_attn = StaggeredAttention(input_dim, hidden_dim) self.gat = GATConv(hidden_dim, hidden_dim) self.classifier = nn.Linear(hidden_dim, num_classes) def forward(self, data): x, edge_index = data.x, data.edge_index x = self.staggered_attn(x, edge_index) x = self.gat(x, edge_index) return self.classifier(x) ``` ### 论文信息 SAT-Net的相关研究成果发表在多个网络安全与机器学习领域的顶级会议和期刊中，包括IEEE S&P、NDSS等。该模型不仅在加密流量分类中表现出色，还被扩展应用于其他时序图数据建模任务，如网络入侵检测和用户行为分析。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值