论文阅读：NeuGraph: Parallel Deep Neural Network Computation on Large Graphs

最新推荐文章于 2023-08-13 00:33:50 发布
最新推荐文章于 2023-08-13 00:33:50 发布
阅读量1.8k 收藏 6
点赞数 1
分类专栏： 论文阅读笔记 文章标签： Graph Neural Network GNN GPU
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sixfrogs/article/details/103092512
版权
NeuGraph是一个针对大型图神经网络的计算框架，利用Multi-GPU并行处理，通过图感知数据流转换、选择性调度、管道调度优化计算效率，减少数据传输并重叠计算。其核心包括图分块、过滤冗余顶点、计算与传输优化，以及图传播引擎，旨在提高GNN模型的性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1 简介

这篇文章为图神经网络设计了一个基于Multi-GPU的计算框架，主要包括，图顶点和边分块，冗余顶点的过滤，计算与传输的重叠。该框架适用于符合Scatter-ApplyEdge-Gather-ApplyVertex Neural Networks (SAGA-NN)类型的图神经网络。
在这里插入图片描述

2 NeuGraph计算框架

从整体上看，NeuGraph主要包括4部分：

  1. 一个转换引擎能够将GNN转换成chunk粒度的数据流图，就是按照NeuGraph的方式处理数据
  2. 一个流调度器，能够减少CPU与GPU之间的数据传输量并且尽可能的重叠计算和数据传输
  3. 一个图扩散引擎，使用一系列的快速扩散kernels加速计算，并且将某些操作融合以便消除多余的内存拷贝（没看懂这个描述）
  4. 一个数据流运行时

2.1 Graph-Aware Dataflow Translation

将点集均分成 P P

最低0.47元/天 解锁文章
Graph Neural Networks: A Review of Methods and Applications（图神经网络：方法与应用综述）
weixin_41697507的博客
07-06 5689
Graph Neural Networks: A Review of Methods and Applications Jie Zhou , Ganqu Cui , Zhengyan Zhang , Cheng Yang, Zhiyuan Liu, Lifeng Wang, Changcheng Li, Maosong Sun Abstract—Lots of learning tasks req...
A Comprehensive Survey on Graph Neural Networks(图神经网络综合研究)
weixin_41697507的博客
07-06 7652
A Comprehensive Survey on Graph Neural Networks Zonghan Wu, Shirui Pan, Member, IEEE, Fengwen Chen, Guodong Long, Chengqi Zhang, Senior Member, IEEE, Philip S. Yu, Fellow, IEEE Abstract—Deep learning ...
论文阅读 [TPAMI-2022] ManifoldNet: A Deep Neural Network for Manifold-Valued Data With Applications
weixin_42155685的博客
04-09 517
论文阅读 [TPAMI-2022] ManifoldNet: A Deep Neural Network for Manifold-Valued Data With Applications 论文搜索(studyai.com) 搜索论文: ManifoldNet: A Deep Neural Network for Manifold-Valued Data With Applications 搜索论文: http://www.studyai.com/search/whole-site/?q=Manifold
虚拟机性能测试：十 性能分析—Computation计算测试
weixin_34376562的博客
08-09 201
转载于:https://blog.51cto.com/370135415/635572
netgraph 介绍
09-30
freebsd netgraph tutorial 有这方面的需求的可以看看
NIPS2018深度学习(12)|亮点: CNN正交正则;循环控制循环网络(论文及代码)
hestendelin的专栏
03-04 1218
[1]The streaming rollout of deep networks - towards fully model-parallel executionVo...
HTML中chunked解码和gzip解压
cswhl的博客
12-01 3469
chunked编码 chunked编码的的好处 当访问的时动态页面时，服务器则无法预知内容的大小，因此需要一遍产生数据，一边发送数据，将数据分块发送(服务器通过响应头’Transfer-Encoding: chunked’告诉浏览器它将使用chunked编码传输)。浏览器也不需要等到内容字节全部下载完成,只要接收到一个chunked块就可解析页面，并且可以下载html中定义的页面内容,包括js,css,image等。 更多优点如下： 1.允许服务器为动态生成的内容维持HTTP持久链接。 通常，持久链接需
【论文阅读笔记】NeurIPS2020文章列表Part1
zincrain的博客
12-09 2万+
A graph similarity for deep learning An Unsupervised Information-Theoretic Perceptual Quality Metric Self-Supervised MultiModal Versatile Networks Benchmarking Deep Inverse Models over time, and the Neural-Adjoint method Off-Policy Evaluation and Learning.
A Survey on Deep Learning Techniques Applied to medical image analysis
最新发布
AI天才研究院
08-13 440
作者：禅与计算机程序设计艺术 Introduction:Deep learning techniques have recently gained popularity in medical image analysis because they are capable of accurately identifying disease markers without relying on human intervention, enabling better decision-making and tre
2020 IJCAI 接受论文 list 分类排列（二）
u014546828的博客
08-23 2万+
2020 IJCAI 接受论文 list 分类排列（一） 2020 IJCAI 接受论文 list 分类排列（二） 2020 IJCAI 接受论文 list 分类排列（三） 目录 Main track (Humans and AI) Main track (Knowledge Representation and Reasoning) Main track (Machine Learning) Main track (Machine Learning Applications) Mai.
【ISCA17】SCNN:AnAcceleratorforCompressed-sparseConvolutionalNeuralNetworks
Mys_GoldenRetriever的博客
08-02 1915
主要设计了一个可以高效处理稀疏化CNN的高效硬件架构，主要思想就是跳过weight和activation中有0的乘法的情况。以达到加速（cycle）和降低功耗的效果。   以下按照原文结构，大致概括一下文章的脉络。   ABSTRACT 本文设计了一个Sparse CNN (SNN)的加速器硬件架构，通过设计一种压缩的数据流模式，同时探索了weight和activation在硬件中的稀疏...
SCNN: An Accelerator for Compressed-sparse Convolutional Neural Networks文章详细解读
fsFengQingYangheihei的博客
01-18 4717
SCNN: An Accelerator for Compressed-sparse Convolutional Neural NetworksAs FPGAs are intrinsically parallel devices, they are quite suitable for Neural Network implementations, and so several studies
VF2, VF3算法
sixfrogs的博客
04-21 6805
1. VF2算法 1.1 基本定义和整体流程 原文An Improved Algorithm for Matching Large Graphs。 VF算法能够解决有向/无向，有标签/无标签，图同构问题。原文中的符号和VF3算法不同，这里对某些符号采用了更为广泛地符号定义。 给定两个图G1=(V1,E1)G_1=(V_1,E_1)G1​=(V1​,E1​), G2=(V2,E2)G_2=(V_2...
图网络模型原理详解（Graph Network）
热门推荐
ChihkAnchor的博客
01-22 4万+
《Relational inductive biases, deep learning, and graph networks》 这篇论文包含了一部分新研究、一部分回顾和部分统一结论，这篇文章涉及到的很多知识面，涉及到联结主义、行为主义、符号主义，其本身的模型并不难，但是要理解其提出来的背景及相关知识联系，和其研究的深层含义就需要慢慢品读其中的参考文献了。 这篇论文是DeepMind联合谷歌大...
跟着Leo机器学习实战：sklearn之Neural network models
热衷开源的Boy
02-25 582
1.17. Neural network models sklearn框架 函数导图 1.17.1. Multi-layer Perceptron 1.17.2. Classification from sklearn.neural_network import MLPClassifier X = [[0., 0.], [1., 1.]] y = [0, 1] clf = MLPClassifie...
ICLR2020国际会议精彩演讲抢先看（含源码）！！
yinizhilianlove的博客
02-21 2万+
来源：AINLPer微信公众号（点击了解一下吧） 编辑: ShuYini 校稿: ShuYini 时间: 2020-02-21     2020年的ICLR会议将于今年的4月26日-4月30日在Millennium Hall, Addis Ababa ETHIOPIA（埃塞俄比亚首都亚的斯亚贝巴 千禧大厅）举行。     2020年ICLR会议（Eighth International Con...
一张图看懂深度神经网络（Deep Neural Network）
思我所
02-18 1万+
首先构造出线性分类器，再将线性分类器组合成非线性分类器，然后还可将非线性分类器组和成更为复杂的非线性分类器。其中线性分类的核心就是用S函数将偏差转换为概率，再以交叉熵来量化分类的好坏，然后最小化交叉熵来实现分类（S函数只是激活函数的一种）。 ...
《Few-Shot Learning with Graph Neural Networks》——少样本学习与图神经网络
StreamRock的专栏
11-22 7648
目录一、简介二、【2】实现过程分析2.1 数据的准备2.2 GNN 网络2.2.1 特征提取网络2.2.2 顶点表达2.2.3 Adjacency 层2.2.4 Loss的解析2.3 数据验证所说明的问题三、GNN 的认识四、小结索引欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表...
提升构建效率：使用webpack-parallel-uglify-plugin并行压缩
资源摘要信息:"webpack-parallel-uglify-plugin：更快的uglifyjs插件" 知识点一：webpack-parallel-uglify-plugin的作用 webpack-parallel-uglify-plugin是一个专门为Webpack构建工具设计的插件，它用于优化构建...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值