Diffusion-Convolutional Neural Networks论文笔记

最新推荐文章于 2022-04-26 16:17:04 发布
最新推荐文章于 2022-04-26 16:17:04 发布
阅读量507 收藏
点赞数
分类专栏： GNN 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/eternal_city/article/details/121130555
版权
本文详细解读了Diffusion-Convolutional Neural Networks论文，重点介绍了hop概念，它扩展了节点的关注范围，不再局限于直接邻居。论文探讨了节点分类、图分类和边分类三种任务，并详细阐述了网络结构、输入输出以及参数设置。在节点分类中，-hop矩阵P*是关键，通过与特征矩阵X相乘得到中间表示。图分类则通过对所有节点的平均得到Z。边分类引入了连接矩阵Bt，用于处理边的特征。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Diffusion-Convolutional Neural Networks

论文链接

总结

这篇文章提出了hop的概念，使一个节点能够关注到与它距离更远的节点，而不仅限于一阶邻居。

网络介绍

在这里插入图片描述
这篇论文主要针对三种分类任务。

1. 节点分类

1.1 输入

输入为两个矩阵，分别为矩阵P和矩阵X。X为图的特征矩阵（N*F)，P则是多个类似于邻接矩阵的矩阵叠加而成，也是本篇论文的核心‘hop’。
对于网络而言，hop是一个超参，当hop=1时，则P就代表着邻接矩阵；当hop=2时，P代表着邻接矩阵加上与该节点距离为2的节点的邻接矩阵（即设该节点为i，要到达节点j，最短路径为i->k->j）。hop更高时以此类推。
而图中P，实际上在论文中用P*来表示，是是将所有的邻接矩阵堆叠到一起的产物（即hop=2即将1阶邻居的邻接矩阵和2阶邻居的邻接矩阵concat到一起）。如此的话，P*就是一个N*H*N的矩阵。
所以，输入的P*和X相乘后，就得到了N*H*F的矩阵。

1.2 参数

这里的参数有 W c 和 W d W^c和W^d Wc和Wd两个，是H*F的矩阵，与输入进行点乘（element-wise)。

1.3 输出

在这里插入图片描述

1.3.1 问题

论文中提到由Z到Y的部分应该是一个全连接，而

最低0.47元/天 解锁文章
图神经网络论文阅读(一) Diffusion-Convolutional Neural Networks，NIPS2016
qq_36618444的博客
12-26 3415
Diffusion-Convolutional Neural Networks 2016年发表于INPS，作者来自马萨诸塞大学。实际上这篇文章要早于Kipf的论文，它提出了扩散图卷积网络(DCNN)，可以在结点分类和图分类的任务上分别建模，本质上属于空域（Spatial）卷积[1]。下面就按照论文的思路去介绍这篇文章。 Introduction 本文通过引入扩散-卷积（diffusion-conv...
论文笔记（NLP）——Convolutional Neural Networks for Sentence Classification
大太阳
05-22 329
摘要 本篇论文报告了一系列用预训练词向量上训练的CNN进行句子级分类任务的实验。展示了有少量参数调整和静态向量的简单的CNN在多个基准上达到了很好的效果。通过微调学习特定任务的向量能够进一步提高性能。另外本篇论文对结构进行简单的修改以允许使用特定任务和静态向量。本文讨论的CNN提高了7个任务中的4个技术，包括情感分析和问题分类。 ...
Diffusion-Convolutional Neural Networks
qq_45312141的博客
06-18 731
Diffusion-Convolutional Neural Networks模型详述Node ClassificationGraph Classification 模型详述 AtA_tAt​表示图的邻接矩阵，PtP_tPt​表示度归一化转移矩阵，(Pt)ij​(P_t)_{ij}​(Pt​)ij​​表示由节点iii转移到jjj的概率，可以由AtA_tAt​计算得到，可以认为是权重矩阵。 AtA_tAt​矩阵有一个性质：AtA_tAt​矩阵的幂级数Atn​A^n_t​Atn​​中的一个元素(Atn)ij(A
论文笔记：Diffusion-Convolutional Neural Networks （传播-卷积神经网络）
a1424262219的博客
04-09 3820
Diffusion-Convolutional Neural Networks （传播-卷积神经网络）2018-04-0921:59:02 1. Abstract: 　　我们提出传播-卷积神经网络（DCNNs），一种处理 graph-structured data 的新模型。随着 DCNNs 的介绍，我们展示如何从 graph structured data 中学习基...
《diffusion-convolutional neural networks》论文阅读
ptxx_p的博客
09-04 1508
abstract 本文提出了针对于图结构数据的模型：diffusion-convolutional neural networks（DCNN）。本文展示了如何通过图结构数据学习到基于传播的数据并被有效用于节点分类。DCNN有很多优秀的特质：图结构的潜在表征在同构的情况下是不变的，计算过程可以被视为可以在多项式时间下完成的向量操作，并能够被有效扩展到GPU之上。通过实验证明，DCNNs在关系节点分类任务上超越了概率关系模型以及图上的核方法。 1.introduction 处理结构数据很具有挑战性。一方面，如果
论文阅读：Convolutional Neural Networks for No-Reference Image Quality Assessment
haiyanyanya的博客
04-26 1554
摘要： 以图像补丁作为输入，在空间域中工作，而不使用以前大多数方法所使用的手工特征。该网络由一个具有最大和最小池的卷积层、两个完全连接的层和一个输出节点组成。在网络结构中，特征学习和回归被集成到一个优化过程中，从而产生一个更有效的图像质量估计模型。 1.NR-IQA的CNN 给定灰度图像，我们首先执行对比度归一化，然后从中采样不重叠的补丁。使用CNN来估计每个补丁的质量分数，并对补丁分数进行平均，以获得图像的质量估计。 1.1网络结构 1.2局部归一化 假设位置（i，j）isI（i，j）
读论文系列(二)Convolutional Neural Networks over Tree Structures for Programming Language Processing
Cleveryuan的博客
04-18 3534
文章目录TBCNN TBCNN
Diffusion-Convolutional Neural Networks_图神经网络_
10-03
《Diffusion-Convolutional Neural Networks_图神经网络》是一篇深入探讨图神经网络（Graph Neural Networks, GNN）技术的文献，尤其强调了散射卷积神经网络（Diffusion-Convolutional Neural Networks, DCNNs）在...
论文阅读：《Convolutional Neural Networks for Sentence Classification》
04-26 2006
我们报告了一系列卷积神经网络（CNN）的实验，这些卷积神经网络是在预先训练过的词语向量的基础上进行训练以进行句子级别的分类任务。我们展示了一个简单的CNN，带有超级参数调整和静态向量，可以在多个基准测试中取得优异的结果。通过微调学习特定于任务的矢量可提高性能。我们另外建议对体系结构进行简单的修改，以允许使用任务特定和静态向量。本文讨论的CNN模型改进了7项任务中的4项任务的现有技术水平，其中包括情感分析和问题分类。
论文笔记: Diffusion-Convolutional Neural Networks
qq_44015059的博客
04-02 1920
前言 相较于GCN早期基于频域的若干方法，这篇论文虽然内容较少，方法存在一定的局限性，但是可以说是基于空域GCN的开山之作，它提供了一个很清晰的对非欧式空间进行卷积的思路。但是正如作者在Limitation中提到的，卷积过程中需要考虑所有结点的扩散信息限制了模型在大规模图上的计算能力。所以后续的研究很多都是在邻域进行采样的，以缩小计算量。后续的GraphSAGE可以说是此种方法的升级版 要点 D...
CNN在文本分类的应用(内有代码实现) 论文Convolutional Neural Networks for Sentence Classification
热门推荐
u010960155的博客
07-31 1万+
一、CNN文本分类简介 文本分类是NLP领域的一个重要子任务，文本分类的目标是自动的将文本打上已经定义好的标签，常见的文本分类任务有： 用户评论的情感识别 垃圾邮件过滤 用户查询意图识别 新闻分类 由此看出文本分类的用途十分之广，包括知识图谱领域的关系抽取任务也是使用文本分类实现的。 有很多经典的统计学习方法可以用来做文本分类，比如SVM，LR，MaxEnt等等。这些方法的一般流程是标...
《Convolutional Neural Networks for Sentence Classification》论文研读
Findingxu的博客
03-23 597
一、论文梗概： 提出了如何有效利用CNN进行句级别的分类任务进行了实验对比验证。 Introduction:提到CNN用于NLP的背景，前人做过的工作，并且解释CNN应用在NLP任务上的合理性。 Model: 介绍了本文提出的有static和none-stati两种channel的用于句级别分类的CNN模型结构，并进行公式推演。 Datasets and Experimental Set...
论文笔记：Recurrent Convolutional Neural Networks for Text Classification
vivian_ll的博客
07-09 7267
1 Abstract 文本分类是NLP的一项重要的基础任务。传统的文本分类需要特征工程，需要人类参与。而深度学习能够自动提取特征不需要人的参与。本文采用周期循环神经网络比卷积神经网络能够更加减少噪声，利用最大池化层选取一句话中最重要的特征。首先在学习词的表达的时候，采用双向循环结构获取文本信息，比传统的基于窗口的神经网络更能减少噪声，而且在学习文本表达时可以大范围的保留词序。其次使用最大池化层获...
深度学习论文阅读：Convolutional Neural Networks for Sentence Classification （TextCNN）
guangyacyb的博客
03-07 1877
这是一篇将CNN运用于句子分类的论文 摘要 We report on a series of experiments with convolutional neural networks (CNN) trained on top of pre-trained word vectors for sentence-level classification tasks. We show that ...
ImageNet Classification with Deep Convolutional Neural Networks经典论文
m0_63520910的博客
04-13 2920
来自B站视频​​​​​​【论文复现代码数据集见置顶评论】3小时高效复现CV计算机视觉经典论文！论文精讲&代码复现：目标检测、图像分类、图像分割、轻量化网络、GAN、OCR_哔哩哔哩_bilibili 博客-ImageNet Classification with Deep Convolutional Neural Networks论文解读 - 知乎 1、研究背景 AlexNet成功的两个因素，第一个是数据集，第二个是强大的计算资源。 AlexNet的研究意义 一...
论文解读二代GCN《Convolutional Neural Networks on Graphs with Fast Localized Spectral Filtering》
www_xuhss_com的博客
01-18 1421
Python微信订餐小程序课程视频 https://edu.youkuaiyun.com/course/detail/36074 Python实战量化交易理财系统 https://edu.youkuaiyun.com/course/detail/35475 Paper Information Title：Convolutional Neural Networks on Graphs with Fast Localized Spectral FilteringAuthors：Michaël DefferrardXavier Bre
论文《Convolutional Neural Networks for Sentence Classifification》的学习笔记
Vincy_King
11-24 432
原文及译文 源码 1. Introduction 作者讲述了深度学习在计算机视觉，语音识别等领域拥有了显著的成果。近年来在自然语言处理中，主要包括词向量的研究，以及训练文本，将文本转化为词向量进行进一步的文本分类。将之前稀疏的1-V（词典的大小）转化为特定维度的向量，相当于初步将文本中的情感特征加在了词向量中。通过词向量的转化，语义相近的词距离也相近，比如余弦距离。 第二段讲述了利用CNN卷积器来提取特征。最开始被应用在计算机视觉，但是后来被研究应用在了自然语言处理里面的语义解析、搜索、语句模型等传统的自
【论文阅读】Diffusion-Convolutional Neural Networks (DCNNs) | day9、10
qq_41821608的博客
01-25 2217
30th Conference on Neural Information Processing Systems (NIPS 2016) 文章目录一、介绍  优势：二、模型三、缺点 用于图结构化数据的神经网络——扩散神经网络。 该网络可从图结构化数据中获得基于扩散的特征表示。 基于此，可实现节点的分类。 优点： 可以获得同构结构下不变的图结构的潜在表示。 可以以张量运算的方式在GPU上进行预测和学习。 在节点分类任务中的表现优于概率关系模型和基于图的核方法。 一、介绍   通过引入“扩散卷积 diffu
R-CNN（Region-based Convolutional Neural Network）论文解读
AlisaZqq
05-20 3498
R-CNN论文解读目录一、预备知识（0）PASCAL VOC（一）SIFT（二）HOG二、使用R-CNN进行目标检测（一）系统构成 目录 一、预备知识 （0）PASCAL VOC 网址：http://host.robots.ox.ac.uk/pascal/VOC/ （一）SIFT 尺度不变特征转换(Scale-invariant feature transform或SIFT) 是一种电脑视觉的算法...
Stable Video Diffusion
最新发布
01-09
### Stable Video Diffusion Implementation and Techniques In the context of video processing within computer vision, stable video diffusion refers to methods that ensure consistency across frames while performing tasks such as denoising or pose estimation. For instance, VIBE (Video Inference for Human Body Pose and Shape Estimation) employs a robust approach combining temporal smoothing with spatial refinement to achieve stability over time[^1]. #### Temporal Smoothing Temporal smoothing is crucial for maintaining consistent estimations throughout consecutive frames. This technique leverages information from neighboring frames to refine current frame predictions. Specifically, algorithms like Kalman filters can be utilized where prediction updates are made based on previous states. ```python import numpy as np def kalman_filter(x, P, measurement): """ Simple example of applying Kalman filter. :param x: State estimate vector :param P: Estimate covariance matrix :param measurement: Current measurement value """ H = np.eye(len(x)) # Measurement function R = np.eye(len(measurement)) * 0.1 # Measurement noise y = measurement - np.dot(H, x) S = np.dot(np.dot(H, P), H.T) + R K = np.dot(np.dot(P, H.T), np.linalg.inv(S)) x = x + np.dot(K, y) I = np.eye(len(x)) P = np.dot((I - np.dot(K, H)), P) return x, P ``` #### Spatial Refinement Spatial refinement focuses on enhancing local details by considering pixel-level relationships within individual frames. Convolutional neural networks (CNNs) play an essential role here due to their ability to capture hierarchical patterns effectively. By integrating CNN-based models into pipelines, more accurate feature extraction becomes possible leading to improved overall performance. For both aspects mentioned above, it's important to note how they contribute towards achieving stable results when dealing with dynamic scenes involving human body movements captured through videos.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值