- 博客(44)
- 收藏
- 关注
RSS订阅原创 爱思唯尔期刊投稿经验（2024.11）
会议一般是提交论文pdf，但是爱思唯尔期刊要上传LaTeX源码文件，后缀是.tex，然后提交时交稿系统编译器产生pdf，最后确认一下。上传和编译产生pdf的时候遇到一些问题，现已解决，记录一下流程。
2024-11-04 18:55:56
2569
2
原创 论文《Adaptive Kernel Graph Neural Network》笔记
【AKGNN 2022 AAAI】GNNs通常由预定义的核引导，如拉普拉斯矩阵、邻接矩阵或它们的变体。然而，采用预定义核可能会限制对不同图的一般性：图和核之间的不匹配会导致次优性能。为了解决该问题，本文提出了一种自适应核图神经网络（AKGNN），它第一次尝试学习以统一的方式适应最优图核。AKGNN通过修改图拉普拉斯的最大特征值，自适应地调节全通和低通滤波器之间的平衡。
2024-10-28 11:05:44
937
原创 论文《Frequency constraint-based adversarial attack on deep neural networks for medical image classific
【Frequency constraint-based adversarial attack 2023 CIBM】现有的攻击方法容易被检测出。为了提高医学对抗样本的有效性和隐蔽性，本文提出了一种利用**图像语义特征信息（semantic feature information of images）**生成对抗样本的新方法。由于图像的底层信息存在于低频和纹理（texture），边缘细节和噪声存在于高频，该方法将对抗样本限制在低频，并将噪声限制在高频，从而使生成的对抗样本更不可检测。通过这样做，生成的对抗性样本
2024-09-20 15:11:04
1229
原创 论文《Mixture of Weak & Strong Experts on Graphs》笔记
【Mowst 2024 ICLR】论文提出了一种新的图神经网络架构，称为Mixture of weak and strong experts（Mowst），通过将轻量级的多层感知机（MLP）作为弱专家和现成的GNN作为强专家相结合，以处理图中的节点特征和邻域结构。引入了基于弱专家预测结果离散度的“置信度”机制，以适应不同目标节点的专家协作。论文分析了置信函数对损失的影响，并揭示了训练动态，表明训练算法通过软分割图来鼓励专家的专门化。Mowst易于优化，表达能力强，计算成本与单一GNN相当，在多个节点分类基准
2024-09-19 10:12:36
1181
原创 论文《Graph Neural Networks with convolutional ARMA filters》笔记
【ARMA 2021 PAMI】本文介绍了一种新型的基于**自回归移动平均（Auto-Regression Moving Average，ARMA）**滤波器的图卷积层。与多项式滤波器相比，ARMA滤波器提供了更灵活的频率响应，对噪声更鲁棒，能更好地捕获全局图结构。
2024-09-09 15:50:23
1283
原创 论文《Clarify Confused Nodes via Separated Learning》笔记
【NCGCN 2023 ArXiv】针对GNNs的异配性问题，本文提出了一个新的度量标准——邻域混淆（Neighborhood Confusion，NC），用于更可靠地区分同配性节点和异配性节点。基于NC度量，本文提出了一种名为邻域混淆引导的图卷积网络NCGCN的框架，该框架通过NC值对节点进行分组，并在组内进行权重共享和消息传递。
2024-09-06 08:47:39
854
2
原创 GNN会议&期刊汇总（人工智能、机器学习、深度学习、数据挖掘）
顶会顶刊：【NeurIPS】【ICLR】【AAAI】【WWW】【ICML】【LoG】【CIKM】【WSDM】【KDD】【IJCAI】【TKDE】
2024-09-03 21:06:55
2079
原创 论文《Improving your graph neural networks：A High-Frequency Booster》笔记
【CLAR 2022 ICDMW】作者指出，现有的GNN模型主要关注于消息传递机制，但这些模型往往受限于低通滤波器的局限，导致在多层堆叠时性能下降。为了解决这个问题，论文提出了一种新的正则化方法，称为补全拉普拉斯正则化（Complement Laplacian Regularization，CLAR）。这种方法通过将原始图的补图（complement graph）引入到GNN中，以增强高频分量。作者认为补图包含了一个高通滤波器，并利用这一特性来提升GNN的表现力。
2024-09-03 21:04:04
1184
原创 找论文的方法：如何找到本领域研究方向所需要的论文进行泛读和精读？
1、参考其他研究者给出的该领域的reading lists；2、优先选择该领域的综述（Survey）进行精读；3、泛读该领域的论文并且进行分类：时间、会议、采用的方法；4、进一步筛选出与自己的研究方向高度相关的论文，最好是顶会，开始精读；5、如果想要针对某一篇论文进行进一步研究，查找该论文的相关论文：https://www.connectedpapers.com/。
2024-08-30 21:09:01
1075
原创 论文《Node-wise Filtering in Graph Neural Networks：A Mixture of Experts Approach》笔记
【NODE-MOE 2024 ArXiv】不同节点表现出不同的同配性或异配性，采用现有的针对一个模式优化的全局滤波器可能会对具有其他模式的节点造成重大损失，而节点级滤波（node-wise）可以在温和条件下实现所有节点的线性可分性。本文提出NODE-MOE（Node-wise Filtering via Mixture of Experts）异配图神经网络算法，它利用专家混合（Mixture of Experts）的方法来适应性地为不同节点选择适当的滤波器。
2024-08-30 21:02:50
1231
7
原创 找源码的方法
1、论文里是否提到开源代码链接。2、GitHub搜论文标题。3、在这个网站里搜论文标题：https://paperswithcode.com/。4、Google搜作者和作者学校，看是否能找到作者的GitHub主页。
2024-08-29 13:01:10
726
原创 论文《Adversarial Examples on Graph Data: Deep Insights into Attack and Defense》笔记
【IG-Attack 2019 IJCAI】本文提出了一种基于**integrated gradients**的对抗攻击和防御算法。对于攻击，本文证明了通过引入integrated gradients可以很容易解决离散问题，integrated gradients可以准确反映扰动某些特征或边的影响，同时仍然受益于并行计算。对于防御，本文观察到目标攻击的被攻击图在统计上不同于正常图。在此基础上，本文提出了一种防御方法，即检查并恢复潜在的对抗性扰动。
2024-08-29 12:57:24
1351
原创 《陈天奇：机器学习科研的十年》阅读笔记
陈天奇是机器学习领域著名的青年华人学者之一，本科毕业于上海交通大学ACM班，博士毕业于华盛顿大学计算机系，研究方向为大规模机器学习。2019年，陈天奇在Twitter上宣布自己将于2020年秋季加入CMU任助理教授，成为加入CMU的年轻华人学者之一。在本文中，陈天奇回顾了自己做机器学习科研的十年。然后，我也写了一些自己的科研心得。
2024-08-27 20:28:50
2478
原创 论文《Graph Structural Attack by Perturbing Spectral Distance》笔记
【SPAC 2022 KDD】大多数现有攻击方法在空间域中操作图，而对傅里叶域中图卷积的脆弱性研究较少。作者提出了一种名为SPectral AttaCk（SPAC）的攻击方法，通过最大化谱距离来实施攻击，并提出了一种有效的近似方法来降低特征分解的时间复杂度。
2024-08-27 20:25:01
1262
原创 论文《Surrogate Representation Learning with Isometric Mapping for Gray-box Graph Adversarial Attacks》笔
【SRLIM 2022 WSDM】本文认为代理模型的训练和所提供的梯度信息的可靠性还缺乏讨论。在图数据中，节点的拓扑结构是攻击者可以利用的重要信息，保留这种拓扑信息可以提供攻击的可转移性。然而代理模型在训练时丢失的这种信息，所以梯度信息变得不可靠。本文针对该问题提出了一种使用等距映射的代理模型表示学习方法SRLIM，通过在代理模型的训练过程中保留节点的拓扑结构，生成更可靠的梯度信息，这些信息可以指导生成具有高可转移性的对抗性扰动。
2024-07-24 09:40:29
827
原创 论文《Revisiting Heterophily For Graph Neural Networks》笔记
【ACM】作者从聚合后节点相似性的角度重新审视异配性，并定义了新的同质性度量方法。基于聚合相似度度量这一指标，作者提出了一种新的框架，称为自适应信道混合（Adaptive Channel Mixing，ACM），它通过自适应地利用聚合、多样化和身份信道来提取更丰富的局部信息，以对应不同的节点异配性情况。
2024-07-17 19:13:57
1401
原创 如何使用变分自动编码器从潜在空间进行采样（How to Sample From Latent Space With Variational Autoencoder）
VAE的编码器神经网络输出的参数定义了潜在空间的每个维度的概率分布（多元分布）。对于每个输入，编码器为潜在空间的每个维度产生平均值和方差。输出均值和方差用于定义多元高斯分布。解码器神经网络与AE模型相同。
2024-07-12 09:51:24
1380
原创 自动编码器（Autoencoders）
神经网络以各种形状和大小存在，并且通常以其输入和输出数据类型为特征。例如，图像分类器是用卷积神经网络构建的。它们将图像作为输入，并输出类的概率分布。自动编码器是一类输入与输出相同的神经网络。它们的工作原理是将输入压缩到潜在空间表示中，然后从该表示中重建输出。
2024-07-11 10:47:26
1014
原创 潜在空间可视化（Latent space visualization）
在处理数据集时，我们要做的第一件事是一种有意义的方式将数据可视化。在我们的例子中，图像（或像素）空间有784维（28×28×1），我们显然无法绘制它。我们面临的挑战是将所有这些维度压缩成我们可以掌握的2D或3D形式。这就是t-SNE，一种将高维空间映射到2D或3D空间的算法，同时试图保持点之间距离不变。我们将使用这种技术来绘制我们数据集的嵌入，首先直接从图像空间，然后从较小的潜在空间。
2024-07-09 18:08:24
1650
原创 论文《Generalizable Adversarial Attacks Using Generative Models》笔记
【DAGAER】传统的攻击方法依赖于约束优化范式，具有局限性，例如经典的Nettack攻击方法。本文提出了一个统一的白盒对抗攻击生成框架，该方法学习了目标域的深度生成模型，不是在原始输入空间中生成对抗性例子，而是**学习在一个低维连续的潜在空间中生成扰动**。该方法的优势是可以适应不同的输入域，比如输入为图像、文本和图结构数据，并且能有效地产生不同的对抗扰动。
2024-07-08 10:46:02
1008
原创 理解机器学习中的潜在空间（Understanding Latent Space in Machine Learning）
If I have to describe latent space in one sentence, it simply means a representation of compressed data.如果我必须用一句话来描述潜在空间，它只是意味着压缩数据的表示。
2024-07-05 17:39:44
2134
原创 Heterophily GNNs：异配图神经网络算法总结（2019-2024顶会）
Heterophily GNNs：异配图神经网络算法总结（2019-2024顶会）
2024-06-28 09:24:46
280
原创 论文《Finding the Missing-half：Graph Complementary Learning for Homophily-prone and Heterophily-prone G
【GOAL】本文的核心内容是关于GNNs在处理现实世界图结构时面临的“缺失一半”问题，即现有GNN在训练时只考虑了图中现有的连接类型（同配或异配倾向），而忽视了另一种类型的连接信息。为了解决这个问题，作者提出了一种名为Graph Complementary Learning（GOAL）的新方法。
2024-06-23 13:13:58
722
原创 论文《Tree Decomposed Graph Neural Network》笔记
【TDGNN】本文提出了一种树分解方法来解决不同层邻域之间的特征平滑问题，增加了网络层配置的灵活性。通过图扩散过程表征了多跳依赖性（multi-hop dependency），构建了TDGNN模型，该模型可以灵活地结合大感受场的信息，并利用多跳依赖性进行信息聚合。
2024-06-22 18:27:17
967
2
原创 论文《Geom-GCN：Geometric Graph Convolutional Networks》笔记
【Geom-GCN】现有的MPNNs方法具有两个基本弱点：①丢失邻域节点的结构信息；②缺乏捕获非同配性图的长距离依赖的能力。本文从经典神经网络和网络几何学的观察出发，提出了一种新的几何聚合方案，该方案利用图背后的连续空间进行聚合，以克服上述弱点。本文将几何聚合方案应用于图卷积网络，提出Geom-GCN，用于执行图上的归纳学习。Geom-GCN通过节点嵌入、结构邻域和双层聚合三个模块来实现。
2024-06-21 20:15:10
2227
原创 论文《Finding Global Homophily in Graph Neural Networks When Meeting Heterophily》笔记
【GloGNN】现有方法通过扩展节点的邻域来包含具有同配性的多跳邻居，但为不同节点设置个性化的邻域大小是一个挑战，且现有方法忽略了邻域之外的同配性节点。为了解决这些问题，作者提出了GloGNN和GloGNN++模型。这些模型通过学习系数矩阵来捕获节点之间的相关性，并基于此进行邻域聚合。系数矩阵允许有符号值，并且可以从一个具有封闭形式解的优化问题中导出。作者从理论上证明了系数矩阵和生成的节点嵌入矩阵具有期望的分组效应，即如果两个节点具有相似的特征和局部结构，无论它们在图中距离多远，它们的嵌入向量都会彼此接近。
2024-06-21 14:20:02
904
原创 论文《Universal Graph Convolutional Networks》笔记
【UGCN】论文提出一个基本问题，即是否不同的网络结构属性应该采用不同的传播机制。通过实验发现，对于完全同配性、完全异配性和随机性的网络，1-hop、2-hop和k-nearest neighbor（kNN）邻居分别更适合作为信息传播的邻域。为了应对现实世界网络的复杂性，作者提出了一种新的通用GCN框架——UGCN。该框架通过多类型卷积同时提取1-hop、2-hop和kNN网络的信息，然后设计一种判别式聚合来充分融合这些信息，以满足给定的学习目标。
2024-06-20 11:40:50
939
原创 论文《Cross-Space Adaptive Filter：Integrating Graph Topology and Node Attributes for Alleviating the Ov
【CSF】本文是关于GCN的过度平滑问题。过度平滑问题是指在深层GCN中，节点表示变得难以区分，导致性能下降。为了解决这个问题，作者们提出了一种名为Cross-Space Filter（CSF）的新型自适应滤波器。CSF结合了图拓扑和节点属性空间的信息，以产生自适应频率信息。
2024-06-19 15:22:09
800
3
原创 论文《Refining Latent Homophilic Structures over Heterophilic Graphs for Robust Graph Convolution Netwo
【LHS（异配图对抗攻击防御模型）】本文通过自动学习异配图上的潜在同配性结构（Latent Homophilic Structures，LHS）来提高GCNs的鲁棒性。
2024-06-17 16:51:20
972
3
原创 论文《PC-Conv：Unifying Homophily and Heterophily with Two-Fold Filtering》笔记
【PC-Conv】提出一种新的机制，能够在不同同配性水平的图上同时提取同配性和异配性信息。
2024-06-12 15:01:00
852
原创 论文《From Latent Graph to Latent Topology Inference：Differentiable Cell Complex Module》笔记
【DCM】本文提出了一种新型的深度学习模块——可微分细胞复合模块（Differentiable Cell Complex Module，DCM），它用于推断潜在的拓扑结构（Latent Topology Inference，LTI）。这个模块旨在改进图神经网络（GNNs）的性能，特别是在处理没有固定图结构或给定图结构不理想的情况下。
2024-06-07 16:43:39
962
原创 论文《NetInfoF Framework：Measuring and Exploiting Network Usable Information》笔记
【NETINFOF】这是一篇关于图神经网络在网络可用信息（Network Usable Information，UNI）测量和利用方面的研究论文。这篇文章提出了一个名为NetInfoF的框架，旨在评估图结构和节点特征中蕴含的信息量，并利用这些信息来解决图任务（如链接预测和节点分类）。
2024-06-06 15:56:47
1087
原创 论文《MixHop：Higher-Order Graph Convolutional Architectures via Sparisified Neighborhood Mixing》笔记
【MixHop】根据2024年异配图神经网络综述《Towards Learning from Graphs with Heterophily：Progress and Future》中的分类（Taxonomy）部分，MixHop是半监督学习（Semi-Supervised）下的第二类找到多跳邻居（Finding Multi-Hop Neighbors）中的一种算法，该算法在GCN的基础上从只聚合一跳邻居信息优化至可以聚合多跳邻居信息，从而更适用于一跳邻居间异配但多跳邻居间同配的图。
2024-06-03 16:45:52
1247
1
原创 论文《Beyond Low-frequency Information in Graph Convolutional Networks》笔记
【FAGCN】只探索低频信号/低频信息不利于学习一个有效的节点表示，本文提出了可以在消息传递过程中自适应地集成不同信号的频率自适应图卷积网络FAGCN，并从理论上分析了低频信号和高频信号在学习节点表示中的作用，进一步解释了FAGCN在不同类型的网络上表现良好的原因。
2024-05-31 22:03:57
1277
2
原创 论文《Adaptive Universal Generalized PageRank Graph Neural Network》笔记
【GPRGNN】根据2024年异配图神经网络综述《Towards Learning from Graphs with Heterophily：Progress and Future》中的分类（Taxonomy）部分，我们选择研究不同类别下的异配图神经网络，从GPRGNN开始。
2024-05-31 15:36:06
1068
5
原创 论文《Towards Learning from Graphs with Heterophily：Progress and Future》笔记
这是2024年发表在arXiv上的一篇异配图神经网络综述，比较好理解，适合入门学习。代码已开源。可以根据挑战和未来工作选择研究方向，然后基于分类中现有的图神经网络有针对性的展开研究。
2024-05-29 11:17:25
699
原创 论文《Is Homophily A Necessary for Graph Neural Networks？》笔记
总结一下：一般的研究认为GCN只适用于具有Homophily Assumption（同质性假设）的图，而不适用于异配图，并且针对异配图设计了专门的GNNs。另一方面，同时存在**“好”和“坏”的异配性**，GCN实际上可以在“好”的异配性上获得更强的性能，而它们通常在“坏”的异配性上失败。3、我们仔细调查了使用的同配性和异配性的基准，并利用我们的理论揭示了GCN在它们上面的表现的原因。前者为“好“的异配性，GCN可以获得好的性能，后者为”坏“的异配性，GCN不可以获得好的性能。这样的图有什么特点？
2024-05-28 19:44:35
1141
3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人