GNN Transformer

最新推荐文章于 2025-06-04 20:42:13 发布
最新推荐文章于 2025-06-04 20:42:13 发布
阅读量181 收藏
点赞数 2
分类专栏： 模块 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_50993868/article/details/145821206
版权

RNN

在这里插入图片描述

Transformer

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

输入部分

1.Embedding

2.位置嵌入

【Graph vs Transformer】Transformer是GNN的一种特例
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
01-15 338
最近研读Transformer后，发现和GNN极其相似，于是开始调研他们之间的关系(对Transformer熟悉的可以直接跳过这一部分阅读)(对GNN熟悉的可以直接跳过这一部分阅读)
GNN与Transformer创新结合！模型性能起飞！
2401_85328934的博客
06-05 2158
近年来，图神经网络（GNN）和Transformer模型分别凭借其独到的优势，在处理复杂数据结构和识别序列间的相互依赖性方面取得了突破性进展，这些优势使得GNN和Transformer的结合成为图表示学习领域的一个有前景的研究方向。具体来说，Transformer的引入使GNN能够扩展感受野，捕捉复杂图拓扑信息，增强信息传递能力，提高推荐系统准确性。最重要的是还能简化模型，降低计算成本和提高训练效率。
GNN vs Transformer
tiancanucas的博客
05-12 1305
一个是图的表示学习一个是语言的表示学习 先给两个图：图的邻接矩阵和self-attention可视化结果。 我们可以把multi-head attention不同的head理解为CNN中不同的卷积核，用来抽取不同的特征，文本中的每一个词对应于图中的一个节点，文本的上下文对应图节点的邻接节点，而self-attention就类似于一个全连接图，GNN学习的是node emmeding，而Transformer学习的是word emmeding。在公司图谱中，小明是经理，在家族图谱中，小明可能是丈夫，是父亲
GNN-Transformer新突破！全局与局部的完美融合
人工智能讲师分享前沿技术
07-26 632
图神经网络（GNN）和Transformer的结合是近年来的研究热点。这类结合不仅能够让两者发挥各自的优势，还能推动模型的创新，提高处理图数据的效率和性能。 具体点讲，通过利用Transformer，我们可以扩展GNN的感受野，包括那些距离中心节点较远的相关节点。相对的，GNN也可以帮助Transformer捕捉复杂的图拓扑信息，并从相邻区域高效地聚合相关节点。
超容易出创新点的方向：GNN+Transformer！
2401_82426425的博客
01-15 641
在近年的研究中，其一直是热门，且在各种图数据处理的任务中性能显著！比如NeurIPS上的SGFormer模型，便实现了推理时间快114倍的效果！模型GCFormer则准确率高达95.65％……想往这方向发论文的伙伴，可以多考虑：引入对比学习、强化学习；与多模态数据融合结合；开发能根据图的拓扑结构和节点属性自动调整权重的注意力机制；设计新的位置编码和结构编码等方向。为方便大家研究的进行，早点发出自己的顶会，我给大家，一起来看！论文原文+开源代码需要的同学看文末。
结合Transformer与GNN！图Transformer15个创新方案，无痛涨点
强化学习曾小健
04-23 1650
作者提出了一种新的神经网络编码器类别，称为DIFFORMER（基于扩散的Transformer），包括两个实例：一个具有线性复杂度的简单版本，适用于数量庞大的实例；作者提出了一种新的方法，称为谱注意力网络（SAN），它使用了一种学习位置编码（LPE），可以从拉普拉斯算子的全谱中学习节点的位置。为了解决分子表示学习中的问题，作者提出了一种名为GROVER的新框架。论文提出了一种名为Graphormer的图表示学习方法，它建立在标准的Transformer架构之上，并在广泛的图表示学习任务上取得了出色的结果。
神组合：GNN+Transformer！新成果霸榜CVPR
Aimoxin111的博客
02-12 1329
AI科研灵感致力于成为您在人工智能领域的领航者，定期更新人工智能领域的重大新闻与最新动态，和您一起探索AI的无限可能。立即关注我们，开启您的AI学习之旅！
GNN - Transformer 新突破 —— 解锁全局与局部的完美融合！
python12345_的博客
11-10 1048
近年来，模型大放异彩。**GNN 以其独特优势在处理复杂数据结构方面表现卓越，而 Transformer 模型则在识别序列间相互依赖性上展现出非凡能力，**二者均取得了突破性的进展。这些优势相互交织，使得的融合成为图表示学习领域极具前景的研究方向。具体而言，带来了诸多益处。它能够有效扩展 GNN 的感受野，使其更全面地捕捉复杂图拓扑信息。这一改进如同为 GNN 装上了更敏锐的 “触角”，增强了信息在图中的传递能力。在推荐系统中，这种结合更是发挥了重要作用，显著提高了推荐的准确性。不仅如此，本文精心筛选了。
GNN/CNN+Transformer 的对比（火灾检测方面）
AAI666666的博客
02-18 1628
在进行火灾检测时，GNN 和 Transformer 这两种模型都可以发挥作用。
【大模型:知识图谱】--3.py2neo连接图数据库neo4j
我是个好人呀，????
06-03 1206
本文介绍了Neo4j图数据库的安装与基本操作。主要内容包括：1) 使用py2neo连接Neo4j数据库；2) 通过Python实现节点创建、删除、属性修改等操作；3) 建立节点间关系的方法；4) 使用NodeMatcher和RelationshipMatcher进行节点和关系查询；5) 通过实例演示如何创建人物节点及其关系网络。文章还对比了Neo4j社区版和企业版的差异。全文提供了完整的代码示例，涵盖从连接到CRUD操作的完整流程。
当无人驾驶遇见无声天使，让AI司机与爱相伴“童”行
UISEE2031的博客
06-01 698
在中关村房山园内，驭势科技多款无人驾驶车辆整齐列队，没有普通汽车的轰鸣，这些AI司机用闪烁的灯光和显示着“无人驾驶”字样的屏幕迎接孩子们的到来。在AI的帮助下，TA们对于未来无人驾驶车的描述变成了一个个具象的画面，孩子们纷纷合影留念，想要定格心中梦想的种子。
3步在小米13手机跑DeepSeek R1
羊仔的博客
06-03 924
大家好！我是羊仔，专注AI工具、智能体、编程。
Sentiment analysis integrating LangGraph and large-scale conceptual models
frostmelody 全网同名，大家多多关注呀~ 持续分享优质内容！
05-31 1577
基础单元：句子/评论/文档（如图中4条手机评论）。扩展单元：实体（如“相机”、“电池”）。关系类型构建规则示例实体共现两节点提及相同实体评论A和B都讨论“电池”语义相似概念向量余弦相似度 > 阈值两条夸“拍照效果”的评论句法依赖基于依存解析的语法关系评论中“电池”修饰“续航”工具NetworkX或PyG（Python库）。
【统计方法】树模型，ensemble，bagging, boosting
weixin_48846514的博客
06-04 416
树模型
法律AI的“幻觉”治理：大模型如何重塑司法公正与效率
七刀的专栏
06-04 697
在传统律师事务所中，一位律师审查一份50页的商业合同平均需要3小时；而在引入法律大模型后，这一时间被缩短至20分钟。效率提升的背后，是一场正在席卷全球法律体系的智能化革命——。
【2025年5月】AI生产力再探再报：各家智能体持续内卷，前沿应用不断细分
Seon_Pan的记录库
06-02 1369
扣子空间、纳米AI超级搜索、Qwen3研究分析...6大AI比拼；MCPo、A2A...智能体框架再上一层楼！
高效VLM：VisionZip
最新发布
my的博客
06-04 455
《VisionZip：视觉语言模型中的高效视觉标记压缩方法》针对现有视觉语言模型(VLMs)存在的视觉标记冗余问题，提出了一种创新解决方案。研究发现，传统VLMs使用长序列视觉标记会导致计算成本高昂，且大量标记注意力权重趋近于零，存在显著冗余。VisionZip通过两阶段处理（保留主导标记+合并次要标记），在仅保留10%标记的情况下实现95%的原模型性能，并将LLaVA-NeXT模型的预填充时间减少8倍。该方法支持无训练应用、高效微调和从头训练三种模式。
用python与pyqt5写一个自己的ai智能小助手
zouxun660的博客
06-03 290
用python与pyqt5写一个自己的ai智能小助手
MCP协议重构AI Agent生态：万能插槽如何终结工具孤岛？
聚焦AI技术在企业的深度应用，致力于在实际场景中验证理论模型的可行性
06-04 730
2025年，MCP协议成为AI领域的关键基础设施，被喻为"AI世界的USB-C接口"。
GNN transformer
04-23
### GNN与Transformer架构的结合及其应用 近年来，图神经网络（Graph Neural Networks, GNNs）和Transformer 架构的结合成为一种新兴的研究方向。这种结合旨在充分利用两者的优点：GNN擅长处理具有复杂关系的数据结构，而Transformer则以其强大的全局注意力机制著称。 #### 结合方式 一种常见的结合方式是将Transformer引入GNN的消息传递阶段。具体而言，在传统的GNN消息传递过程中，节点通过聚合邻居的信息更新自身的表示。然而，这种方法通常仅限于局部邻域内的交互[^3]。为了增强模型捕捉远距离依赖的能力，研究人员引入了自注意力机制（self-attention mechanism），使得每个节点能够动态地关注整个图中其他节点的重要性。这种方式不仅保留了GNN对图结构的理解能力，还增强了其在全球范围内的上下文建模能力[^4]。 另一种结合形式是在预训练阶段联合使用两者。例如，某些工作先利用GNN提取节点级别的特征作为输入序列提供给Transformer层进一步加工；或者反过来，先把原始数据送入若干层纯Transformer编码器后再交给后续专门定制化的GNN模块完成最终任务目标达成过程中的细化调整操作[^1]。 以下是实现该类混合模型的一个简单伪代码示例： ```python import torch from torch_geometric.nn import GCNConv import transformers as trf class GraphTransformer(torch.nn.Module): def __init__(self, num_features, hidden_dim, num_classes): super(GraphTransformer, self).__init__() # Define GNN layers self.gnn_conv1 = GCNConv(num_features, hidden_dim) self.gnn_conv2 = GCNConv(hidden_dim, hidden_dim) # Define Transformer layer config = trf.BertConfig(hidden_size=hidden_dim, num_attention_heads=8, intermediate_size=hidden_dim*4) self.transformer_layer = trf.BertLayer(config) # Output Layer self.output_fc = torch.nn.Linear(hidden_dim, num_classes) def forward(self, data): x, edge_index = data.x, data.edge_index # Pass through GNN layers x = torch.relu(self.gnn_conv1(x, edge_index)) x = torch.relu(self.gnn_conv2(x, edge_index)) # Reshape for transformer input batch_size = int(max(data.batch)) + 1 if hasattr(data,'batch') else 1 seq_len = len(x)//batch_size x = x.view(batch_size,seq_len,-1).permute(1,0,2) # Pass through Transformer layer attention_mask = None # Assuming full visibility within each graph instance. extended_attention_mask = attention_mask[:,None,None,:] if attention_mask is not None else None outputs = self.transformer_layer(x,extended_attention_mask)[0] pooled_output = outputs.mean(dim=0) # Average pooling over sequence length dimension. out = self.output_fc(pooled_output) return out ``` 此代码片段定义了一个基本框架，其中包含了两个GCN卷积层用于初步特征提取，随后是一个Bert风格的单层变压器用来加强这些特征间的相互作用，并最后经过全连接层输出结果[^2]。 #### 应用场景 这类融合模型广泛应用于自然语言处理(NLP)，计算机视觉(CV), 生物信息学等领域。特别是在涉及异质性和高维性的大规模社交网络分析、分子性质预测以及推荐系统等方面表现出显著优势[^3]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值