SPAR模型优化思路

SPAR 模型中类比推理逻辑存在的缺陷:

(1)图卷积过程训练过于复杂

(2)图卷积中,像素节点和类别节点是以特征相似度强弱构造邻接矩阵的,没有考虑到像素的空间关系。也许可以加入位置嵌入。

(3)邻居特征的传递过程是完全平均的,实际上应该考虑到不同相似度邻居贡献程度不一致的问题。

(4)噪声污染

1. 将图卷积替换为更灵活的 图注意力(GAT)或 Transformer-on-graph

GAT:Graph Attention Network

传统 GCN 用固定的邻接归一化权重(如\tilde{A}=D^{-\frac{1}{2}}(A+I)D^{-\frac{1}{2}})来“平均”邻居特征——所有邻居贡献相同(或仅由度数决定)。

GAT 为每条边分配不同的权重(可学习、输入自适应),从而更精准地聚合邻居。

GCN 更新节点的公式为:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值