8、UPGAT：用于不确定知识图谱的强大注意力模型

UPGAT：用于不确定知识图谱的强大注意力模型

1. 背景与问题提出

在知识图谱领域，传统的确定知识图谱（DKG）嵌入方法和不确定知识图谱（UKG）嵌入方法都存在一定的局限性。传统的DKG嵌入方法主要关注单三元组建模，后续研究虽有探索子图建模，但部分方法依赖先验领域知识。而现有的UKG嵌入工作仅聚焦于单三元组建模，未充分利用子图特征。

对于基于注意力机制的知识图谱嵌入模型KBGAT，它在UKG中存在两个主要问题：
- 未考虑置信度分数信息 ：由于UKG的不确定性和高密度，无关三元组普遍存在。虽然直观上认为置信度分数和注意力分数存在正相关，但在注意力机制中显式建模置信度分数的三种简单方法（将置信度分数连接到特征向量、线性加权置信度分数与学习到的注意力值、让注意力值等于置信度分数）效果不佳。因为邻居三元组的嵌入可能已包含置信度分数信息，且无明确证据表明按可信度加权邻居有助于注意力过程。
- 难以找到多跳关系 ：由于不确定性，使用路径搜索算法在UKG中找到多跳关系不可行。尽管有n - 跳辅助邻居机制的提出，但在不确定关系下，若无额外领域知识，这种操作难以实现。

2. 相关工作

• 确定知识图谱嵌入方法
  • 单三元组建模 ：传统方法如一些早期工作主要聚焦于单三元组建模。
  • 子图建模 ：后续研究开始探索子图建模，如利用路径作为子图特征，还有基于逻辑规则的方法，可通过设计规则模板建模更多子图模式，但