TransEdge: Translating Relation-contextualized Embeddings for Knowledge Graphs

TransEdge: Translating Relation-contextualizedEmbeddings for Knowledge Graphs

1 原因

目前模型对于关系的处理存在问题，如线性模型，或者双线性模型无法抓住多样的关系结构。在TransE模型，例如(泰囧，演员，黄渤),(泰囧，饰演，徐峥），当进行$h+r\approx t$导致结果黄渤和续重非常接近，不利于预测结果，因此提出以边为中心的理念，根据上下文表示关系，使边具有多样性。本质上就是，实体和关系本身的 embedding 共同起作用作为关系，用于处理“一对多”和“多对一的关系”。

2 模型

2.1 整体模型

模型的整体就是TransE模型

其公式为：

对于关系设置分为两种类型，一种是基于Context Compression（多层感知机），另外一种为Context Projection（映射）。

2.2 Context Compression

公式：

就是把h, r和r,t拼接在一起，分别使用多层感知机，然后在将分别产生的结果进行多层感知机运算。

2.3 Context Projection

公式：

就是将h, t同时处理，利用多层感知机，然后将关系进行投影。

3 损失函数

损失函数也略有区别，跟常规的margin-based ranking loss不太一样。

其中$[x{]}_{+}=max(0,x),其中{\gamma }_1、{\gamma }_2是超参数，{\gamma }_1<{\gamma }_2$

4 总结

该篇论文的核心思想就是，将关系融入实体，然后经过操作，将其跟TransE模型联系在一起。