TransE是一种用于知识图谱嵌入的流行模型

TransE是一种用于知识图谱嵌入的流行模型，它通过将实体和关系嵌入到低维向量空间中，来学习实体之间的关系。TransE的核心思想是：实体之间的关系可以通过向量空间中的翻译操作来表示。具体来说，如果实体e1和e2之间存在关系r，那么在向量空间中，应该满足e1 + r ≈ e2。

示例数据

假设我们有一个简单的知识图谱，包含以下三元组：

1. (Alice, isFriendWith, Bob)
2. (Bob, isFriendWith, Charlie)
3. (Alice, isFriendWith, Charlie)

模型

TransE模型包括以下组成部分：

1. 实体嵌入: 每个实体e被表示为一个d维向量e。
2. 关系嵌入: 每个关系r被表示为一个d维向量r。
3. 损失函数: TransE使用距离函数（如L1或L2范数）来衡量头实体向量加上关系向量与尾实体向量之间的距离。损失函数鼓励正确三元组的距离小于错误三元组的距离。

训练过程

1. 初始化: 随机初始化所有实体和关系的向量。
2. 正样本和负样本: 对于每个正样本三元组(h, r, t)，生成负样本三元组(h’, r, t)或(h, r, t’)，其中h’和t’是随机选择的实体，用于替换头实体或尾实体。
3. 计算损失: 对于每个正样本和负样本，计算损失函数值，并使用梯度下降优化模型参数，以减小正样本的距离并增大负样本的距离。

效果展示

经过训练，TransE模型学会了将实体和关系嵌入到向量空间中，使得实体之间的关系可以通过向量的翻译来表示。例如，如果Alice的向量是a，Bob的向量是b，isFriendWith的关系向量是f，那么TransE模型应该满足a + f ≈ b。
我们可以使用训练好的模型来进行链接预测，即预测给定头实体和关系的尾实体。例如，给定(Alice, isFriendWith), 模型应该预测Bob或Charlie作为尾实体。
此外，我们还可以使用TransE模型来计算实体之间的相似度，从而发现潜在的关系。例如，如果Alice和Charlie的向量非常接近，那么他们可能有某种关系。
TransE模型的效果可以通过链接预测任务的准确率来评估。在训练过程中，模型的准确率应该逐渐提高，表明模型学会了实体之间的关系。