12、上下文敏感的词距离测量方法

上下文敏感的词距离测量方法

在自然语言处理领域，准确测量词与词之间的距离是一项重要任务。传统的词距离测量方法往往是静态且上下文无关的，难以适应复杂多变的语言环境。本文将介绍一种上下文敏感且动态的词距离测量方法，通过对语义空间进行自适应缩放来实现。

1. 从英语词典到P向量

首先，我们需要构建一个语义网络，该网络是从英语词典（LDOCE）中系统构建的。网络中的每个节点对应一个单词，节点之间的链接表示单词之间的语义关系。通过在这个语义网络上传播激活，我们可以将词汇表V中的每个单词w映射到一个P向量P(w)。

具体来说，网络有2851个节点，对应于LDV（朗文定义词汇表，包含2851个单词）中的单词，并且有295914条链接。每个节点可以持有活动，活动会通过链接传播。当激活一个节点一段时间后，活动会在网络中扩散，形成一个活动分布模式，这个模式就是单词w的P向量P(w)。P(w)是一个2851维的向量，由T = 10时节点的活动值组成，近似表示平衡状态。P(w)表明了网络中每个节点与单词w的语义关联程度。

为了简化论证和实验，我们将词汇表V定义为LDV。虽然V不是一个大词汇表，但它覆盖了Lancaster - Oslo/Bergen（LOB）语料库中1006815个单词的83.07%。此外，V可以扩展到LDOCE中的所有词条（超过56000个单词），因为非LDV单词的P向量可以通过激活其词典定义中的LDV单词集来生成。

P向量表示了单词w与词汇表V中其他单词的语义关系，两个P向量之间的几何距离表示了相应单词之间的语义距离。通过对P向量进行层次聚类，可以直观地看到单词之间的语义相似性，例如rat/mouse、tiger/lion/cat等。但这种相似