17、搭配发现中的假设检验与互信息分析

搭配发现中的假设检验与互信息分析

在语言研究中，发现有趣的搭配对于理解语言结构和语义关系至关重要。本文将介绍几种用于搭配发现的统计方法，包括似然比检验、相对频率比和互信息，并分析它们的优缺点。

1. 似然比检验

似然比检验是一种用于假设检验的方法，在搭配发现中具有重要应用。与t检验类似，它用于评估两个假设之间的可能性。在搭配发现中，我们通常考虑以下两个假设：
- 假设1 ：两个词的出现是独立的。
- 假设2 ：两个词的出现是相关的，这是有趣搭配的有力证据。

假设我们有一个语料库，我们可以计算在这两个假设下观察到的词频的似然性。假设二项分布，我们可以得到以下似然性公式：
- 对于假设1：$L_1 = {n_{w_1w_2} \choose n_{w_1w_2}} p^{n_{w_1w_2}} (1 - p)^{N - n_{w_1w_2}}$
- 对于假设2：$L_2 = {n_{w_1w_2} \choose n_{w_1w_2}} p_1^{n_{w_1w_2}} (1 - p_1)^{N - n_{w_1w_2}}$

其中，$n_{w_1w_2}$ 是 $w_1w_2$ 的出现次数，$N$ 是语料库的大小，$p$ 和 $p_1$ 是相应的概率。

似然比 $\lambda$ 定义为：
$\lambda = \frac{L_1}{L_2}$

而对数似然比 $\log \lambda$ 可以表示为：
$\log \lambda = \log \frac{L_1}{L_2}$

<