83、利用DBpedia丰富主题模型

利用DBpedia丰富主题模型

引言

管理大型文档集合对信息检索算法来说是一项具有挑战性的任务。大多数搜索引擎能够找到与搜索查询匹配的正确文档，但将文档进行分组和分类则更为复杂。主要原因之一是通常没有可用于对异构文档集合进行分类的分类法，因此需要从文档集合本身学习分类法模型。为了解决这个问题，已经开发了一系列主题建模算法，其中最著名的是潜在狄利克雷分配（Latent Dirichlet Allocation，LDA）。

主题建模算法试图从文档集合中学习一组主题，以及每个文档中的每个单词属于每个主题的概率。由于主题模型可以挖掘类似于分类法的主题层次结构，并且已被证明能有效做到这一点，因此它们可用于挖掘新知识库（KB）的分类法结构或扩展现有结构。本文尝试弥合主题模型和知识库（在本文具体案例中为DBpedia）之间的差距。我们提出了一种新的主题模型组合——实体 - 主题模型，它仅由知识库中的资源组成，从识别的命名实体开始，并包含其他相关的背景知识。挖掘此类主题模型需要进行有效的特征选择，因为我们会丢失文档中的大量上下文信息。我们优化特征选择，以选择在精度和困惑度方面表现最佳的特征组合。

相关工作

早期有论文将实体作为主题建模的特征而非单词，作者提出了五种新的图形模型来扩展LDA以学习实体 - 主题模型，但这些模型是针对实体预测任务进行评估，而非精度或困惑度。原始的LDA算法没有考虑主题之间的层次依赖关系或文档之间的关系，相关研究分别对这些问题进行了探讨。还有研究将本体概念与自动生成的主题结合在混合模型中，用于标记文档集合。另外，一些方法通过在触发特定规则时增加文档分配到特定主题的概率，将先验知识融入主题模型。

本文的方法与相关工作的不同之处在