论文笔记 Question Answering over Freebase via Attentive RNN with Similarity Matrix based CNN

Question Answering over Freebase via Attentive RNN with Similarity Matrix based CNN

https://arxiv.org/vc/arxiv/papers/1804/1804.03317v2.pdf

概述：

随着近年来知识库的快速发展，基于知识库的问答系统吸引了业界的广泛关注。该类问答系统秉承先编码再比较的设计思路，即先将问题和知识库中的三元组联合编码至统一的向量空间，然后在该向量空间内做问题和候选答案间的相似度计算。该类方法简单有效，可操作性比较强，然而忽视了很多自然语言词面的原始信息。

因此，本文提出了一种 Attentive RNN with Similarity Matrix based CNN（AR-SMCNN）模型，利用 RNN 和 CNN 自身的结构特点分层提取有用信息。

文中使用 RNN 的序列建模本质来捕获语义级关联，并使用注意机制同时跟踪实体和关系。同时，文中使用基于 CNN 的相似矩阵和双向池化操作建模数据间空间相关性的强度来计算词语字面的匹配程度。

此外，文中设计了一种新的实体检测启发式扩展方法，大大降低了噪声的影响。文中的方法在准确性和效率上都超越了 SimpleQuestion 基准测试的当前最好水平。

1 介绍

基于知识库的问答系统对终端用户也许很方便，但由于结构化KB和非结构化自然语言问题的差异仍存在挑战性。在论文中，作者主要关注知识库中可以用单一事实回答的问题，在KBQA中也是最常见的类型。目前回答单一关系问题仍有很多未解决的问题，对同一个问题会产生大量释义，会很难将问题映射到KB中的特定三元组。

文中的工作主要基于Freebase，其中三元组以subject-relation-object的形式出现。论文将回答问题分为两步：1）提取问题的主题，对应三元组中的subje