虽然已经此文章的相关翻译,但是感觉介绍的并不清楚,并且本文章把论文的Theano 更改成了tensorflow版本,并且尝试增加bert模型的修改。
含有多个选项的阅读理解,需要人在给定{passage,question}对的前提下,选择n个选项中的最优的一个选择项作为答案。当前的state of the art方法是利用question对passage 进行attention操作得到一个综合表示,然后与选择与选项相似度最高的作为答案。但是人类去做这样的题目不仅集中于选项,主要也采用了排除和选择两种操作。特别,人们首先会消除不相关的选项,然后基于排除的信息再次阅读passage(不再重视消除选项相关的文章内容),这个过程会重复多次只到找到answer,我们构建了ElimiNet模型,尽量去模仿这样的操作。本模型会给定一个gate来决定option是否会被去除,试图训练的passage的represention与被消除的option正交(向量内乘积为0),类似于忽略被删除option对应passage的信息。

本文介绍了一种新的多选题阅读理解模型ElimiNet。该模型通过模仿人类做题方式,采用排除法来逐步筛选答案选项,提升选择题解答效率。通过引入门控机制判断选项相关性,并训练passage表示与已排除选项正交,以此实现忽略无关信息。
1万+

被折叠的 条评论
为什么被折叠?



