阅读理解多选择题模型消除选项的模型 A Model for Eliminating Options for Reading Comprehension

本文介绍了一种新的多选题阅读理解模型ElimiNet。该模型通过模仿人类做题方式,采用排除法来逐步筛选答案选项,提升选择题解答效率。通过引入门控机制判断选项相关性,并训练passage表示与已排除选项正交,以此实现忽略无关信息。

虽然已经此文章的相关翻译,但是感觉介绍的并不清楚,并且本文章把论文的Theano 更改成了tensorflow版本,并且尝试增加bert模型的修改。

含有多个选项的阅读理解,需要人在给定{passage,question}对的前提下,选择n个选项中的最优的一个选择项作为答案。当前的state of the art方法是利用question对passage 进行attention操作得到一个综合表示,然后与选择与选项相似度最高的作为答案。但是人类去做这样的题目不仅集中于选项,主要也采用了排除和选择两种操作。特别,人们首先会消除不相关的选项,然后基于排除的信息再次阅读passage(不再重视消除选项相关的文章内容),这个过程会重复多次只到找到answer,我们构建了ElimiNet模型,尽量去模仿这样的操作。本模型会给定一个gate来决定option是否会被去除,试图训练的passage的represention与被消除的option正交(向量内乘积为0),类似于忽略被删除option对应passage的信息。

 

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值