ljp1919的专栏

背景 论文题目：《QANet: Combining Local Convolution with Global Self-Attention for Reading Comprehension》 区别于目前大多数包含注意力机制（attention model）和循环神经网络（RNN）的阅读理解模型，QANet 的嵌入编码器和模型编码器摒弃了 RNN 的复杂递归结构，仅仅使用卷积（convoluti...

0. 简介 BiDAF采用多阶段的、层次化处理，使得可以捕获原文不同粒度的特征。同时使用双向的attention流机制以在无需摘要的情况下获得相关问句和原文之间的表征。 1. 相关工作 现有的端-端机器阅读理解中使用到attention机制有3类。 第一类是动态attention机制。attention权重的动态更新是基于给定的query、contex及其先前的attention。 Hermann...

0. 背景 机构：Facebook 作者：Patrick Lewis 发布地方：arXiv 面向任务：问题生成 论文地址：https://arxiv.org/abs/1906.04980 论文代码：https://github.com/facebookresearch/UnsupervisedQA 0.1 摘要 本文尝试探寻以下2个问题。 (1)对于抽取式问答(EQA)，训练数据集的质量要求是怎么...