超级会员免费看
本文提出一种利用roundtrip一致性生成合成问答语料的方法，通过预训练和fine-tuning提升SQuAD2和NQ任务的性能，创造出新的SOTA。使用BERT模型进行问题生成和答案抽取，并通过一致性检查筛选有效样本。
Abstract
本文介绍一种新颖的生成合成问答语料的方法：
- 结合问题生成模型和答案抽取模型
- 对结果进行过滤以确保 roundtrip consistency.
通过在生成的语料上预训练，我们在 SQuAD2 和 NQ 任务上获得显著提升，并在 NQ 任务上创造了新的 SOTA.
本文提出的问题生成模型和答案抽取模型，可以通过在 SQuAD2 和 NQ 数据集上对 BERT 进行 fine-tune 很容易地复现。
Introduction
我们生成合成问答语料的方法如 表1 所示。对于一个给定的 passage C C
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
