
自然语言处理
垮掉的一代人
NLP and WEB developer
展开
-
开放域机器阅读理解近期进展-EMNLP2019 SemanticRetrievalMR和GoldEn Retriever
开放域QA从大规模无监督文本中(千万级以上)通过检索+机器阅读理解的方法已经成为当前学术界和工业界研究的热点。一方面存在很多挑战,另一方面对于实际开放域问答有着非常重要的现实意义。目前主流检索平台(百度,谷歌,bing)已经实现和应用相关技术在线上的产品中。存在的挑战1.一次检索,并不能检索出问题的所用支撑事实。提高第一次检索的准确率和产生多次相关检索成为该问题的研究重点。2. 如何中到的...原创 2019-11-12 14:06:58 · 772 阅读 · 0 评论 -
ALBERT 与ELECTRA,小排量的大飞机
前言随着BERT的横空出世,目前越来越多优秀的预训练语言模型涌现出来,学习的步伐跟不上发展的速度。BERT 刚出来时,感觉,可预期的时间内,只要预训练目标任务足够好,相信效果会有更进一步提升。预训练语言模型名称特点机构ELMO自回归语言模型,双层BiLSTMAllenNLPBERT自编码语言模型,Transformer谷歌GPT,GPT 2.0自...原创 2019-11-03 16:13:04 · 1720 阅读 · 0 评论 -
ACL 2018 和 2018 AAAI 接受关于知识图谱的论文简述
Variational Reasoning for Question Answering with Knowledge Graph原创 2018-05-08 19:07:34 · 2910 阅读 · 0 评论