主题论文总结4：长文本摘要（持续更新ing...）

诸神缄默不语

已于 2023-05-09 18:57:14 修改

阅读量939

点赞数 1

CC 4.0 BY-SA版权

分类专栏：人工智能学习笔记文章标签：单文档摘要文本摘要 NLP 自然语言处理深度学习

于 2022-05-17 20:22:12 首次发布

本文链接：https://blog.youkuaiyun.com/PolarisRisingWar/article/details/124829157

人工智能学习笔记专栏收录该内容

271 篇文章

订阅专栏

本文概述了作者在2019年至2023年间的研究进展，包括利用discourse-level segmentation进行抽取式摘要的方法、BERT和Transformer架构的改进，以及针对长文档的分治策略、强化学习应用和预训练模型在生成式摘要中的应用。探讨了从抽取式到生成式摘要的转变，重点关注了长序列处理和注意力机制在技术细节中的实现。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

诸神缄默不语-个人优快云博文目录

（这个文章本来是单文本摘要集合，但我觉得这么大的标题实在是毫无存在的意义，所以直接废物利用改成长文本摘要了。
如果之前的博文中有地方没有把链接和标题对应替换完，请联系我修改）
我之前几篇博文中分别写过相关的信息，具体如何解耦和修改我以后再慢慢来。

最近更新时间：2023.5.9
最早更新时间：2023.5.9

1. 抽取

(2019) Exploiting discourse-level segmentation for extractive summarization：discourse-level segmentation + adapted contextual representation model
RNN或Bert
(2020) Discourse-Aware Neural Extractive Text Summarization

2. 抽取 - 具体咋做的还没看

(2021) Globalizing BERT-based Transformer Architectures for Long Document Summarization
(2021) Sliding Selector Network with Dynamic Memory for Extractive Summarization of Long Documents

3. 生成 - 分治

(2018) Deep Communicating Agents for Abstractive Summarization：强化学习。用agent分别处理每个subsection并进行信息交互
(2020) A Divide-and-Conquer Approach to the Summarization of Long Documents

4. 抽取→生成

(2021) Long Document Summarization in a Low Resource Setting using Pretrained Language Models
(2021) Long-Span Summarization via Local Attention and Content Selection

5. 生成 - 具体咋做的还没看

(2021) Hierarchical Learning for Generation with Long Source Sequences
(2021) Efficient attentions for long document summarization
(2022) Long Document Summarization with Top-Down and Bottom-Up Representation Inference