基于图神经网络的中文长文本自动摘要系统研究与实现(学习中)
自然语言处理系列之文本自动摘要技术(七)基于神经网络的抽取式文档摘要方法
自动文本摘要有:
extractive(抽取式的)、abstractive(生成式的)
前者是比较主流、容易的方法
1.抽取式
即从文档中抽取已有的句子形成摘要,语句压缩、组合优化。
2.生成式
生成新的句子,难度更大。
抽取式文档摘要method:
基于单一因素:
- 只考虑句子位置
- Lead Baseline:抽取一篇文档中前面几句话
- Coverage Baseline:轮流从不同文档中第一、第二、…,句话形成摘要。
基于启发式规则:
- 基于经验性公式综合考虑少数几个因素
例如:centroid-based method (考虑了句子包含词语权重、句子位置、句子与首句相似度)
基于神经网络:
-
可利用神经网络模型学习词语、句子的向量表示(抽象特征)
-
然后利用这些特征进行排序(多文档摘要)
还有很多方法,主要学习神经网络方法。
神经网络的方法来做抽取式文档摘要
利用神经网络学习到的特征进行排序
神经网络的方法来做抽取式文档摘要,所有用分类方法和回归的方法都可以替换成神经网络。这里介绍北大和微软韦福如博士合作的一个工作,《Ranking with Recursive Neural Networks and Its Application to Multi-Document Summarization》(使用递归神经网络及其应用程序对多文档摘要进行排序),用神经网络学习句子的向量表示,把句子的向量表示这种抽样特征和传统的特征,放在一起对句子做重要性预测,得到句子重要性分数,基于这个分数去做摘要句子的选择。
基于编码器-解码器框架进行单文档摘要
另外一篇工作是2017《Neural Extractive Summarization with Side Information》,它是用神经网络做抽取式文档摘要,也就是利用神经网络来抽取句子。这篇论文提出的方法是利用编码器-解码器框架进行单文档摘要。其中编码器是对原文编码得到一个语义表示,过程是先用CNN(卷积神经网络)对句子进行编码,然后在对句子序列用RNN(循环神经网络)进行编码,相当于对整个文档进行编码。得到文档后进行解码,解码并不是解出一个词,而是要解码出一个语义序列,语义序列的长度跟文档中句子的个数是一样的。在语义序列中句子如果是0就不应该在文档摘要中,如果是1就应该在文档摘要中。当得到语义序列的时候,就可以把序列中所有为1的句子提取出来放入到摘要中就可以了。虽然这个工作是利用编码器和解码器的框架,其实它输出的是对句子选择的结果
本文探讨了基于图神经网络的中文长文本自动摘要系统,重点介绍了抽取式和生成式两种方法。抽取式方法通过神经网络学习句子向量表示,用于排序和摘要选择,如《Ranking with Recursive Neural Networks》;而生成式方法如编码器-解码器模型,如《Neural Extractive Summarization with Side Information》。研究还提及了LeadBaseline和CoverageBaseline等基础方法,以及现代技术在自动摘要领域的应用。
281

被折叠的 条评论
为什么被折叠?



