qq_27009517的博客

本文将会整合近几年来比较热门的一些文本匹配模型，并以QA_corpus为测试基准，分别进行测试，代码均采用tensorflow进行实现，每个模型均会有理论讲解与代码实现，现已添加到我的github欢迎star项目代码与论文讲解都在持续更新中，如没有找到实现的代码，或相关论文讲解，请给我一首歌的时间DSSM详解：https://blog.youkuaiyun.com/u012526436/article/details/90212287ESIM详解：https://blog.youkuaiyun.com/u01252...

探索使用动态路由的胶囊网络进行文本分类，提出三种策略稳定动态路由来减轻噪音胶囊的分布，这些胶囊可能包含背景信息，或是训练不好。胶囊网络获得很好的分类效果，而且训练多标签的效果好于单标签1 Introduction文章或是句子建模是NLP的基础问题，如果组成，层次，结构都考虑的话，很是复杂。如果一个短语“US election”可能分为政治类，但是无法预测为是否是作者喜欢的，或是作者对于这篇...

转自：https://blog.youkuaiyun.com/liuchonge/article/details/77140719https://blog.youkuaiyun.com/liuchonge/article/details/77585222前面一段时间一直忙着参加知乎看山杯机器学习挑战赛，现在比赛结束了想着总结一下最近的收获。因为这是一个多标签多类别的文本分类问题，而且题目非常适合用深度学习相关的知...

1. attention1. Vaswani A, Shazeer N, Parmar N, et al. Attention Is All You Need[J]. 2017.2. Raffel C, Ellis D P W. Feed-Forward Networks with Attention Can Solve Some Long-Term Memory Problems[J]....

比赛已经结束好久了，准备来总结一下。比赛结果：队名shelley，做了任务一和任务二，排名如下：任务一和任务二差不多，任务三有离散标签和连续标签，效果不太好，期待大牛的分享。自己的模型使用attention和Textcnn。整个处理流程如下：1. 文本预处理去除地名，人名，一般停用词。人名地名，分词好后，根据特定的字过滤。fact_str ...

1. 简述文本分类的方法属于有监督的学习方法，分类过程包括文本预处理、特征抽取、降维、分类和模型评价。本文首先研究了文本分类的背景，中文分词算法。然后是对各种各样的特征抽取进行研究，包括词项频率-逆文档频率和word2vec，降维方法有主成分分析法和潜在索引分析，最后是对分类算法进行研究，包括朴素贝叶斯的多变量贝努利模型和多项式模型，支持向量机和深度学习方法。深度学习方法包括多层感知机，卷积神...

代码：https://github.com/asahi417/DocumentClassificationhttps://github.com/asahi417/DocumentClassification/blob/master/sequence_modeling/model/cnn_char.pyabstract短文本的情感分析挑战：有限的文本信息本文提出DCNN（deep...

实现代码：https://github.com/dennybritz/cnn-text-classification-tfabstract在预先训练好的词向量训练CNN特定任务的词向量有更好的效果1 介绍Introduction深度学习：CV，SR（计算机视觉，语音识别）在自然语言处理中，关于深度学习的工作大都涉及学习词向量代表。1-V的编码的向量通过一个隐含层投影到底...

实现：https://github.com/zonetrooper32/VDCNNAbstractNLP的许多任务的方法是循环神经网络，特别是LSTM，与深层的卷积神经网络相比，这些网络都比较浅，所以我们构建VDCNN，这是字符级的，并且仅用小的卷积和pooling操作，用了29层卷积层。1 IntroductionNLP的任务是处理文本，提取文本，采用不同形式表示相同的信息，我们...

Abstract神经网络已经在句子和文档模型上获得巨大成就，CNN和RNN是两大方法，本论文结合了这两个网络，获得的网络叫C-LSTM，用来表示句子和文本分类。C-LSTM使用CNN抽取高级的短语表示，然后输入到LSTM获得句子表示，C-LSTM可以捕获短语的局部特征，句子的语义信息，代码：https://github.com/zackhy/TextClassification1 In...

code: https://github.com/tgisaturday/Seq2CNN我们的模型Seq2CNN包括两部分，抽取输入文本摘要的序列部分，处理摘要的卷积部分，然后进行分类，Seq2CNN可以分类不同长度的文本，不进行预处理，提出GWS方法进行训练，GWS用在损失函数上。1 Introduction信息分类的重要性。文本分类的应用，垃圾邮件过滤，新闻分类，情感分类。...

神经网络在多任务学习上获得重要进步，目的是学习共享层来提取相同的和任务相关的特征，但是，在现有方法中，提取好的共同特征会受特定任务的特征或任务带来的噪音影响，本文提出对抗多任务学习框架，减轻共享和私有的潜在特征空间互相影响，在16个不同的文本分类上进行试验，效果很好。1 Introduction多任务学习可以提高单任务的性能。最近，基于多任务学习的神经网络在CV和NLP中很流行。但是，...

Hierarchical Attention Networks for Document Classificationabstract提出具有层次级的注意力网络进行文本分类，模型有两个重要特点：1 层次级结构表示文本的层级结构2 应用在词级和句子级的注意力机制，在构造文本表示时可以捕获不同的内容。1 introduction文本分类是自然语言处理的任务之一，目标是给文本贴标...

abstract文本摘要和情感分类都是要捕获文本的重要信息，但是在不同的水平上的。文本摘要是用一些句子表示原始文档，情感分类是给文本贴标签。提出层次级的端到端模型进行摘要抽取和情感分类的联合学习，标签是作为文本摘要抽取的输出，情感分类依赖于摘要抽取， 情感分类放在摘要抽取上面code：http://coai.cs.tsinghua.edu.cn/publications/1 Int...

from：https://richliao.github.io/Text Classification, Part I - Convolutional NetworksText classification is a very classical problem. The goal is to classify documents into a fixed number of predef...