qq_41978896的博客

Distributed Representations of Sentences and Documents（Doc2Vec简摘）介绍AlgorithmsParagraph Vector: A distributed memory model优点Many machine learning algorithms require the input to be represented as a fixed-length feature vector. When it comes to texts, one o

Deep Unordered Composition Rivals Syntactic Methods for Text Classification（简摘）摘要成果结论摘要Many existing deep learning models for natural language processing tasks focus on learning the compositionality of their inputs, which requires many expensive computat

深度学习文本分类文献综述摘要介绍1. 文本分类任务2．文本分类中的深度模型2.1 Feed-Forward Neural Networks2.2 RNN-Based Models2.3 CNN-Based Models2.4 Capsule Neural Networks2.5 Models with Attention Mechanism2.6 Memory-Augmented Networks2.7 Transformers2.8 Graph Neural Networks2.9 Siamese Neu

tf.nn.sampled_softmax_loss用法简单介绍在研究Skip-gram模型时遇到了采用方式的softmax，一时没有搞明白，下面做个小案例试一下。tf.nn.sampled_softmax_loss函数的参数类别如下：tf.nn.sampled_softmax_loss( weights, # Shape (num_classes, dim) 神经网络输出层权重 biases,

Distributed Representations of Words and Phrases and their Compositionality 论文简解摘要1.介绍2. Skip-gram 模型2.1 Hierarchical Softmax2.2 Negative Sampling2.3 Subsampling of Frequent Words3. 测试结果4. 总结摘要该文章的主要研究工作是在Skip-gram模型的基础上提出了几种模型的改进方法，可以提升原始Skip-gram模型的训练速

这里写目录标题概述概述

这里写目录标题概述内容背景介绍模型体系架构目标函数推导Smoothing 处理未知词的处理大小写问题定向搜索总结概述该文作者是德国萨尔大学的Thorsten Brants，作者认为Tri-Grams’n’Tages（TnT）可以作为一种有效的词性标记统计方法，并且作者认为基于马尔科夫（Markov model）的标记器理论上性能是和其他模型相当的，此外使用平滑的方法（Smoothing）处理了未出现词的概率。下面我们就来看看该文作者具体是怎么实现的。内容背景介绍语言处理系统都会使用词性标记器进行预处