mpk_no1的博客

本文是TensorFlow学习的第二部分，主要学习的是激活函数、损失函数、优化方法和正则项，以及在TensorFlow中的实现。

深度学习笔记——利用深度学习构建社区问答系统之相似问题对匹配

本文主要是结合RNN和Attention Model做一些关于句子对匹配的模型总结。

Attention Model（注意力模型）学习总结，包括soft Attention Model，Global Attention Model和Local Attention Model，静态AM，强制前向AM的一些介绍，以及AM具体实现公式的几个变体及介绍，最后附上了自己用keras实现的一个静态AM的代码。

本文是关于RNN和RNN的变种LSTM、GRU以及BiRN的学习总结。

本文只是在学习TensorFlow前期的一些入门知识总结，并结合一个用TensorFlow实现神经网络的例子来进一步加深对TensorFlow的理解。

本文使用三种深度学习方法对IMDB评论进行情感分析。这三种方法为：MLP、BiRNN（LSTM、GRU）、BiGRU+Attention。

先看一下来自维基百科的介绍：多层感知器（Multilayer Perceptron,缩写MLP）是一种前向结构的人工神经网络，映射一组输入向量到一组输出向量。MLP可以被看作是一个有向图，由多个的节点层所组成，每一层都全连接到下一层。除了输入节点，每个节点都是一个带有非线性激活函数的神经元（或称处理单元）。一种被称为反向传播算法的监督学习方法常被用来训练MLP。MLP是感知器的推广，克服了感知

一直在用Word2vec和Doc2vec做Embedding，但是刚开始用的时候对其原理一直是一知半解，只是知道怎么用而已。古人云：既要知其然，也要知其所以然。所以，结合作者论文，以及网上各位前辈的博客和开源代码之后，抽空写写自己对Word2vec和Doc2vec原理的理解，以及结合代码做一些分析。希望能够有用，有错误也请各位朋友批评指正！

本篇主要用一个实例来介绍一下如何进行Word2vec和Doc2vec的训练，并对Word2vec和Doc2vec模型训练过程中的参数进行一些解读。使用的是Python版本的gensim库实现，想要了解Word2vec和Doc2vec的原理可以查看我的上一篇博客（ 深度学习笔记——Word2vec和Doc2vec原理理解并结合代码分析）。代码见我的GitHub（使用Gensim库训练Word2vec和Doc2vec模型）

本文主要介绍一个Word2vec和Doc2vec应用示例：用Word2vec和Doc2vec做句子相似度计算。

本文是TensorFlow学习的第三部分，参考的是《TensorFlow实战Google深度学习框架》一书，这部分讲述的是使用TensorFlow实现的神经网络进行MNIST手写体数字识别一个实例。这个实例将第二部分讲述的激活函数、损失函数、优化算法、正则化等都运用上了。同时，使用TensorFlow中利用变量名称来创建/获取变量的机制将前向传播的过程抽象出来，使得训练和测试时不需要关心神经网络的结构或是参数；还使用了TensorFlow保存模型的方法将模型持久化（保存），以及加载模型进行预测。