不想做咸鱼的咸鱼的专栏

1、激活函数的作用 如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合，这种情况就是最原始的感知机。 如果使用的话，激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，这样神经网络就可以应用到众多的非线性模型中。某些数据是线性可分的，比如下图。 图片来源 对于线性不...

从入职以来一直在慢慢研究深度学习方面的知识，但是大多是在已有模型进行一些简单的修改，实际动手写模型成为了很大的困难，所以在此以一些书和博客为例子，自己手动从开始好好系统学习一下。1、下面这个例子主要简单的介绍了graph和reuse=true的不同情况的区别,参考《Tensorflow实战Google深度学习框架》p40页 tensorflow通过tf.Graph函数来生成新的计算图，不同的...

下面这个代码结构就比较清晰了# _*_ encoding=utf8 _*_import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data# minst数据集相关的常数INPUT_NODE = 784 # 输入层的节点数，等于minst数据集，这个就等于图片的像素OUTP...

参考《Tensorflow实战Google深度学习框架》的一个cnn实现mnist的例子from tensorflow.examples.tutorials.mnist import input_dataimport tensorflow as tfmnist = input_data.read_data_sets("data/", one_hot=True) # 读取图片数据集...

TextCnn的学习1、TextCnn的论文2、TextCnn的理解3、TextCnn的数据准备4、TextCnn的网络结构5、TextCnn的代码1、TextCnn的论文论文地址： Convolutional Neural Networks for Sentence Classificationhttps://arxiv.org/pdf/1408.5882.pdfA Sensiti...

LeNet-5的学习1、LeNet-5的成就2、LeNet-5的优点3、LeNet-5的网络图4、LeNet-5的代码1、LeNet-5的成就LeNet-5是Yann LeCun在1998年设计的用于手写数字识别的卷积神经网络，当年美国大多数银行就是用它来识别支票上面的手写数字的，它是早期卷积神经网络中最有代表性的实验系统之一,LeNet-5在MNIST数据集上可以达到99.2%的准确率。2...

lstm实现sin函数构造数据创建模型验证模型sin函数可以看做是一个序列的图线，并且sin函数是一个连续的曲线，循环神经网络的预测是离散的时刻取值，为了模拟出sin函数这种连续的图线，所以需要将连续的sin函数曲线离散化，也就是在某一个区间内找到有限个点来大致描绘出sin函数曲线的样子。构造数据为了模拟出sin函数，那么首先需要对sin函数的数据进行采样，TRAINING_EXAMPLES...

lstm实现困惑度困惑度是什么具体实现数据准备vocabWord2idbatch_data模型的配置困惑度是什么通常在永ngram语言模型的时候，通常用困惑度来描述这个query的通顺程序，ngram是一个统计概率模型。但是ngram模型有一个缺点，就是通常我们使用的是2-gram或者3-gram，那么对于大于3个字或词以上的信息就不能捕获到了，但是循环神经网络可以将任意长度的信息都捕获到，...