emmmmmm

今天实现了一下MLP。先说几个函数的用法。1、在最小化损失的时候，经常使用的一个函数就是tf.nn.softmax_cross_entropy_with_logits(logits=,labels=,name=None).除去name参数用以指定该操作的name，与方法有关的一共两个参数：第一个参数logits：就是神经网络最后一层的输出，如果有batch的话，它的大小就是[batchsi...

昨天做的MLP，网络中每一层都没用任何激活函数，所以输出层的结果_logits中的部分数值比较大(绝对值在3000左右)。最后使用softmax函数对输出层进行处理得到各个结果的概率，发现训练的结果很不理想，准确率在50%以下。最后发现softmax的结果大部分是[0,0,0,0,0,1,0,0,0,0]这种单位向量。最后又看了看softmax，softmax函数的定义如下：         ...

RNN简介RNN结构Back Propagation Through Time(BPTT)训练Long Short-Term Memory(LSTM，长短时记忆网络)上文的介绍转自RNN-循环神经网络和LSTM-01基础。下面是我用tensorflow实现的一个简单RNN的样例。from __future__ import ...

先看一下tensorflow.nn.conv2d 的说明：tf.nn.conv2d 卷积函数参数 input 输入图像 四维，shape如[batch, in_height, in_width, in_channels] 参数 filter 卷积核 四维，shape如[filter_height, filter_width, in_channels, out_channels] 参数 ...

CNN看的差不多了，直接上代码吧，CNN的介绍什么的就不发了，参考这篇博客，讲的很清楚。有一点需要明确的是卷积核应该是[宽，高，通道数量，filter数量]四维。可以看着下面这张非常有名的图理解一下：下面是代码，还是用MNIST数据集，数据集的下载和说明可以翻我以前的博客，不再一直说了，两个卷积层，一个全连接层。其他的练习都在https://github.com/IMLHF/tensorf...