JluTiger316的博客

构建AlphaGo的深度学习技术，通过通俗易懂的方式，进行介绍。并通过Pyhton构建起一个简单的神经网络，通过“说做”结合，一窥深度学习的强大魅力。通过Python实现算法，通过编码的方式，实现两个简单但功能强大的神经网络，以期通过实践的方式让加深对概念和算法的理解。

TensorFlow基本概念使用图（graphs）来表示计算任务在被称之为会话（Session）的上下文（context）中执行图使用tensor表示数据通过变量（Variable）维护状态使用feed和fetch可以为任意的操作赋值或者从其中获取数据

每一张图片包含28*28个像素，我们把这一个数组展开成一个向量，长度是28*28=784。因此在MNIST训练数据集中mnist.train.images是一个形状为[60000，784]的张量，第一个维度数字用来索引图片，第二个维度数字用来索引每张图片的像素点。图片里的某个像素的强度值介于0-1之间。

在TensorFlow中用： tf.nn.sigmoid_cross_entropy_with_logits()来表示跟sigmoid搭配使用的交叉熵。 tf.nn.softmax_cross_entropy_with_logits()来表示跟softmax搭配使用的交叉熵。

TensorBoard 涉及到的运算，通常是在训练庞大的深度神经网络中出现的复杂而又难以理解的运算。为了更方便 TensorFlow 程序的理解、调试与优化，谷歌发布了一套叫做 TensorBoard 的可视化工具。可以用 TensorBoard 来展现你的 TensorFlow 图像，绘制图像生成的定量指标图以及附加数据。

拟合问题，过拟合的处理。优化器的种类以及使用。

传统神经网络存在的问题：1.权值太多，计算量太大。 2.权值太多，需要大量样本进行训练。 1962年哈佛医学院神经生理学家Hubel和Wiesel通过对猫视觉皮层细胞的研究，提出了感受野（receptive field）的概念，1984年日本学者Fukushima基于感受野概念提出的神经认知机（neocognitron）可以看作是卷积神经网络的第一个实现网络，也是感受

关于RNN的介绍可以参考：RNN介绍下面将RNN用于前文所提到的MNIST手写数字识别中。1.获取数据集import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("D:\BaiDu\MNIST_data",one