昆仑-郑教主的专栏

在tensorflow中提供了tf.get_variable函数来创建或者获取变量。当tf.get_variable用于创建变量时，则与tf.Variable的功能基本相同。#定义的基本等价v = tf.get_variable("v",shape=[1],initializer.constant_initializer(1.0))v = tf.Variable(tf.constant(1

卷积层：与传统全连接层不同，卷积层中每一个节点的输入只是上一层神经网络的一小块。(试图将神经网络中的每一小块进行更加深入地分析从中得到抽象程度更高的特征)在卷积层中：1.过滤器(filter)处理的节点矩阵的长和宽由人工指定；2.处理得到的单位节点矩阵的深度--过滤器的深度；                        (过滤器的尺寸是指过滤器输入节点矩阵的大小；深度是指输出单位节点矩阵

在Tensorflow中通过以下3中方式进行读取数据：1.预加载数据(preloaded data)；2.填充数据(feeding)；3.从文件读取数据(reading from file);1.预加载数据：通常通过定义常量或变量来保存所有数据，缺点：由于直接将数据嵌入数据流图中，当数据量过大时，过于消耗内存；import tensorflow as tfx1 = tf.constant

初始化ExponentialMovingAverage：      1.利用decay(衰减率)，控制模型更新速度；2.为每一个变量付应一个shadow variable, 并且shadow variable的初始值为对应变量的初始值，而shadow variable的值会随着每次运行中相应变量发生更新而变化；shadow variable的值为：shadow_variable = dec

在tensorflow中队列和变量都是用于计算图上有状态的节点；以下为FIFOQueue队列，是一个先进先出队列import tensorflow as tfq = tf.FIFOQueue(3,"int32") #创建一个先进先出的队列init = q.enqueue_many(([2,5,3],)) #通过enqueue_many()函数初始化队列中的元素x = q.

在Tensorflow中通过函数来支持图像的翻转问题；     tf.image.flip_up_down(img_data)   #为图像上下翻转     tf.image.flip_left_right(img_data)   #为图像左右翻转     tf.image.transpose_image(img_data)  #为图像沿对角线翻转     tf.image.ran

图像大小的调整方式：在Tensorflow中通过tf.image.resize_images函数实现；1.双线性插值算法（Bilinear interpolation）;Method取值为：0；2.最近邻居法（Nearest  neighbor interpolation);Method取值为：1；3.双三次插值法（Bicubic interpolation);Method取值为：2；

在Tensorflow中，为解决设定学习率(learning rate)问题，提供了指数衰减法来解决。通过tf.train.exponential_decay函数实现指数衰减学习率。步骤：1.首先使用较大学习率(目的：为快速得到一个比较优的解);             2.然后通过迭代逐步减小学习率(目的：为使模型在训练后期更加稳定);代码实现：decayed_learning_

神经网络的前向传播算法主要构成部分：      1.神经网络的输入；      2.神经网络的连接结构；      3.每个神经元中的参数。                 为剪切图，为表示前向传播过程由输入层的取值推导隐藏层取值，再由隐藏层取值推导输出层取值。通过矩阵乘法计算前向传播算法：输入层为

tf.diag(diagonal,name=None)   #生成对角矩阵import tensorflowas tf;diagonal=[1,1,1,1]with tf.Session() as sess: print(sess.run(tf.diag(diagonal)))  #输出的结果为[[1 0 0 0]  [0 1 0 0]

Tensorflow 提供了7种不同的初始化函数：tf.constant_initializer(value)   #将变量初始化为给定的常量,初始化一切所提供的值。假设在卷积层中，设置偏执项b为0，则写法为:1. bias_initializer=tf.constant_initializer(0)2. bias_initializer=tf.zeros_initialize

Tensorflow中基本算术运算函数如下：tf.add(x,y,name=None)     # 求和运算；import tensorflow as tf;A = 5B = 2with tf.Session() as sess: print(sess.run(tf.add(A,B))) #输出结果为7；tf.subtract(x,y,name=None

由于数据的来源复杂性以及每一个样例中的信息较为丰富，从而需要一种统一的格式来存储数据，然而在Tensorflow中提供了TFReord的格式来统一输入数据的格式。   TFRecord文件中的数据是通过tf.train.Example Protoclo Buffer的格式存储；   tf.train.Example定义为:message Example { Features fe