Star_Platinum的博客

MNIST手写数字集识别一个完整的TensorFlow程序来解决MNIST手写体数字识别问题。用到了带指数衰减的学习率设置、正则化避免过拟合，以及滑动平均模型来增加模型鲁棒性。1、第一次运行下面的代码会TensorFlow会自动下载数据集到下面的路径中，再用one_hot参数将y集热点化。自动下载不成功的可以去http://yann.lecun.com/exdb/mnist/ 下载，下...

网络结构分析 其中Inception模块组结构如下：完整模型如下：代码实现1、导入模块import tensorflow as tfimport tensorflow.contrib.slim as slimfrom datetime import datetimeimport mathimport time2、实现一个简单的函数tru...

3.4 TensorFlow实现神经网络使用神经网络解决分类问题可以分为以下四步： 1.提取问题中实体的特征向量作为神经网络的输入 2.定义神经网络的结构，并定义如何从神经网络的输入得到输出（前向传播） 3.通过训练数据来调整神经网络中的参数（反向传播） 4.使用训练好的数据来预测未知的数据 整个过程分需要三部分信息： 第一个部分是神经网络的输入，这个输入就是从实体中获取的特征...

跳过了深度学习和TensorFlow安装的两章TensorFlow入门3.1 TensorFlow计算模型计算图3.1.1计算图的概念 TensorFlow这个名字中Tensor意思是张量，表面TensorFlow的数据结构。Flow是流，表示张量之间通过计算相互转换。TensorFlow是一个通过计算图来表述计算的编程系统。其中每一个计算都是图上的一个节点，节点之间的边描述了的依赖...

导入模块和数据import numpy as npimport sklearn.preprocessing as prepimport tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_data这里的自编码器采用Xavier initialization方法初始化参数，需要先定义好它。Xavie...

TensorFlow迁移学习的步骤1、获取（你要训练的）数据集2、获取模型（bp文件加载）3、获取迁移后的输出张量bottleneck_tensor和输入张量jpeg_data_tensor（这一步同时也会获取jpeg_data_tensor到bottleneck_tensor的计算模型，这里称为model1）4、根据bottleneck_tensor的维度定义mo...

使用LeNet-5模型实现MNIST手写数字识别，其神经网络架构如下： 一、详细介绍LeNet-5模型每一层的结构第一层，卷积层这一层输入原始的图像像素，接受的输入层大小为32*32*1，第一个卷积层过滤器尺寸为5*5,共6个，不使用全0填充，步长为1。输出尺寸为32-5+1=28，为28*28*6的矩阵。这一个卷积层共有5*5*1*6+6=156个参数（过滤器权重为5*5*1*...

TensorFlow模型持久化模型持久化的目的：为了让训练完的模型可以在下次使用 TensorFlow提供了一个非常简单的API来保存和还原一个神经网络，这个API类就是tf.train.Saver类。以下是保存TensorFlow计算图的方法。变量的持久化1、保存变量（实际上也是保存计算图）saver.save(sess, “../save_data/model.ckpt...

因为本人是自学深度学习的，有什么说的不对的地方望大神指出指数加权平均算法的原理TensorFlow中的滑动平均模型使用的是滑动平均（Moving Average）算法，又称为指数加权移动平均算法（exponenentially weighted average），这也是ExponentialMovingAverage()函数的名称由来。 先来看一个简单的例子，这个例子来自吴恩达老师的De...

4.4.1 学习率的设置学习率过大会导致参数在靠近最优值的时候来回摆动，过小会导致参数迭代速度太慢，TensorFlow针对这种问题提供了一种更加灵活的学习率设置方法——指数衰减法。 指数衰减法先用较大的学习率来获得较优解，随着迭代逐步减小学习率，使得模型在后期更加稳定地接近最优解。这个方法即是tf.tarin.exponential_decay(),它实现了以下代码的功能 decay...