2. MNIST数据集

1.多层感知机模型
2.MNIST 数据集
MNIST数据集使用［28，28］的二维数组来表示每张图像，数组中的每个元素对应一个像素点。该数据集中的图像都是256阶灰度图，像素值0表示白色（背景），255表示黑色（前景）。由于每张图像的尺寸都是28x28像素，为了方便连续存储，我们可以将形如［28，28］的二维数组“摊平”成形如［784］的一维数组。数组中的784个元素共同组成了一个784维的一维向量。
数据集链接：http://yann.lecun.com/exdb/mnist/
（1）导入MNIST 数据集

from tensorflow.examples.tutorials.mnist import input_data
mnist =input_data.read_data_sets("MINIST_dat/",one_hot=True)
import tensorflow as tf

输出：
Extracting MINIST_dat/train-images-idx3-ubyte.gz
Extracting MINIST_dat/train-labels-idx1-ubyte.gz
Extracting MINIST_dat/t10k-images-idx3-ubyte.gz
Extracting MINIST_dat/t10k-labels-idx1-ubyte.gz

（2）设置参数

# 超参数
learning_rate = 0.1#学习率
num_steps = 500#训练500次
batch_size = 128#每一次参与训练的有128张图片
display_step = 100#展示100步

# 神经网络参数
n_hidden_1 = 256 # 第一层神经元个数
n_hidden_2 = 256 # 第二层神经元个数
num_input = 784 # MNIST 输入数据(图像大小: 28*28)
num_classes = 10 # MNIST 手写体数字类别 (0-9)

# 输入到数据流图中的训练数据
X = tf.placeholder("float", [None, num_input])#784维的一维数组，二维数组的其中一个设置为None表示是可变长的动态数组
Y = tf.placeholder("float", [None, num_classes])#此处的None表示128

# 权重和偏置
weights = {
    'h1': tf.Variable(tf.random_normal([num_input, n_hidden_1])),
    'h2': tf.Variable(tf.random_normal([n_hidden_1, n_hidden_2])),
    'out': tf.Variable(tf.random_normal([n_hidden_2, num_classes]))
}
biases = {
    'b1': tf.Variable(tf.random_normal([n_hidden_1])),
    'b2': tf.Variable(tf.random_normal([n_hidden_2])),
    'out': tf.Variable(tf.random_normal([num_classes]))
}

（3）定义

# 定义神经网络
def neural_net(x):
    # 第一层隐藏层（256个神经元）
    layer_1 = tf.add(tf.matmul(x, weights['h1']), biases['b1'])
    # 第二层隐藏层（256个神经元）
    layer_2 = tf.add(tf.matmul(layer_1, weights['h2']), biases['b2'])
    # 输出层
    out_layer = tf.matmul(layer_2, weights['out']) + biases['out']
    return out_layer

# 构建模型
logits = neural_net(X)#X为128*10

# 定义损失函数和优化器
loss_op = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(
    logits=logits, labels=Y))#交叉熵损失，logits为预测算出来的，Y为真实的类别
optimizer = tf.train.AdamOptimizer(learning_rate=learning_rate)#梯度下降
train_op = optimizer.minimize(loss_op)

# 定义预测准确率
correct_pred = tf.equal(tf.argmax(logits, 1), tf.argmax(Y, 1))
accuracy = tf.reduce_mean(tf.cast(correct_pred, tf.float32))

# 初始化所有变量（赋默认值）
init = tf.global_variables_initializer()

（4）开始训练

with tf.Session() as sess:

    # 执行初始化操作
    sess.run(init)

    for step in range(1, num_steps+1):
        batch_x, batch_y = mnist.train.next_batch(batch_size)
        # 执行训练操作，包括前向和后向传播
        sess.run(train_op, feed_dict={X: batch_x, Y: batch_y})
        if step % display_step == 0 or step == 1:
            # 计算损失值和准确率
            loss, acc = sess.run([loss_op, accuracy], feed_dict={X: batch_x,
                                                                 Y: batch_y})
            print("Step " + str(step) + ", Minibatch Loss= " + \
                  "{:.4f}".format(loss) + ", Training Accuracy= " + \
                  "{:.3f}".format(acc))

    print("Optimization Finished!")

    # 计算测试数据的准确率
    print("Testing Accuracy:", \
        sess.run(accuracy, feed_dict={X: mnist.test.images,
                                      Y: mnist.test.labels}))

（5）运行输出：

Step 1, Minibatch Loss= 7265.4731, Training Accuracy= 0.430
Step 100, Minibatch Loss= 438.3681, Training Accuracy= 0.891
Step 200, Minibatch Loss= 126.7148, Training Accuracy= 0.891
Step 300, Minibatch Loss= 57.9595, Training Accuracy= 0.875
Step 400, Minibatch Loss= 54.8544, Training Accuracy= 0.891
Step 500, Minibatch Loss= 67.2014, Training Accuracy= 0.906
Optimization Finished!
Testing Accuracy: 0.885

注意：由于模型设置的比较简单，所以得到的准确率不是很理想。这只是个简单的例子，入门一下TensorFlow是怎么构建神经网络的。

代码下载：https://download.youkuaiyun.com/download/qq_38314289/12373676

说明：学习视频链接https://www.bilibili.com/video/BV194411T7BB?p=11
，这个视频讲解的比较好，从头到尾观看下来，跟着视频实际操作一下，就很容易上手了。