weixin_42055967的博客

本文只计算一个权重W0_00的梯度，因此只画出涉及到W0_00的forward路线。BP算法就是更方便的计算出神经网络参数的梯度。 定义网络 z1=x0*w0_00 a1=sigmoid(z1) z2=a1*w1_00 a2=sigmoid(z2) p1=a2 z3=a1*w1_01 a3=sigmoid(z3) p2=a3 import numpy as np W0 = np.array(...

0 涉及全部代码和tf版本(2.1.0) import tensorflow as tf print(tf.__version__) def fun(x1, x2): return 8 * x1 + 6 * x2 x1 = tf.Variable(1.0) x2 = tf.Variable(1.0) with tf.GradientTape(persistent = True) as...

1 layer = tf.keras.layers.Dense(10) 这是最基本便捷使用方法，10对应的是units这个参数。表示该层有多少个神经单元。同时也是与上一层连接的W的列数。这一点可以从矩阵乘法得到 2 layer = tf.keras.layers.Dense(10,input_shape=(None,5)) 这种指定一般使用在与输入层连接的部分，指定明确。input_shape的...