tensorflow中SGD(无momentum)优化器运用

tensorflow中SGD(无momentum)优化器运用

 SGD(无momentum)优化器引用API：tensorflow.keras.optimizers.SGD

 

 代码实现：

#SGD(无monentum)

w1.assign_sub(learning_rate * grads[0])  #learning_rate是学习率，这里的grads[0]是一阶动量除以二阶动量的开根号。且一阶动量等于梯度下降，二阶动量这里为0。因此这里的grads[0]代表梯度下降，而梯度下降等于loss对w1的偏导。

b1.assign_sub(learning_rate * grads[1]) #learning_rate是学习率，这里的grads[0]是一阶动量除以二阶动量的开根号。且一阶动量等于梯度下降，二阶动量这里为0。因此这里的grads[0]代表梯度下降，而梯度下降等于loss对b1的偏导。

 SGD(无monentum)优化器实现iris数据集分类：

#导入模块
import tensorflow as tf #导入tensorflow模块

from sklearn import datasets #导入sklearn中的datasets模块，方便下载内置的iris数据集

from matplotlib import pyplot as plt #导入matplotlib中的pyplot，待会画图

import numpy as np #导入numpy模块做数学运算

import time #导入时间模块，用来计时

#导入数据
x_data = datasets.load_iris().data #导入iris数据集的特征

y_data = datasets.load_iris().target #导入iris数据集的标签

#随机打乱顺序，使训练更具准确性
np.random.seed(120)#调用numpy中的random方法里的seed方法，赋值120，使输入特征和标签能够一一对应

np.random.shuffle(x_data) #调用numpy中的random方法里的shuffle方法，将训练集x_data里的特征值乱序

np.random.seed(120)#调用numpy中的random方法里的seed方法，赋值120，使输入特征和标签能够一一对应

np.random.shuffle(y_data) #调用numpy中的rando