tensorflow中SGDM优化器用法

最新推荐文章于 2025-10-28 11:53:48 发布

原创

最新推荐文章于 2025-10-28 11:53:48 发布 · 2.4k 阅读

5 ·

CC 4.0 BY-SA版权

文章标签：

#神经网络 #python #tensorflow #深度学习 #机器学习

本文详细介绍了SGDM优化器在TensorFlow框架中的具体实现方式，通过实例演示了如何利用SGDM优化器对Iris数据集进行分类任务。从参数设置、数据预处理到模型训练和测试，全面展示了SGDM优化器的工作原理和效果。

tensorflow中SGDM优化器用法

每一时刻的一阶动量mt都有上一时刻的一阶动量m(t-1)和当前的梯度gt决定

实现代码：

#SGDM

beta = 0.9 #引入权重，是个超参数，经验值是0.9

m_w = beta * m_w + (1 - beta) * grads[0] #一阶动量加上权重beta，二阶动量加上权重(1 - beta),grads[0]是loss对w1的偏导

m_b = beta * m_b + (1 - beta) * grads[1] #一阶动量加上权重beta，二阶动量加上权重(1 - beta)，grads[1]是loss对b1的偏导

w1.assign_sub(learning_rate * m_w) #进行参数w1更新

b1.assign_sub(learning_rate * m_b) #进行参数b1更新

SGDM优化器实现iris数据集分类：

#导入模块
import tensorflow as tf #导入tensorflow模块

from sklearn import datasets #导入sklearn中的datasets模块，方便下载内置的iris数据集

from matplotlib import pyplot as plt #导入matplotlib中的pyplot，待会画图

import numpy as np #导入numpy模块做数学运算

import time #导入时间模块，用来计时

#导入数据
x_data = datasets.load_iris().data #导入iris数据集的特征

y_data = datasets.load_iris().target #导入iris数据集的标签

#随机打乱顺序，使训练更具准确性
np.random.seed(120)#调用numpy中的random方法里的seed方法，赋值120，使输入特征和标签能够一一对应

np.random.shuffle(x_data) #调用numpy中的random方法里的shuffle方法，将训练集x_data里的特征值乱序

np.random.seed(120)#调用numpy中的random方法里的seed方法，赋值120，使输入特征和标签能够一一对应

np.random.shuffle(y_data) #调用numpy中的random方法里的shuffle方法，将测试集y_data里的标签乱序

tf.random.set_seed(120)#调用tensorflow中的random方法里的set_seed方法，赋值120

#划分数据集
x_train = x_data[:-30] #将iris数据集（特征，共150行，此时已打乱）前120行作为训练集x_train

y_train = y_data[:-30] #将iris数据集（标签，共150行，此时已打乱）前1