tensorflow 实现神经网络带正则化

JustAGoodGuy

于 2017-09-26 14:33:17 发布

阅读量1.2k

点赞数

文章标签：神经网络 dnn 正则化 tensorflow

本文链接：https://blog.youkuaiyun.com/mjc13813759744/article/details/78094972

版权

本文通过TensorFlow构建了一个神经网络模型，并应用了正则化（L2正则化）来防止过拟合。首先，从sklearn.datasets加载鸢尾花数据集并进行预处理，接着定义网络参数的初始化函数、激活函数和网络层。然后，构建模型，包括输入层、隐藏层和输出层，并使用梯度下降优化器训练模型。在训练过程中，记录训练损失和测试损失。最后，展示训练和测试损失的变化趋势，并计算模型在训练集和测试集上的准确率。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import matplotlib.pyplot as plt
import numpy as np
import tensorflow as tf
from sklearn import datasets
from tensorflow.python.framework import ops


#data processing
iris_data = datasets.load_iris()
x_vals = iris_data.data      #shape(examples,features)
y_vals = iris_data.target    #shape(examples,)
x = np.transpose(x_vals)     #shape(features,examples)
y = tf.one_hot(y_vals,depth=3,axis=0) #one hot coding
with tf.Session() as sess:
    y = sess.run(y)


train_indices = np.random.choice(len(x_vals),round(len(x_vals)*0.8),replace=False)
test_indices = np.array(list(set(range(len(x_vals))) - set(train_indices)))
x_train = x[:,train_indices]
x_test = x[:,test_indices]
y_train = y[:,train_indices]
y_test = y[:,test_indices]


def initializer_parameters():
    w1=tf.get_variable("w1",[8,4],initializer=tf.contrib.layers.xavier_initializer(dtype=tf.float32))
    b1=tf.get_va

最低0.47元/天解锁文章