1、参考:神经网络(二) 曲线拟合纯python代码参考(BP算法)
计算智能 作业二
题目:自选非线性分类或曲线拟合问题,用BP网络训练、学习。
自选题目:
下面列表中的数据是某地区20年公路运量数据,其中属性“人口数量”、“机动车数量”和“公路面积”作为输入,属性“公路客运量”和“公路货运量”作为输出。请用神经网络拟合此多输入多输出曲线。
2、结果对比
纯python代码BP算法的结果:
100000步训练后,结果为:
python+Tensorflow Adam优化算法的结果:
100000步训练后,结果为:
优化的更快!可能过拟合
Tensorflow计算图(神经网络模型=拟合函数数学模型)
cmd命令:tensorboard --logdir=C:\temp\log_simple_stats
训练迭代过程中,损失函数值:
注意训练的数据需要正则化
samplein = np.mat([population,vehicle,roadarea]) #3*20
sampleinminmax = np.array([samplein.min(axis=1).T.tolist()[0],samplein.max(axis=1).T.tolist()[0]]).transpose()#3*2
sampleout = np.mat([passengertraffic,freighttraffic])#2*20
sampleoutminmax = np.array([sampleout.min(axis=1).T.tolist()[0],sampleout.max(axis=1).T.tolist()[0]]).transpose()#2*2
sampleinnorm = (2*(np.array(samplein.T)-sampleinminmax.transpose()[0])/(sampleinminmax.transpose()[1]-sampleinminmax.transpose()[0])-1).transpose()
sampleoutnorm = (2*(np.array(sampleout.T).astype(float)-sampleoutminmax.transpose()[0])/(sampleoutminmax.transpose()[1]-sampleoutminmax.transpose()[0])-1).transpose()
注意正则化时,公式分母不能为0
上面公式中的2* 和-1可以没有
3、python+Tensorflow代码
# coding=utf-8
import os
os.environ["TF_CPP_MIN_LOG_LEVEL"]='2'