我是用的是pytorch框架,python3.6, 开发工具pycharm
这里自己造假数据,实现回归模型
一、造数据
import torch
import numpy as np
import matplotlib.pyplot as plt
from torch.nn.functional as F #获得神经网络的激励函数
from torch.autograd import Variable #变量(将张量数据变量化,神经网络只能处理变量)
x = torch.unsqueeze(torch.linspace(-1,1,100),dim=1) #使用unsqueeze将数据转换为二维数据,需要用上dim参数
y = x.pow(2) + 0.2*torch.rand(x.size())
x, y = Variable(x,requires_grad=False), Variable(y,requires_grad=False)
二、搭神经网络
class Net(torch.nn.Module):
def __init__(self, n_feature,n_hidden,n_output):
super(Net, self).__init__()
self.hidden = torch.nn.Linear(n_feature,n_hidden)
self.predict = torch.nn.Linear(n_hidden,n_output)
def forward(self,x):
x = F.relu(self.hidden(x))
x = self.predict(x)
return x
net = Net(1,10,1)
plt.ion()
plt.show()
三、优化神经网络
optimizer = torch.optim.SGD(net.parameters(), lr=0.5)
loss_func = torch.nn.MSELoss() #均方差足以解决回归问题中的误差
四、训练
for t in range(100):
prediction = net(x)
loss = loss_func(prediction, y)
#所有参数的梯度降为为0
optimizer.zero_grad()
#反向传递,给每一个神经元计算出梯度
loss.backward()
#以0.5的学习率来优化梯度
optimizer.step()
#以下为画图代码:
if t % 5 == 0:
plt.cla()
plt.scatter(x.data.numpy(), y.data.numpy())
plt.plot(x.data.numpy(), prediction.data.numpy(), 'r-', lw=5)
plt.text(0.5, 0, 'Loss=%.4f' % loss.data.item(), fontdict={'size':20, 'color':'red'})
plt.pause(0.1)
plt.ioff()
plt.show()
就这样这是一个简单的实现神经网络进行回归训练的实例
训练结果:
上述步骤的第二步,也可以用快速搭建法去实现神经网络的搭建, 这样就省事多了
在这里插入代码片
net = torch.nn.Sequential(
torch.nn.Linear(1,10),
torch.nn.ReLU(),
torch.Linear(10,1),
)