神经网络和深度学习的正则化效果检验实验

首先建立一个函数f(x1,x2,x3)，随便划定一个定义域，然后以一定的间隔求出其对应的值。得到训练数据。

接下来训练神经网络，但加上一个x4，其值是随机产生的。然后用这四个输入和对应的输出训练神经网络，预计的结果是x4的权重并不为0。。

而如果加入正则化项后，再次训练可以发现x4的权重变为0或很接近0，反正肯定比上一次训练其权重小的多。

结论：如果实验结果如预想一样，那么说明神经网络并不能滤除多余的不相干的信息，那样就差不多是过拟合，而如果加入正则化后可以适当的降低干扰。