神经网络学习1【原理初解】

记录了解学习神经网络的过程。
总觉得不上手实践就不算做真正学会，学习神经网络，我会先按照书上的讲解，理解后再输出。

1 理解神经网络

首先神经网络是实现机器学习的一种方法。并且，像它的名字一样，它的计算过程是在仿照神经元被激活的过程。但是，计算机并不是真的在思考，说到底，他们只是得到包装的计算器。
我们知道，计算机的优越性体现在计算速度上，但是它却不能够拥有人脑的思考能力，对它而言，简单、方便、快速的只有计算而已。但这也是人类所欠缺的，神经网络就是致力于让计算机利用其优异的计算性能去解决看起来智能的问题，例如识别图片、识别数字这一类的工作。但其本质仍然是经过训练拟合出符合训练集特征的一系列由输入得到输出的计算公式。训练神经网络的过程可以理解为是参数优化的过程。

2 从简单的入手

• 简单的预测机
  
  上图简单的表述了计算机在处理这些问题时看起来的样子和实际上的进行的。就是计算而已。
  再具体一点，用一个简单的预测机来说明：
  

以千米转化为英里的例子，在已知实际数据的情况下，即上图中真实情况表格中给出的（为了严谨，我认为0 ，0的情况还是应该要加上的），我们令：英里 = 千米 * C 。
第一次取C = 0.5，机器得出50英里的答案，这显然是个还不错的答案，但由于我们知道真实值，发现仍有误差，是可以更加精确的！我们可以使用这个误差，指导我们得到第二个、更好的C的预测值。
接下来我们的每一步操作，都将是一个通过误差反馈持续改进C，来得到更接近真实值的过程：

上两图已经详细地展示了尝试的过程，但在最后一步我们发现，误差反而更大了。这样的尝试警示我们，要适度地调整参数值，避免矫枉过正。但如果我们仍不满意于现在的误差，就需要我们具有持续细化误差值的思想，上例中利用百分位再进行进一步的微调，即利用0.61、0.62进一步调整，还可以继续细化来不断提高精确度。
在这里我们其实可以类比，这样持续细化不断精确的思想其实我们早就接触过了，初中的时候，生物课实验用显微镜观察，调整物镜与样片的距离，不就是先粗调再细调最终才达到理想的观察条件。另外，我们综合这些年学习的经验，甚至可以大胆猜测一下，在这里持续细化误差，使得在已知例子中的误差可以无限逼近0，这种情况真的是我们非常期望的吗？答案当然是否，但具体原因我们可以继续探索下去！

1.所有有用的计算机系统都有一个输入和输出，并在输入和输出之间进行某种类型的操作，神经网络也是如此。
2.当我们不能精确知道一些事情如何运作时，我们可以尝试使用模型来估计其运作方式，在模型中，包括了我们可以调整的参数。
3.改进模型的好方法是：基于已知模型和已知真实示例之间的比较，得到模型偏移的误差值，调整参数

• 分类器与预测器并没有太大差别

我们找到了一些样本，测量出他们的特征值，并以横坐标为宽度、纵坐标为长度绘制成上图。在这样的条件下，我们发现可以很容易的描述出两种虫子的特征：毛虫细而长、瓢虫宽而短。
回想上一个换算的例子。该预测器的核心是一个可调节的线性函数，如果在上图坐标系中同样绘制一条线性函数呢？会发现，虽然我们不能使用先前的预测方式，但我们或许可以使用直线将不同性质的事物分开。请注意，因为初始参数任选，所以我们必须使用“或许”，这也是我们思路和上例重合的地方。请看图：


同样我们通过不断尝试改变线性函数的斜率，终于将两种虫子准确地分类了。那么下一次，如果去检测一只未知地虫子，就可以通过它特征值的特点，来对其进行分类！

但是，我们忽略了一个至关重要的问题，如何得到正确的斜率呢？该如何改进不能很好的划分这两种小虫的分界线？

看到这里我们来进行思考，如何得到正确的斜率？遵照上例，大致可猜想出是误差反馈、持续细化误差的思路，但再往深想，就会发现参数的传递似乎不太一样，这里就要用到我们的数学知识啦~！要改进的参数仍然是斜率，但误差的表示并不像上例一样简单粗暴,那突破点就在于如何有效的反馈误差。自己动手试试看?

同时，不要忘记我们为什么开始。这里所讲的预测器、分类器与神经网络有什么关系？想想神经网络的运用环境：识别、过滤、预测等等……其核心难道不就是分类？