跟着问题学1——传统神经网络-线性回归及代码详解

相关文章

跟着问题学2——传统神经网络-多层感知机详解-优快云博客
跟着问题学3——卷积神经网络详解-优快云博客

问题

深度学习属于机器学习的一个子集，可以分为无监督学习、强化学习和有监督学习。在无监督学习中，由于缺乏足够的先验知识，有些数据难以进行人工标注类别或是标注成本过高，所以无监督算法通常是基于无标签数据 x 隐式的或是显式的学习数据中的概率分布。在有监督学习中，输入的数据必须是带有真实标签的样本集合，样本 x 和标签 y 必须是一一对应关系。监督算法通过学习 x 和 y 的对应关系，从中发现有效的特征分布，从而具备基于输入 x 预测输出近似y的结果。在强化学习中，样本数据更加复杂，比如在许多状态决策或是智能控制的问题上，所研究的数据通常都是结构化无规则的。强化学习当前的研究也十分火热，应用领域包括工业控制、机器人控制和网络路由。

从指鹿为马说起

朝堂之上，赵高命人牵来一匹鹿，指着它大声说这是献给皇帝的一匹马，秦二世不信，遂令大臣发表意见。惧怕赵高权势的大臣纷纷附和说是马，刚直不阿的大臣坚持说是鹿。若非被蒙住了心眼，人们很容易能够区分眼前的动物出是鹿是马，为什么呢？因为鹿和马的差异很大，鹿头上有角，体型，毛皮，色泽，四肢特征都不一样。因此我们可以说，马和鹿的特征不同，人类很容易区分。那么如果想让计算机区分一个动物是鹿是马该如何做呢？特征该怎样表示说明，又该如何根据这些特征进行判断呢？

  再比如红楼梦里的名场面，对于未见人面先闻笑声的凤姐，老太太他们能够一下子辨认出是凤姐，而小黛玉却只能在心里暗暗打鼓，“是谁如此大大咧咧”。老太太他们为什么能够通过笑声分辨而黛玉却不能呢？无非就是因为她们已经熟悉的凤姐的笑声的“特点”，而每个人的笑声都是不一样的，特征自然也是不一样的。同样地，如果把这些声音给到计算机，是否能区分是谁发出的声音呢？再进一步，如果说是说的话，是否能辨别出说的是什么呢？

上面我们讲的只是生活中习以为常并未过多关注的例子，在耳濡目染中经过大量的实物和例子自然习得的经验，并未挖掘揭示背后的规律。另一方面，也有很多人格物致知，尝试在大量经验的基础上归纳分析从而获得规律，揭示现在，预示未来，比如通过大量观察，发现月亮会在一个月的时间内经历完整的圆缺过程，那么就可以判断，每个月的十五附近都会是月亮最圆的时候。

近代以来，科学家们开始更加主动地观测收集自然界中存在的数据，记录做实验产生大量的数据，并希望通过分析这些数据，找到其内在规律。比如在天文学研究方面的开普勒三定律，就是德国天文学家开普勒在丹麦天文学家第谷大量精确的观测数据的基础上，历经多年艰辛的推导计算，终于推导出了开普勒三定律。再比如高中课本上的遗传定律，也是孟德尔多年进行豌豆杂交实验，并研究分析实验数据归纳推理出的。

上面这些数据，我们可以从中总结归纳出具体的公式或定律，而且输入也是明确的，在给定输入的情况下，我们可以很轻易且准确地得到结果。

不过在当今这个信息时代，人们面对海量杂乱的数据，想要从中推理出内在规律，并利用公式或定律的方式进行描述的难度是无法想象的。这个时候人们又把目光瞄向了自己，在没有公式的前提下，对于这些庞杂的数据，人类自己是怎么指鹿为鹿，区分凤姐的笑声的？伴随着计算机计算能力和存储能力的飞速提升，关于人工智能的研究也就获得了飞速的发展。

年代  数据样本个数  内存  每秒浮点计算数

1970  100（Iris）           1 KB       100 K（Intel 8080）

1980  1 K（波士顿房价）    100 KB     1 M（Intel 80186）

1990  10 K（