第一章：什么是深度学习

人工智能、机器学习与深度学习

定义

• 人工智能
  努力将通常由人类完成的智力任务自动化

• 机器学习
  在预先定义好的可能性空间中，利用反馈信号的指引来寻找输入数据的有用表示。
  利用机器学习，人们输入的是数据和从这些数据中预期得到的答案，系统输出的是规则。这些规则随后可应用于新的数据，并使计算机自主生成答案。

• 深度学习
  深度学习是机器学习的一个分支领域：它是从数据中学习表示的一种新方法，强调从连续的层（layer）中进行学习，这些层对应于越来越有意义的表示。“深度学习”中的“深度”指的并不是利用这种方法所获取的更深层次的理解，而是指一系列连续的表示层。数据模型中包含多少层，这被称为模型的深度（depth）。
  深度学习中，这些分层表示几乎总是通过叫作神经网络（neural network）的模型来学习得到的。

深度学习基本概念

神经网络中每层对输入数据所做的具体操作保存在该层的权重(weight）中，其本质是一串数字。用术语来说，每层实现的变换由其权重来参数化。权重有时也被称为该层的参数。在这种语境下，学习的意思是为神经网络的所有层找到一组权重值，使得该网络能够将每个示例输入与其目标正确地一一对应。
想要控制神经网络的输出，就需要能够衡量该输出与预期值之间的距离。这是神经网络损失函数 （loss function）的任务，该函数也叫目标函数（objective function）。