1、深度学习基础：神经网络与机器学习入门

深度学习基础：神经网络与机器学习入门

一、智能机器的构建愿景

人类大脑是人体中最神奇的器官，它决定了我们感知世界的方式，让我们能够存储记忆、体验情感甚至做梦。没有大脑，我们只是只能做出简单反射的原始生物。婴儿的大脑仅重一磅，却能解决超级计算机都难以完成的问题。出生几个月后，婴儿就能识别父母的面孔、分辨物体与背景，甚至区分不同的声音；一岁时，他们对自然物理有了直觉，能追踪被遮挡的物体，并将声音与特定含义关联起来；到幼儿期，他们对语法有了深入理解，词汇量也达到数千个。

几十年来，我们一直梦想着构建像人类大脑一样的智能机器，如清洁家庭的机器人助手、自动驾驶汽车、自动检测疾病的显微镜等。但构建这些人工智能机器需要解决极其复杂的计算问题，而这些问题人类大脑能在微秒内解决。为了应对这些问题，我们需要采用过去十年发展起来的全新编程技术，即深度学习。

二、传统计算机程序的局限性

传统计算机程序擅长两件事：一是快速进行算术运算，二是严格遵循指令列表。如果要进行大量的财务数据计算，传统程序可以胜任。但如果要编写一个自动识别手写文字的程序，就会面临很大挑战。

以MNIST手写数字数据集为例，虽然数据集中每个数字的书写方式略有不同，但我们能轻松识别出第一行是零，第二行是一等。然而，要编写一个计算机程序来完成这个任务却并非易事。例如，我们可以简单地认为，如果图像只有一个封闭的环，那么它就是零。但这个条件并不充分，因为有些人写的零可能环没有完全封闭，而且很难区分潦草的零和六。此外，区分三与五、四与九等也很困难。我们可以通过仔细观察和反复试验来添加更多规则或特征，但这是一个非常复杂的过程。

许多其他类型的问题，如目标识别、语音理解、自动翻译等，也