人工智能简史第五章：第三次浪潮期-2006年以后

第三次人工智能浪潮兴起的标志可能要数2006年杰弗里·辛顿（Geoffrey Hinton）等人提出的深度学习，或者说Hinton等人吹响了这次浪潮的号角。与之前最大的不同，这次引领浪潮冲锋的是企业：塞巴斯蒂安·特龙（Sebastian Thrun）在谷歌领导了自动驾驶汽车项目；IBM 的沃森（Watson）于 2011 年在《危险边缘》（Jeopardy）中战胜人类、获得冠军；苹果在 2011 年推出了自然语言问答工具 Siri 等；2016年谷歌旗下DeepMind公司推出的阿尔法围棋（AlphaGo）战胜围棋世界冠军李世石等。可以说这次人工智能浪潮的影响是前所未有的。

5.1波士顿动力公司（Boston Dynamics）

波士顿动力公司（Boston Dynamics）创办时是一家美国的工程与机器人设计公司，此公司的著名产品包含在国防高等研究计划署（DARPA）出资下替美国军方开发的四足机器人：波士顿机械狗，以及DI-Guy，一套用于写实人类模拟的现成软件（COTS）。此公司早期曾和美国系统公司一同接受来自美国海军航空作战中心训练处（NAWCTSD）的一份合约，该合约的内容是要以DI-Guy人物的互动式3D电脑模拟，取代海军飞机弹射任务训练影片。

该公司由Marc Raibert和其合伙人一起创办。Marc Raibert是著名的机器人学家。其28岁毕业于MIT，随后在CMU担任过副教授，并且在那里建立了CMUleg实验室研究与机器人有关的控制和视觉处理相关的技术。在37岁时回到MIT的继续从事机器人相关的科研和教学工作。在1992年，其与合伙人一起创办了Boston Dynamics这家公司，开启了机器人研究的新纪元。

波士顿动力公司于 2005 年推出一款四足机器人——big Dog ，它被人们亲切地称为 “大狗”，也正是这款四足机器人让波士顿动力公司名声大噪。大狗抛开传统的轮式或履带式机器人，转而研究四足机器人，是因为四足机器人能够适应更多地形地貌，通过性能更强。同时，在波士顿动力公司发布的宣传视频中，Big Dog 在装载着重物的情况下，仍能对人类从其侧面的踢踹做出灵敏的反应，始终保持站立的姿态。

在2013年12月13日，波士顿动力公司被Google收购。2017年6月9日软银以不公开的条款收购谷歌母公司Alphabet旗下的波士顿动力公司。

5.2迁移学习（Transfer Learning）

迁移学习是机器学习的一个重要分支，是指利用数据、任务、或模型之间的相似性，将在原领域学习过的模型，应用于新领域的一种学习过程。比如我们大部分人学摩托车的时候，都是把骑自行车的经验迁移了过来。

2010年Sinno Jialin Pan和 Qiang Yang发表文章《迁移学习的调查》，详细介绍了迁移学习的分类问题。当以迁移学习的场景为标准时分为三类：归纳式迁移学习（Inductive Transfer Learning）、直推式迁移学习（Transductive Transfer Learning）、和直推式迁移学习(Unsupervised Transfer Learning)。

深度迁移学习主要就是模型的迁移，一个最简单最常用的方法就是fine-tuning，就是利用别人已经训练好的网络，针对目标任务再进行调整。近年来大火的BERT、GPT、XLNET等都是首先在大量语料上进行预训练，然后在目标任务上进行fine-tuning。

5.3 IBM沃森挑战史上最强Jeopardy！（IBM Watson wins Jeopardy！）

Watson是一种能够回答自然语言提出的问题的问答计算机系统，由主要研究员David Ferrucci领导的研究小组在IBM的DeepQA项目中开发。Watson以IBM的创始人兼第一任首席执行官工业家Thomas J. Watson的名字命名。

最初开发Watson计算机系统是为了回答测验节目 Jeopardy！中的问题，并且在2011年参与Jeopardy比赛与与冠军布拉德·鲁特（Brad Rutter）和肯·詹宁斯（Ken Jennings）竞争。最终赢得了胜利赢得一百万美元的冠军奖金。

Waston运行机制：Watson是作为问题解答（QA）计算系统被创建的，它将高级自然语言处理，信息检索，知识表示，自动推理和机器学习技术应用于开放域问题解答领域。

QA技术与文档搜索之间的主要区别在于，文档搜索采用关键字查询并返回按与查询相关性排序的文档列表（通常基于受欢迎程度和页面排名），而QA技术则采用于自然语言，试图更详细地理解它，以此反馈出对该问题的精确答案。创建时IBM表示，“有100多种不同的技术用于分析自然语言，识别来源，查找和生成假设，查找和评分证据以及合并和排列假设。” 近年来，Watson的功能得到了扩展，Watson的工作方式也发生了变化，以利用新的部署模型（IBM Cloud上的Watson）以及不断发展的机器学习功能和开发人员和研究人员可用的优化硬件。它不再是单纯的计算系统的Q＆A，现在可以“看”，“听”，“读”，“讲”，“味道”，“解释”，“学习”和“推荐'。

Watson中使用的IBM Deep QA的高级体系结构

大卫·费鲁奇（David Ferrucci）是首席研究员，他在2007年至2011年带领IBM和学术研究人员及工程师组成的团队，开发了赢得Jeopardy的沃森计算机系统。

Ferrucci于1994年毕业于曼哈顿学院，获得生物学学士学位，并于Rensselaer理工学院获得博士学位。计算机科学学位，专门研究知识表示和推理。他于1995年加入IBM的Thomas J. Watson，并于2012年离开，加入Bridgewater Associates。他还是Elemental Cognition的创始人，首席执行官兼首席科学家，该公司致力于探索自然学习这一新的研究领域，Ferrucci将其描述为“人工智能，它以人们的方式理解世界”。

5.4谷歌自动驾驶汽车（Google self-driving car）

Google的自动驾驶技术开发始于2009年1月17日，一直在在该公司秘密的X实验室中进行，在2010年10月9日《纽约时报》透露其存在之后，当天晚些时候，谷歌通过正式宣布了自动驾驶汽车计划。该项目由斯坦福大学人工智能实验室（SAIL）的前负责人塞巴斯蒂安·特伦（Sebastian Thrun ）和510系统公司和安东尼机器人公司的创始人安东尼·莱万多夫斯基（Anthony Levandowski）发起。

在Google工作之前，Thrun和包括Dmitri Dolgov，Anthony Levandowski和Mike Montemerlo在内的15位工程师共同为SAIL开展了名为VueTool的数字地图技术项目。许多团队成员在2005 DARPA大挑战赛上见面，Thrun和Levandowski都有团队竞争自动无人驾驶汽车挑战。在2007年，Google收购了整个VueTool团队，以帮助推进Google的街景技术。