比尔·盖茨最喜欢的一本AI书籍_《即将到来的浪潮》-优快云博客

本文链接：https://blog.youkuaiyun.com/cfy_banq/article/details/144981366

当人们问我（比尔盖茨）关于人工智能的问题时，他们的问题往往归结为以下几点：

我应该关注什么？
应该有多关注？

去年，我的回答是告诉他们读一读穆斯塔法-苏莱曼（Mustafa Suleyman）的《即将到来的浪潮》（The Coming Wave）。

这是我推荐给国家元首、商界领袖和任何有此要求的人最多的一本关于人工智能的书，因为它提供了一种罕见的东西：

对未来非凡的机遇和真正的风险都有清醒的认识。

作者穆斯塔法-苏莱曼以独特的视角看待这个话题。

在帮助 DeepMind从一家小型初创公司发展成为过去十年中最重要的人工智能公司之一之后，他又创立了Inflection AI公司，目前领导着微软的人工智能部门。

本书的特别之处不仅在于穆斯塔法的亲身经历，还在于他对科学史和技术革命发展过程的深刻理解，因为他是一位严肃的知识分子，能够将几个世纪的科学进步进行有意义的比较。

对《即将到来的浪潮》的大部分报道都集中在它对人工智能的论述上--这也在情理之中，因为它是有史以来最重要的人工智能书籍之一。可能没有人比穆斯塔法更有资格写这本书了。

2016年，当DeepMind公司的AlphaGo在围棋上击败世界顶尖棋手时，他就在现场。围棋比国际象棋复杂得多，背后蕴含着2500年的战略思维，而AlphaGo所走的棋步是从未有人想到过的。通过这样做，基于人工智能的计算机程序表明，机器可以在我们自己的游戏中击败人类，这也让穆斯塔法提前看到了未来的趋势。

但穆斯塔法在书中与众不同之处在于：

他洞察到人工智能只是前所未有的科学突破汇聚的一部分。
基因编辑、DNA 合成和生物技术的其他进步也在同步向前发展。

正如书名所示，这些变化就像远处海面上的波浪：近处的许多人是看不见的，但这些波浪却在积聚力量。每股浪潮本身都会改变游戏规则，汇聚在一起，它们将重塑社会的方方面面。

历史学家尤瓦尔-诺亚-哈拉里（Yuval Noah Harari）认为，在开发先进的人工智能之前，人类应该先弄清楚如何合作和建立信任。

理论上，我同意这个观点。

如果我有一个神奇的按钮，可以让整件事慢上三四十年，让人类找到信任和共同目标，我可能会按下它。但这个按钮并不存在。无论任何个人或公司做什么，这些技术都会被创造出来。

就目前而言，随着成本的下降和计算能力的增强，技术的进步已经在加速。此外，利益和权力也是推动发展的动力。国家与国家之间竞争，公司与公司之间竞争，个人与个人之间竞争荣誉和领导地位。

这些力量使得技术进步势不可挡，同时也使其更加难以控制。

在我关于人工智能的谈话中，我经常强调我们需要考虑的三大风险：

首先是经济混乱的快速发展。人工智能可能从根本上改变工作本身的性质，影响大多数行业的工作，包括传统上免受自动化影响的白领岗位。
其次是控制问题，即当人工智能变得越来越先进时，很难确保人工智能系统与人类的价值观和利益保持一致。
第三种风险是，当坏人有机会使用人工智能时，他们会变得更加强大--更有能力进行网络攻击、制造生物武器，甚至危害国家安全。

最后一种风险--赋予坏人权力--导致了我们这个时代最大的挑战：必须对其遏制。

我们如何限制这些技术的危险，同时利用它们的好处？
这是《即将到来的浪潮》的核心问题，因为遏制是其他一切的基础。

没有它，人工智能和生物技术的风险就会变得更加尖锐。

首先解决这个问题，我们就能创造解决其他问题所需的稳定和信任。当然，说起来容易做起来难。以前的变革性技术（如核武器）可以通过实体安全和严格的访问控制来控制，而人工智能和生物技术则带来了根本不同的挑战。它们越来越容易获得，价格也越来越低廉，它们的发展几乎不可能被发现或监控，而且它们可以关起门来使用，只需最少的基础设施。

取缔这些技术将意味着好人单方面解除武装，而坏人却依然勇往直前。这将伤害所有人，因为这些技术本质上具有双重用途。可用于制造生物武器的工具同样可以治疗疾病；可用于网络攻击的人工智能同样可以加强网络防御。

那么，我们如何在这个新的现实中实现遏制呢？
如果抱怨穆斯塔法没有凭一己之力解决人类有史以来面临的最复杂的问题之一，这并不公平。尽管如此，他还是提出了一个与挑战规模相称的雄心勃勃的议程：从技术解决方案（比如为人工智能系统建立一个紧急关闭开关）到全面的制度变革，包括新的全球条约、现代化的监管框架以及政府、公司和科学家之间的历史性合作。

当你读完他的建议清单时，你可能会怀疑我们是否真的能及时完成所有这一切。但这正是这本书如此重要的原因：它帮助我们在还有时间采取行动的时候了解紧迫性。

(通过这些清单，也可以遏制后来者居上，对于这种打着道德旗帜的蛊惑言论，只能听听而已，千万别当真，否则就被吓唬住了)

我一直是个乐观主义者，阅读《即将到来的浪潮》也没有改变这一点。

我坚信，人工智能和生物技术的进步可以帮助实现致命疾病的突破性治疗、气候变化的创新性解决方案以及人人享有优质教育。但真正的乐观并不是盲目的信仰。它既要看到好处，也要看到风险，然后努力塑造更好的结果。无论你是科技爱好者、政策制定者，还是只是想了解世界走向的人，你都应该读一读这本书。它不会给你简单的答案，但会帮助你提出正确的问题，让你做好更充分的准备，迎接即将到来的浪潮，而不是被浪潮卷走。

网友讨论：

网友1：
这本书充其量只能算是中等水平。从文学角度来看，它很糟糕。读起来就像是 GPT-3.5 写的。现在从介绍新想法的角度以及理解人工智能将如何影响社会来看，它还不错。这本书充满了矛盾。苏莱曼经常指出我们从未成功地限制过颠覆性的技术创新，然后又说我们需要这样做。我的意思是，这绝对是荒谬的东西。表面上以乐观的语气结束，但实际上更加虚无主义。

网友2：
读起来就像是 GPT-3.5 写的
如今，如果作者不使用人工智能来生成至少部分文本，或者指导人工智能来改进散文，那将是令人惊讶的。

网友3：
人工智能行业如此乞求监管的俘获是如此令人震惊，我认为政府应该将所有人工智能公司国有化，‘以保证我们的安全’，但真正的目的是防止这些骗子赚钱。

网友4：
虽然我很喜欢比尔盖茨许多简短演讲中的智慧，但我没有在他的书面评论和书籍中发现任何值得注意的东西。他的观点往往是怪异和激进的。当我想起在他的书《未来之路》（1995 年）中读到他坚信 ISDN 将在 2000 年之前成为主导互联网技术时，我仍然会笑。当时对我来说这甚至显得很奇怪。

网友5：
我刚刚读了他的维基百科页面和几篇关于他的文章。他和盖茨都是成功的销售员和经理，年轻时曾涉足编程。我不指望他们能洞察技术对社会的影响或诸如此类的事情。认为他们是知识分子或学者的想法很可笑。

网友6：
我刚刚在audible上听完了。它确实发人深省，但正如其他人提到的那样，充满了矛盾。也就是说，这项技术无法被遏制，但必须被遏制，这相当悲观。关于人工智能的预言远不如关于基因测序的预言那么可怕——你可以花3万美元买一台设备，它可以从你的车库里为你打印病原体和病毒。这真是太可怕了。

网友7：
人工智能研究是全球性的，具有战略价值，美国和中国都在竞争。我不认为一个国家会停止研究，而另一个国家会继续前进。类似的问题也存在于控制二氧化碳方面，到目前为止，这一进展并不顺利。

网友8：
这本书读起来就像是一篇公关博客文章推荐一本公关书籍

网友9：
鉴于《即将到来的浪潮》假设是：技术一波一波地涌来的，而且这些浪潮是由内部人员推动的，它提出的解决方案是遏制——政府应该（通过监管）决定谁可以开发技术，以及他们应该将技术用于什么用途。这种假设似乎是政府可以控制对技术中自然瓶颈的访问。

书中提供的一项数字是，半导体中使用的大约 80% 的沙子来自一个矿山——控制了矿山，你就控制了该行业的大部分方面。

但事实并非如此。例如，核遏制更多地依赖于民族国家之间的同侪压力，而不是监管本身。在你家后院建造反应堆或炸弹是完全有可能的。你越是加大这些努力，国际社会就越有可能注意到并迫使你停止。挤压其中一个瓶颈更有可能将活动转移到其他地方，然后让你能够控制它。（按下葫芦浮起瓢）

从本质上讲，这是一本由内部人士撰写的书，他认为有人会开发这项改变世界的技术，而且应该是他们。

网友10：
他推荐这本书是因为微软雇用了苏莱曼吗？

我记得 HN 上的人们对穆斯塔法·苏莱曼的评价不太好：
https://news.ycombinator.com/item?id=39757330

网友11：
这本书还不错，但读完前 10% 后，你几乎可以推断出其中的任何内容。书中有很多关于人工智能、生物武器、网络攻击等风险的常识性警告，但这些警告都很笼统。我发现其中没有一章有任何真正的见解。一个有趣的章节应该是“如果我完全错了，我们得到的只是一堆 meme 生成器和下一个泡沫”，但这似乎永远不可能。

奇怪的是，很多书都上了盖茨的推荐书单。我最近看到有人说，也许有点太刻薄了，我们可能会进入 AGI，因为现在的书越来越像 ChatGPT 写的，而盖茨推荐的很多书也并非完全不正确。

网友12：
不能认真对待这件事，因为要知道，下面是穆斯塔法·苏莱曼……