高纳德：所有问题的回答(2001年10月5日)

2001年10月5日，在慕尼黑工业大学，Donald Knuth发表了题为“所有已回答的问题”的演讲。 讲座吸引了大约350人参加。 本文包含由Notices资深作家和副编辑Allyn Jackson编辑的讲座文本。
Donald Knuth最初是一名数学家，他以研究计算机科学，特别是算法分析而闻名。 他是一位多产作家，在MathSciNet上有160个参赛作品。 他的众多书籍中有三册系列“计算机程序设计艺术”[TAOCP]，他于1986年获得了AMS斯蒂尔博览会奖。该奖项的引用表明TAOCP“对教学做出了巨大贡献” 数学对于当代学生来说，就像近几十年来任何一本关于数学的书一样。“期待已久的第四卷正在准备中，有些部分可以通过Knuth的网站获得，http://www-cs-faculty.stanford.edu/~knuth/。
Knuth是用于计算机排版的TE X和METAFONT语言的创建者，它彻底改变了包括数学在内的许多领域的技术文档的准备和分发。 1978年，他出版了题为“数学排版”的AMS Gibbs讲座。 该讲座随后发表在AMS公告[MT]上。
Knuth获得了博士学位。 1963年在加州理工学院数学系的 Marshall Hall 指导下。 他曾获得计算机协会颁发的图灵奖（1974年），国家科学奖章（1979年），瑞典皇家科学院颁发的阿德尔斯克奖章（1994年），以色列理工学院颁发的哈维奖（1995年）。 ，电气和电子工程师协会的John von Neumann奖章（1995年）和Inamori基金会的京都奖（1996年）。 自1968年以来，Knuth一直在斯坦福大学任教，他目前担任计算机程序设计艺术荣誉教授。
—Allyn Jackson

Knuth：在斯坦福大学教授的每一堂课中，最后一天都致力于“所有问题的回答”。 学生如果不愿意，就不必上课，但如果他们这样做，除了宗教，政治或期末考试外，他们可以就任何问题提出任何问题。 我从Richard Feynman那里得到了这个想法，他在加州理工学院的课堂上做了同样的事情，看到学生真正想知道的东西总是很有意思。 今天我将回答有关任何主题的任何问题。 我们允许宗教或政治吗？ 我不知道。 但是没有期末考试需要担心。 我会试着回答而不花太多时间，以便我们可以提出很多问题。那么，谁想问第一个问题？…好吧，如果没有问题… [Knuth假装要离开。]

问题：向美国总统提交了一份特别报告，即PITAC报告[PITAC]，其中包含一些建议。 我想知道您是否愿意评论这些建议中列出的优先事项：更好的软件工程，构建teraflop计算机，改进互联网，包括
更高的安全性和更高的带宽，以及通过计算机网络管理信息的社会经济影响。

Knuth：我认为这是向总统提出什么问题的一个很好的解决方案。 但事实上，我希望看到成千上万的计算机科学家放松自己做任何他们想做的事情。这才真正推动了这个领域的发展。 根据我编写计算机程序设计艺术的经验，如果你问我任何一年当年计算机科学中最重要的事情是什么，我可能对这个问题没有答案，但五年后整个领域都在变化。 计算机科学是来自世界各地的人们的巨大合作，为巨大的墙增添了几块砖。 个别砖块是它的工作原理，而不是里程碑。
下一个问题？

问题：数学家说上帝有“证明书”，其中所有最美观的证据都是写的。你能为“算法书”推荐一些算法吗？

Knuth：这是一个很好的问题。 正是保罗·埃尔德斯（PaulErdős）宣布上帝有一本包含最佳数学证据的书，我想我在柏林的朋友GünterZiegler最近写过这篇文章[PFB]。

我记得数学家在20世纪60年代告诉我，当它有1000个深度算法时，他们会认识到计算机科学是一门成熟的学科。 我想我们可能达到了500.在某种意义上，我认为必须要考虑许多算法，这些算法绝对是美丽和不朽的。 两个例子是Euclid算法和一个以二进制表示法工作的算法，它可能是在中国独立开发的，几乎就像Euclid算法在希腊发明的那样。 在我的书中，我主要关注的是经典和已经存在很长时间的算法。 但是，每年我们都会发现我认为永远存在的全新想法。

问：你对量子计算有什么看法吗？

Knuth：是的，但我不太了解它。 这与我以前的模式完全不同。 它与我所知道的那种计算有很多共同点，但它也很神秘，因为你必须在最后获得所有的答案; 你不进行测试，然后决定你接下来做什么。 很多人都看过电影Lola rennt（在美国名为Run Lola Run），其中剧情在三个不同的时间播放，结果有三个不同的分支。 量子计算是这样的：世界进入许多不同的分支，我们对结果最好的那个感兴趣。

我擅长非量子计算，所以如果量子计算接管，我很可能无法做到新的东西。 我的生活与计算机有关，不是因为我对计算感兴趣，而是因为我碰巧擅长这种计算。 对我来说幸运的是，我发现我能做得好的事情对其他人来说很有趣。 我没有培养思考算法的能力，因为我想帮助人们解决问题。 不知怎的，在我十几岁的时候，我有一种特殊的思维方式，这使我擅长编程。 但我可能不擅长量子编程。 这似乎与我自己的世界不同。我会从后面提出一个问题。

问题：我正在进行定理证明，其中一篇最重要的论文是你的论文“通用代数中的简单词问题”[KB]，1970年，用P. B. Bendix写的。 我有两个问题。 首先，你是否仍然关注这个领域，你怎么看待它？ 第二个是，谁是什么，什么成为P. B. Bendix？

Knuth：这项工作发表于1970年，但我实际上是在1967年，当时我在加州理工学院。 这是一个简单的想法，但幸运的是它被广泛应用。 我们的想法是采用一套数学公理，并找出这些公理的所有含义。 如果我有一套公理并且你有一个可能的定理，你会问，这个定理是否遵循这些公理？ 我把我的论文称为“普遍代数中的简单单词问题”，我说如果我的方法可以处理它，问题就是“简单”。 现在人们已经将方法扩展了很多，因此更多的问题是“简单的”。 我觉得他们的工作很美。

1967年是我生命中最激动人心的一年。 我没时间研究。 我有两个不到两岁的孩子; 我曾被安排为ACM（计算机协会）的讲师，为期三周; 我不得不在哥本哈根的一所北约暑期学校上课; 我不得不在牛津大学的一次会议上发言; 等等。 我正在获得计算机程序设计艺术的页面样张，其中第一卷于1968年出版。所有这些都是我正在教授的课程，以及让我进入医院的溃疡发作， 并担任12种期刊的编辑。 那一年，我想到了两个小小的想法。 一个被称为Knuth-Bendix算法; 另一个被称为属性语法[AG]。 这是我生命中最有创意的一年，也是最忙碌的一年。

你问过彼得本迪克斯。 他是我在加州理工学院教授的一门二年级学生，“代数概论”。 每个学生都应该做一个班级项目，彼得做了关于算法实施的学期论文。 他是一名物理专业的学生。 这是越南战争的时期，他成了反对者。 他去了加拿大，担任高中教师约五年，后来获得了物理学位。 几年前我发现他住在斯坦福附近，所以我打电话给他，发现他近年来的生活相当幸福。

在20世纪60年代，如果我和我的顾问马歇尔·霍尔（Marshall Hall）一起写了一篇联合论文，那就意味着他完成了这个理论而且我做了编程。 但如果我和其他人一起写论文，那就意味着我做了理论而另一个人做了编程。 因此，Pete Bendix是一位实施该方法的优秀程序员。

问题：在我看来，修改一本书比我们日常看到的大型软件程序更容易。 我们如何应用理论来改进软件？

Knuth：当然，软件中的错误比书中的错误更难解决。 事实上，我花了十年时间研究TEX项目之后的主要结论是软件很难。 它比我曾经做过的任何其他事情都难。 在我从事TEX课程的时候，我无法做全日制教学。 虽然我喜欢教学，但我不得不花一年的时间，因为有一段时间我的脑子里有太多东西。 写一本书比写一篇技术论文要难一点，但编写软件要比写一本书困难得多。

在我的书中，我为第一个发现任何特定错误的人提供奖励，我必须说我在德国写的支票比世界上任何其他国家都多。 我收到了来自各地的来信，但我的德国读者是我曾经有过的最好的挑剔者！ 在软件中，我同样支付TEX和METAFONT程序中的错误。 奖励每年翻倍：它开始时为2.56美元，然后是5.12美元，依此类推，直到达到327.68美元，此时我停止加倍。 自1994年或1995年以来，TEX没有报道任何错误，尽管有传闻说有人最近发现了一个错误。 我将不得不在一两年内再次看一遍。 顺便说一下，我以批处理模式做所有事情。 我将重新审视TEX中可能出现的错误，比如2003年。

问题：您对高效算法的设计有何重视，您建议将来给予该领域哪些重点？

Knuth：我认为高效算法的设计在某种程度上是计算机科学的核心。 它是我们领域的中心。 与以前的计算机相比，计算机速度非常快，因此对于许多问题，不需要有效的算法。 我可以编写在某种程度上效率极低的程序，但是如果它只需要一秒钟才能得到答案，谁在乎呢？ 尽管如此，有些事情我们必须做数百或数十亿次，并且只知道次数是有限的并不能告诉我们我们可以处理它。 因此，需要高效算法的问题数量巨大。 例如，许多问题是NP完成的，NP完全只是一个小的复杂性。 因此，我认为对于高效算法的需求几乎是无限的。 这让我感到高兴，因为那些是我最喜欢的问题。

问题：你对谜题很感兴趣，包括超过3个钉子的“河内之塔”谜题。 我不会问一个更难的问题 - 什么是最短的解决方案？ - 因为我不确定每个人知道这个难题。 但我会问一个更哲学的问题：是否有可能表明这种情况永远无法解决？

Knuth：人们都知道“河内之塔”(Tower of Hanoi)的问题吗？ 你有3个钉子，你有不同大小的磁盘。 您应该将磁盘从一个挂钩转移到另一个挂钩，磁盘必须是在每个挂钩上排序，以便最大的挂在底部。 您一次只能移动一个磁盘。 亨利·杜德尼（Henry Dudeney）发明了将这个难题概括为超过3个钉子的想法，找到解决4-peg问题的最短解决方案的任务已经存在了一百多年的开放性问题。 3-peg问题非常简单; 我们教给新生。

但是另外一个更着名的问题是数学中的哥德巴赫猜想：每个偶数整数是两个奇数素数的总和。现在，我认为这是一个永远无法解决的问题。我想它甚至可能没有证据。这可能是哥德尔表现存在的无法证明的定理之一。事实上，我们现在知道，在某种意义上，几乎所有关于数学的正确陈述都是无法证明的。哥德巴赫的猜想是正确的，因为它不可能是假的。有很多方法可以将偶数表示为两个奇数，随着数字的增长，表示的数量越来越大。取一个（10的10次方的值作为10的指数算出来的值）偶数，并想象有多少种方法可以将它写成两个奇数整数的总和。对于n位奇数，机会与1 / n成正比。所有这些奇数对都是非素数的？它不可能发生。但这并不意味着你会找到一个证明，因为素数的定义是乘法的，而哥德巴赫的猜想与附加属性有关。所以很可能猜测恰好是正确的，但没有严格的方法来证明它。

在4-钉“河内之塔”(4-peg Tower of Hanoi)的情况下，有许多方法可以实现我们认为的最小移动次数，但我们没有很好的方法来描述所有这些解决方案。 所以这就是为什么我个人得出结论，我永远无法解决它，并且我在1972年停止了它。但我花了一个坚实的一周努力工作。

问题：计算机科学中最重要的五个问题是什么？

Knuth：我不喜欢这个“十大”这种很功力的说法。 我更喜欢称他们为十个最基础的问题。 我想你必须去寻找那些构成墙壁的小石头。

问题：您花了很多时间在计算机排版上。 您对这项工作的影响有何看法？

Knuth：我非常高兴我的工作属于公共领域，并使所有平台上的人都可以通过互联网进行通信。 特别是现在我对最近的一些项目感到非常兴奋。 两周前，我听到了柏林技术大学的Bernd Wegner关于欧洲数学学会在线期刊计划的精彩演讲。 如果没有我工作中的开源软件，这样的事情根本就不可能实现。 所以我非常高兴这有助于推动科学发展。

我很高兴看到许多书看起来很不错。 在我开始工作之前，关于数学的书籍每年都在变得越来越糟糕。 在旧系统中完成它需要大量熟练的手工操作。 那些能够做到这一点的人正在消亡，而高度优先的却没有去数学书籍。 我从没想过TEX会接管整个出版界。 我不是一个非常喜欢竞争的人，而且我不想从任何正在做另一种打印方式的人那里抢去他们的工作。 但是我发现没有人关心如何很好地进行数学出版，所以数学是我可以改进的方面，而不会让任何人对我的所作所为感到不安。

缺点是我现在对事情过于敏感。 我不能去餐馆订餐，因为我一直在看菜单上的字体。 五分钟后，我意识到它也在谈论食物。 如果我从未想过计算机排版，我可能会在某些方面过上更幸福的生活。

问题：您能给我们一个计算机科学大纲，未来十年或二十年的一些里程碑吗？

Knuth：你再次要求里程碑。对生物学的应用很感兴趣，因为在这个领域开辟了很多东西，有机会治愈疾病。 人类基于离散代码的事实意味着像你我这样擅长离散问题的人能够为这个领域做相关的工作。 问题非常困难和具有挑战性，这就是为什么我预见到那里的重要未来。

但在我们这个领域的各个方面，我真的没有看到任何放缓。 每当我想到我发现了一些有趣的东西时，我就会在互联网上看到其他人也做过这件事。 因此，我们现在有一块土地似乎仍然像一个沸腾的水壶，你不能盖上盖子(我们会遇到很多问题，你不能轻易的下结论哪些问题是最重要的，哪些问题是不重要的)。

在生物学领域，我认为我们可以自信地预测，至少500年内它将有很多难以解决的问题。 我无法对计算机科学提出这样的要求。

问题：作为一门艺术，数学和计算机编程之间有什么联系？

Knuth：艺术是艺术。 美国电影“人工智能”在德国被称为Kunstlicher Intelligenz，即人造和艺术。 我认为编程与美丽在一起，作为优雅的东西，你可以为它的组合方式感到自豪。 数学以同样的方式具有优雅。 计算和数学这两个领域都与其他科学不同，因为它们是人为的; 它们不属于自然界。 他们完全在我们自己的控制之下。 我们组成公理，当我们解决问题时，我们可以证明我们已经解决了它。 没有天文学家会知道他的天文学理论是否正确。 你无法飞到太阳上去并测量它。

所以这些是我对这种联系的第一个想法。 但是数学和计算机编程之间存在差异，有时候我会戴上一顶帽子或另一顶帽子。 我的某些部分喜欢数学，而我的某些部分喜欢emacs黑客攻击。 我认为他们走得很好，但我不认为他们是相同的范例。

问题：上帝与计算机之间的关系是什么？

Knuth：在我的一本书中，3：16圣经文本被照亮[BTI]，我使用随机抽样来研究圣经的六十个不同经文，以及来自不同宗教信仰和不同世纪的人们对这些经文所说的话。 我最初是自己完成了这项研究，然后我发现它很有趣，我应该写一本关于它的书。 我有六十位世界上最好的艺术家来展示这本书，其中很多都是在德国。 该作品曾在德国和世界其他国家展出过两次。 它也在华盛顿特区的国家大教堂展出。 在那本书中，我使用了计算机科学家经常用来理解一个复杂主题的方法，看看这种方法是否会对圣经有所了解，这是一个复杂的主题。 在书中，我没有给出答案。 我只是说我认为生活应该是一个持续的探索之旅， 旅程比目的地更重要。

问题：你知道“P等于NP”是否已被证实？ 我听到有传言说它有。

Knuth：你听说过哪个谣言？
问题：一个来自俄罗斯。

Knuth：来自俄罗斯？ 这对我来说是新的。 好吧，我认为没有人证明P等于NP。 但我知道安迪姚已经退休并希望在未来五到十年内解决这个问题。 他的灵感来自安德鲁·威尔斯，他花了几年时间来证明费马的最后定理。 他们都是普林斯顿人。 如果有人能的话，安迪可以做到。

三四年前，一位教授在中国计算机科学与技术期刊上发表了一篇论文，声称他可以在多项式时间内解决NP难问题。 问题是关于派系的，他有一种非常聪明的方式来代表派系。 假设这个方法是多项式时间，但它实际上需要n-12步，所以你甚至无法检查它等于5.所以很难在他的证明中看到这个错误。 我去了斯坦福大学和我们的研究生坐下来，我们需要几个小时才发现这个缺陷。 我给作者写了一封信，指出了这个错误，几个月后他回信说：“不，不，没有错误。”我决定不再继续追究。 我完成了自己的职责。 但我不相信它已经解决了。 这是理论计算机科学面临的最令人难以置信的问题，也许是目前所有的科学问题。

问题：您如何看待加密算法的研究？ 您如何看待当今政界人士对密码学研究施加限制的努力？

Knuth：当然，加密算法的整个领域在过去十年中一直是计算机科学中最活跃和最激动人心的领域之一，其中许多结果都是壮观而美丽的。 我不能说我擅长那个特定的主题，因为我不能想到自己偷偷摸摸的攻击。 但关键问题是，滥用安全通信方法又如何呢？ 我不希望罪犯使用这些方法成为更好的罪犯。

我是一个宗教人士，我认为上帝知道我所有的秘密，所以我总觉得无论我在想什么，都是以某种方式的公共知识。 我来自这种背景。 我觉得我不必加密我所做的一切。 另一方面，如果有人通过窃取我的银行账户或其他任何东西开始对我这种开放态度，我当然会有不同的看法。 所以我支持高度保密。 但是，即使在刑事调查中，当局是否也不可能对事物进行解码，在极端情况下 - 在某些情况下我倾向于想要有某种方法来破坏某些键。

问题：未来某个时候我们会有智能机吗？ 我们应该拥有它们吗？

Knuth：关于我们多久能拥有一台智能机器的估计总是夸大其词。 我仍然没有看到解决什么是认知，思考意味着什么的核心问题的迹象。 神经科医生正在进行比以往更好的测量，但我们仍然是迄今为止
从找到答案，我还不能将神经科学列为当前工作中最活跃的领域之一。 生物学已经获得答案，包括DNA和干细胞等。 但凭借认知，我们仍在寻找秘密。

一两年前出版了一些非常发人深省的书，其中一本是Hans Moravec [Mo]，另一本是Ray Kurzweil [Ku]。 他们两人都说，在二三十年内，我们将拥有比人类更聪明的机器。 有些人担心这一点。 我的态度是，如果这是真的，那么他们就有更大的权力。 如果他们比我们聪明，那又怎样？ 然后我们可以向他们学习。 但我没有看到任何迹象表明角落附近有任何突破。

两周前，在希腊，我正在参加伯克利计算机科学系主任Christos Papadimitriou的新书的开幕式。 他出版了一部名为希腊语的小说图灵的微笑(The smile of Turing)[Pa]。 我不想泄露这个故事，但是当它以德语或英语发表时，你会发现它对人工智能和图灵智力测试有很好的讨论。

我见过的最有前途的大脑运作模型说大脑是一种动态遗传算法，它一直在运行。 正如我现在和你说话的那样，你的大脑有很多关于我要说的内容的竞争理论。 这是适者生存，是竞争理论中的持续战斗。 有些人浮出水面，实际上进入你的意识，但其他人都在那里。 某种概念的交配可能一直在我们的头脑中进行。 这个模型似乎具有正确的属性，可以解释我们如何利用神经元的相对较慢的响应时间来做我们所做的事情。 但我绝不是这方面的专家。

问题：您对软件专利的看法是什么？ 现在欧洲正在就软件是否应该具有可专利性进行大讨论。

Knuth：我反对任何研究都应该为发现的事情申请专利。 美国有很多软件专利，这些专利是完全无关紧要的想法，这让我很烦恼。 有一个组织多年来一直致力于为所有剩余的琐碎想法提供专利，然后将这些想法提供给每个人。 专利申请的方式有可能使软件行业保持不变。

算法本质上是数学上的东西，应该与π的值一样无法实现。 但对于一些非常重要的东西，比如线性规划的内点法，对于某人获得短时间许可该方法的权利，而不是将其作为商业秘密，更有理由。 这就是专利的全部理念; 专利一词的意思是“公开”。

我接受过数学文化方面的训练，所以每次使用我证明的定理时，我都不习惯向人们收取一分钱。 但是我花了一些时间来告诉他们哪个定理适用。 收费服务，定制和改进是可以的，但不要让算法本身专有。

但是有一个有趣的问题。 你可能在正整数上有专利吗？ 如果我们今天拿走了一百万台最好的超级计算机并设置它们，它们可以计算出一个300位数的常数，它可以通过输入数字取这个常数的GCD来解决任何NP难问题，或者不可思议。通过其他一些有趣的组合。 这个整数需要大量的计算时间才能找到，如果你知道那个整数，那么你可以做各种有用的事情。 现在，人类真的发现了这个整数吗？ 或者是上帝给出的东西？ 当我们开始考虑复杂性问题时，我们必须改变我们关于自然界和发明内容的观点。

问题：您一直在向指出书中错误的人写支票。 我从来没有听说有人兑现这些支票。 如果每个人突然兑现支票，你知道你能赚多少钱吗？

Knuth：住在法兰克福附近的一个男人，如果兑现了我寄给他的所有支票，可能会超过1000美元。 加利福尼亚州洛斯加托斯的一个人，我从未见过，每月一次以2.56美元的价格兑现一张支票，现在已经持续了好几年了。 这些年我总共写了2000多张支票，平均金额超过每张支票8.00美元。 即使每个人都兑现了支票，但要知道我的书变得更好，对我来说仍然是值得的。

[TAOCP]:
https://doc.lagout.org/science/0_Computer Science/2_Algorithms/The Art of Computer Programming (vol. 1_ Fundamental Algorithms) (3rd ed.) [Knuth 1997-07-17].pdf

[MT]:
http://www.math.lsa.umich.edu/~millerpd/docs/501_Winter13/Knuth79.pdf

[PITAC]
President’s information technology advisory com-
mittee. See http://www.itrd.gov/ac/.

[PFB] Proofs from The Book, by Martin Aigner and Gün-
ter Ziegler. Second edition, Springer Verlag, 2001. see: http://www.bioinfo.org.cn/~wangchao/maa/r.Proofs_from_THE_BOOK_4th.pdf

[KB] Simple word problems in universal algebras, by
Peter B. Bendix and Donald Knuth. Computational
Problems in Abstract Algebra, J. Leech, ed. (Oxford:
Pergamon, 1970), pp. 263–297. Reprinted in Au-
tomation of Reasoning, Jörg H. Siekmann and Graham
Wrightson, eds. (Springer, 1983), pp. 342–376. see: https://link.springer.com/chapter/10.1007/978-3-642-81955-1_23

[BTI] 3:16 Bible Texts Illuminated, by Donald E. Knuth.
A-R Editions, Madison, Wisconsin, 1990. see: https://www-cs-faculty.stanford.edu/~knuth/316.html

[AG] Semantics of context-free languages, by Donald E.
Knuth. Mathematical Systems Theory 2 (1968),
127–145. See also The genesis of attribute gram-
mars, in Lecture Notes in Computer Science 461
(1990), 1–12. see:
http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.455.1434&rep=rep1&type=pdf

[Pa] TO XAMOGELO TOY TOYRINGK (The Smile of Turing), by Christos Papadimitriou. Livani Publishers,
Athens, Greece, 2001.
[Ku] The Age of Spiritual Machines: When Computers Ex-
ceed Human Intelligence, by Ray Kurzweil. Penguin
USA, 2000. see:
https://www.academia.edu/10255871/THE_AGE_OF_SPIRITUAL_MACHINES_WHEN_COMPUTERS_EXCEED_HUMAN_INTELLIGENCE

[Mo] Robot: Mere Machine to Transcendent Mind, by
Hans P. Moravec. Oxford University Press, 2000. see:
https://philpapers.org/rec/MORRMM