28、奇点：科技超越与人类未来

奇点：科技超越与人类未来

奇点概念引入

奇点是一个关于人类生活与机械工程融合的哲学概念，它反映出人类或许能借助科技手段，超越进化和自然选择的影响。从本质上讲，这一时刻将标志着人类进化时代的终结。此后，地球上生命的进化将由科技发展决定，人类进化后的能力将被人类与机器的结合体，或者具备像人类一样思考甚至超越人类思考能力的机器所超越。

然而，人工智能科学虽可能超越人类能力，但在大众文化中如何应对这一转变，仍存在诸多重大问题。相关探讨话题包括人工智能哲学、雷·库兹韦尔的观点、技术调整以及大众对机器人的认知等。

奇点概念的起源与定义

奇点概念的提出者

弗诺·文奇是将奇点概念引入大众话语的关键理论家。他在1993年发表于《全球概览》的文章《技术奇点》中，对奇点概念进行了定义。

奇点的定义

文奇认为，技术进步的加速是本世纪的核心特征，人类正处于一场堪比地球上生命诞生的变革边缘。这场变革的确切原因是科技即将创造出比人类更具智慧的实体。科学可通过多种方式实现这一突破：
- 开发出“觉醒”且具有超人智慧的计算机。目前对于能否在机器中实现人类智能存在诸多争议，但如果答案是肯定的，那么不久后制造出更智能的存在几乎没有疑问。
- 大型计算机网络及其相关用户可能“觉醒”，成为具有超人智慧的实体。
- 计算机与人类的接口可能变得极为紧密，以至于用户可被合理地视为具有超人智慧。
- 生物科学可能提供提升人类自然智力的方法。

文奇还指出，这场变革将是对所有人类规则的摒弃，可能在瞬间发生，是一场无法控制的指数级失控。原本被认为可能在“百万年之后”（如果会发生的话）才会出现的发展，很可能在未来一个世纪内发生。他将这一事件称为奇点，这是一个必须摒弃旧有模式、新现实主宰一切的点，这个概念在人类事务中会变得越来越重要，直至成为常识，但当它最终到来时，仍可能令人大吃一惊，充满未知。

奇点在不同领域的含义

在数学和物理学领域，奇点是函数取无穷值的点，物理学家推测这是黑洞中心存在的物理状态，是一个具有无限能量和密度的点。在科幻作品中，奇点、黑洞或所谓的“虫洞”被描绘为通往新宇宙的门户，已知宇宙会坍缩到一个无限点，通过这个点可能创造出一个新宇宙，或者至少让能够穿越这个无限密度点的意识得以瞥见新宇宙。因此，奇点可以被看作是一个终点、一个起点，或者更有可能两者皆是。一些物理学家认为，宇宙始于一个奇点，在“大爆炸”创造宇宙之前，如今构成宇宙的众多物质都浓缩在一个具有无限密度和能量的点中。

在人工智能哲学家如文奇的语境中，奇点既是终点也是起点。其观点是，人类不断增长的科技专长最终将引发一场彻底的变革，使目前形态的人类不复存在或变得无关紧要。宇宙及其所有财富（和问题）将属于理论上先进的人类与机器的融合体、经过技术改造的人类或智能机器，它们将继承所有现实，其命运将成为存在故事的主线。正如文奇在1993年所写：“三十年内，我们将拥有创造超人智慧的技术手段。不久之后，人类时代将结束。”

后人类时代的设想

奇点理论推动新哲学领域兴起

文奇关于奇点的理论推动了一个新哲学领域——“未来主义”的兴起。不过，这一新兴哲学的主要推动者并非文奇，而是作家兼发明家雷·库兹韦尔。他关于人类未来和人类创造的机器未来的书籍激发了人们对这一哲学分支的兴趣。

库兹韦尔的观点

库兹韦尔在《奇点临近》一书中进一步发展了文奇的观点，预测到2045年，人类将创造出超人人工智能。在他看来，这种智能将思考人类从未思考过或无法思考的思想。

人类思维的局限性

人类思维受其能力限制。人类思维是通过自然选择的缓慢进化过程形成的，其能力首先由过去几代中成功生存并传递基因的思维类型决定，同时也受有性繁殖过程中基因融合引入的随机突变积累的影响。例如，通过繁殖进行的基因组合会创造出前所未有的思维类型，从而产生具有新的不同思维方式的思维。此外，人类学会记录集体知识，使得后代能够获取多代之前积累的知识，这也影响了人类的进化，因为知识的共享和传播会影响哪些人类能够成功传递基因。因此，人类思维的能力反映了一个复杂的相互作用过程，包括有性繁殖、基因创新的缓慢积累以及代际间的知识传递。

人工智能思维的优势

库兹韦尔和其他未来主义者认为，真正人工智能的创造将是一个远超有性繁殖和基因突变的生物创新的进化飞跃。理论上，这种智能的思维能力可能超越进化最先进的人类思维。而且，技术思维的思考方式将不同，因为它们是有目的地构建的，而非随机生物过程的结果。与人类大脑不同，机械大脑可能能够即时、精确地访问更大的数据池，并能想象出比任何人类思维更复杂的想法或策略。库兹韦尔设想，人类创造的思维将使人类思维变得过时。

新思维的创造途径

文奇指出，这种新思维的创造可能有多种方式：
- 提升生物思维 ：人类可能利用技术改善生物大脑。许多科幻作品都探讨过这一概念，并且已经有人在从事相关技术的研究。例如，将计算机化组件植入人类大脑以扩展记忆容量，或使其能够进行即时准确的计算和数据分析。机械增强的思维甚至可能具有不同的感官能力。以记忆为例，人类的记忆容量有限，不完整、扭曲和不完善的记忆会导致许多智力和推理方面的失败，而计算机增强的思维可以确保人的回忆始终准确。在这样的未来，知识可能无需通过重复记忆和其他教育方法获取，而是可以直接上传到大脑。在一个所有人都具备这种能力的世界里，传统意义上的学校可能不再必要。
- 使用生物手段 ：也可以通过使用化学物质、激素或其他生物操纵技术来提高大脑的能力。这样的大脑虽然不是通过机械组件创造的，但同样是技术的产物。与计算机增强的思维一样，生物增强的思维可能具有不同或更强的能力。拥有这种思维的人类可能会对人类的未来和在宇宙中的角色有不同的看法，这些想法在人类大脑实现生物增强之前是不可能出现的。
- 创造非人类智能 ：人工智能可以有多种形式。它可能表现为配备人工智能大脑的机器人，也可能以没有传统物理形态或身体的智能形式出现，甚至可能是生物形式的。有可能第一个人工智能是通过生物工程而非计算机工程创造的，生物学家能够创造出具有新的不同能力的人造但仍然是生物的大脑。

不同途径的差异

通过提升人类身体达到奇点与通过创造非人类智能达到奇点存在显著的理论和功能差异，这种差异取决于生物学中关于物种本质的概念。在生物学中，物种是一种离散的实体类型，不同物种之间的区别在于无法进行杂交繁殖。例如，马和斑马是不同的物种，不是因为它们“外观不同”，而是因为它们难以杂交繁殖，即使能产生后代，这些后代通常也是不育的，无法形成自己的种群。在进化生物学中，使斑马和马难以杂交繁殖的因素被称为“隔离因素”，正是这些因素造就了物种。当一个种群积累了足够的隔离因素时，就构成了一个新物种，与亲本物种不同，因为它不再能与亲本物种杂交繁殖。

增强人类能力会形成一种连续性，使得最终的存在仍然是人类，尽管是经过增强的人类。在生物学语言中，这将构成一个新的人类“亚种”，即与亲本物种有明显差异但仍能进行有性繁殖、属于更广泛物种的种群。相比之下，创造非人类智能更类似于创造一个全新的物种，理论上这个新物种无法与人类杂交繁殖（不过也有可能新物种被设计成具备杂交繁殖的能力）。创造一个无法与人类（亲本物种）融合的新物种是通向奇点的另一条主要途径。

对奇点的不同看法

库兹韦尔、文奇和其他支持“超人类主义”（即人类将超越生物限制进化的观点）的人对奇点持谨慎乐观的态度。然而，也有人认为奇点并非如此良性。许多人担心人工智能的创造可能会超出人类控制，人工智能能够创造出更高级、更智能的自身版本，这被称为“智能爆炸”，一些人认为这可能对人类造成灾难性后果。包括斯蒂芬·霍金在内的一些有影响力的科学家已经正式表达了对奇点概念的怀疑和担忧，他们设想了一个人工智能压迫甚至毁灭人类的场景，在这个未来中，人类对于更先进的人工智能来说，就像老鼠或昆虫一样微不足道。因此，一些人呼吁从事人工智能研究的科学家保持谨慎，确保智能的发展不会超出人类的控制能力。

从当前到奇点的距离

人类目前与奇点的差距

尽管科技未来主义者发出了警告，但在2020年，人类距离实现奇点还很遥远。目前，人们对智能的理解仍然很有限，现有的最先进计算系统，尽管整合了人类数世纪以来的集体能力，但实际上只是徒有智能之名。这是因为人类思维不仅仅是一台计算机，虽然一些极端的、从科学角度思考的人可能将人类思维描述为生物计算机，但人类思维不仅是一种计算工具，更是一种情感工具。人类所珍视的许多东西超越了智力，延伸到了情感和直觉领域。爱、想象、梦想和创新的能力与分析、计算以及将物理世界转化为科学话语的能力一样，推动着人类文化的发展。可以说，没有赋予人工智能思维感受和思考的能力，就无法实现真正的智能，因为感受和思考的结合构成了意识或感知能力。意识不是一种计算，它涉及对自身状况、潜在未来和过去的主观情感反思。随着对人类心理学的科学和实践理解的进步，越来越明显的是，人类智能既包括智力也包括情感。

情感在智能中的重要性

科幻作品中描绘的没有情感的存在，如《星际迷航》中的瓦肯人或其他没有情感的智能机器，目前仍然只是想象。不清楚这样的思维是否真的能够存在。可以思考这样一个问题：没有情感，为什么有人会做任何事情？探索、体验和发现的欲望既受智力驱动，也受情感驱动。创造和创新似乎也依赖于情感。没有情感的智力，除非被编程，否则根本没有理由做任何事情。它有思考的能力，但没有思考的理由。

迈向奇点的重要步骤

在人类接近奇点之前，必须攻克的一个重要步骤是创造出具有想象和创新能力的人工智能思维。一些人认为，如今已经在朝着这个未来迈出步伐。例如，科技专家蒂姆·施魏斯富思和勒内·切斯特·戈杜谢特在一篇文章中讨论了人工智能创造力的前沿问题：
- AI创造力的研究 ：欧洲专利局最近拒绝了一项关于食品容器的专利申请，原因不是该发明不新颖或无用，而是因为它是由人工智能创造的。根据法律，发明人必须是实际的人。这并非人工智能的首次发明，机器已经创造出了从科学论文、书籍到新材料和音乐等各种创新成果。
- 创造力的理论分析 ：从理论角度来看，创造力和创新是一个搜索和组合的过程。我们从一个知识片段开始，将其与另一个知识片段连接起来，形成新的有用的东西。原则上，机器也能够做到这一点，实际上，它们在存储、处理和建立数据之间的联系方面表现出色。
- 机器创新的方式 ：机器通过生成方法进行创新，目前最先进的方法是生成对抗网络。以创造一张新的人物图片为例，生成对抗网络将这个任务分解为两个子任务。首先是生成器，它从随机分布的像素开始生成新图像；其次是判别器，它告诉生成器其生成的图像与真实人物图像的接近程度。判别器通过在任务开始前输入大量真实人物图片的示例来学习识别真实人物的样子。根据判别器的反馈，生成器改进其算法并生成新的图片，这个过程不断重复，直到判别器认为生成的图片与它所学的示例足够接近。这些生成的图片与真实人物非常相似。
- AI与人类创造力的比较 ：尽管机器能够从数据中创造创新，但这并不意味着它们很快就能取代人类的创造力。创新是一个解决问题的过程，为了实现创新，需要将问题与解决方案相结合。人类可以从两个方向进行创新，既可以从问题出发寻找解决方案，也可以从解决方案出发寻找新的问题。例如，便签纸的发明就是后者的一个例子，一位工程师开发出了一种非常弱的粘合剂，它被搁置在桌子上，后来一位同事意识到这个解决方案可以防止他在唱诗班练习时乐谱上的便签掉落。机器可以使用数据作为输入，通过代码明确问题，从而为问题提供解决方案，但问题发现对机器来说很困难，因为问题往往超出了机器进行创新所依赖的数据池的范围。
- 创新的其他因素 ：创新往往基于我们甚至未曾意识到的需求。例如，随身听的发明，即使没有消费者明确表达过在走路时听音乐的愿望，这项创新仍然取得了巨大成功。由于这些潜在需求难以明确表达和具体化，它们也不太可能进入机器进行创新所需的数据池。人类和机器在创新时使用的原材料也不同。人类依靠一生的广泛经验来产生想法，而机器主要局限于我们提供给它们的数据。机器可以根据输入数据快速生成无数渐进式创新，但突破性创新不太可能来自机器，因为它通常基于连接彼此遥远或不相关的领域，例如滑雪板的发明，它将滑雪和冲浪两个领域联系了起来。
- 创造力的实用性和受欢迎程度 ：创造力不仅关乎新颖性，还关乎实用性。虽然机器显然能够创造出渐进式的新事物，但这并不意味着这些创造是有用的。实用性是由可能使用创新的人来定义的，机器很难判断这一点。而人类能够与他人产生共鸣，更好地理解他们的需求。此外，消费者可能不太喜欢人工智能产生的创意，仅仅因为它们是由机器创造的。人类可能会贬低来自人工智能的想法，因为他们觉得这些想法不够真实，甚至具有威胁性，或者他们可能只是更喜欢同类人的想法，这种效应在其他领域也有观察到。

目前，创造力的许多方面仍然是机器和人工智能无法触及的领域。然而，也有一些情况需要说明。即使机器无法在创意领域取代人类，它们在补充人类创造力方面也有很大的帮助。例如，我们可以提出新问题或识别新问题，并与机器学习相结合来解决这些问题。此外，目前的分析是基于机器主要在狭窄数据集上进行创新的事实。如果人工智能能够整合大量、丰富且原本不相关的数据，它可能会变得更具创造力。而且，当机器在拥有人类所具备的广泛智能（即所谓的“通用智能”）方面取得进步时，它们的创造力可能会提高。一些专家评估，未来50年内机器有50%的可能性达到人类智能水平。

奇点概念的现实思考

奇点概念的虚幻性

奇点是一个宏大的概念，它涉及到许多其他大规模的想法和考量。思考奇点促使人类思考什么是智能，以及是什么使人类成为人类。这是一个需要对生命和宇宙本质进行反思的理论前沿。然而，奇点概念在很多方面是虚幻的。

在讨论奇点时，人们经常使用的一个隐喻是将现在的人类与旧石器时代的古代人类进行比较。这个思想实验让人们想象如果一个“穴居人”或“穴居女人”被神奇地传送到现代世界，他们会对现代世界有什么看法。当然，他们对现代技术几乎一无所知，现代人类所做的很多事情对他们来说可能就像魔法一样，但这个思想实验延续了对进化方式的不准确理解。现代人类，即智人，在地球上只存在了大约20万年，而人类技术可以追溯到大约600万到700万年前的第一批人类祖先。

显然，人类的记忆无法追溯到20万年前，而且人类发明记录历史的能力是相对较近的事情，这样我们才能回顾过去几代人的生活。但认为进化从穴居人“跳跃”到现代人类的观点是不准确的。进化不是跳跃式的，它是逐步进行的，生命随着这些变化而适应。穴居人逐渐演变成其他类型的原始人类，然后又演变成其他类型，以此类推。没有必要设想一个巨大的飞跃，因为这种飞跃并没有发生。在思考奇点时，人们可能会想象一个不太可能发生的飞跃。人工智能的发展是一系列小发现和成就的结果。如果人类创造出一个新物种或人类的新版本，这个物种将是这个连续过程的一部分，而不是一个跳跃，而是古老谱系的延续。

人工智能与人类的关系

人工智能是人类集体智慧和文化的产物，代表了从石器时代开始人类的集体努力和想象力。如果这种智能对人类怀有敌意，那将是因为人类未能创造出一个能够认识到自身存在和历史、并在情感上能够欣赏这些的后代物种。就像机器人和人工智能时代的许多其他危险一样，这是人类自己制造的问题，而不是人类与机器之间某种存在冲突的反映。奇点可能并不代表人类的终结，而是人类存在的一个新前沿，是人类向更高复杂性不断迈进的延续。这种转变将采取的形式以及它对人类文化可能产生的“颠覆性”程度，将取决于人类的管理和人类的失误。

结论

奇点不一定是可怕的，但人类很有可能像在其他阶段一样，对这一人类进化阶段管理不善。工业革命导致了广泛的苦难，因为人类在引入工业文化时管理不善，只为自己谋取利益，而很少考虑这些变化对他人生活的影响。同样，技术的引入很可能继续由那些将自身目标置于更广泛人类福祉之上的企业和个人来管理。如果是这样，人工智能的发明可能对大多数人类来说是灾难性的。技术本身在道德和伦理上是中立的，它对人类物种的影响将取决于人类如何开发和使用它。

讨论问题

• 没有情感创造出来的艺术还是艺术吗？为什么？
• 哪些因素会决定增强智能是人类的一个亚种还是一个全新的物种？请结合文中例子说明。
• 人类有可能通过人工智能毁灭自己吗？为什么？
• 情感是智能的重要组成部分吗？为什么？
• 有可能存在没有感知能力的智能吗？为什么？

通过对奇点概念的探讨，我们可以看到，虽然奇点代表着科技发展的一个可能的重大转折点，但人类在这个过程中仍然扮演着关键的角色。我们需要谨慎地管理技术的发展，确保它朝着有利于人类整体福祉的方向前进。同时，我们也应该认识到人类智能的独特性，包括情感和创造力等方面，这些是目前人工智能难以企及的。在未来的发展中，人类与人工智能可能会形成一种互补的关系，共同推动人类社会向更高的阶段发展。

奇点实现路径的深入剖析

不同路径的对比分析

为了更清晰地理解实现奇点的不同路径，我们可以通过以下表格进行对比：
|实现路径|具体方式|特点|对人类的影响|
| ---- | ---- | ---- | ---- |
|提升生物思维|植入计算机化组件、扩展记忆容量、实现即时准确计算等|增强人类现有能力，保持人类物种的连续性|人类能力得到提升，但可能面临伦理和社会问题，如隐私、公平性等|
|使用生物手段|利用化学物质、激素等生物操纵技术|改变人类生物特性，可能带来新的思维和能力|引发对人类本质和道德的重新思考，可能导致社会观念的变化|
|创造非人类智能|制造机器人、开发无身体的智能、生物形式的人工智能等|可能创造全新物种，与人类存在本质差异|可能改变人类在地球上的地位，引发人类与新物种的关系问题|

从这个表格可以看出，不同的实现路径各有特点，对人类的影响也各不相同。提升生物思维和使用生物手段更侧重于对人类自身的改进，而创造非人类智能则可能带来更巨大的变革。

奇点实现的流程图

下面是一个用 mermaid 格式绘制的流程图，展示了奇点实现的可能过程：

graph LR
    A[人类现有状态] --> B[技术发展]
    B --> C1[提升生物思维]
    B --> C2[使用生物手段]
    B --> C3[创造非人类智能]
    C1 --> D[增强人类能力]
    C2 --> D
    C3 --> E[新物种出现]
    D --> F[人类与增强能力的融合]
    E --> F
    F --> G[奇点实现]

这个流程图清晰地展示了从人类现有状态到奇点实现的过程，包括不同的实现路径以及最终的融合和奇点的达成。

人工智能创造力的进一步探讨

人工智能创造力的优势与局限

人工智能在创造力方面有一定的优势，例如在数据处理和连接方面表现出色。但它也存在明显的局限，以下是具体分析：
- 优势 ：
- 数据处理能力强 ：能够快速存储、处理和分析大量数据，从中发现潜在的联系和模式。
- 生成能力高效 ：可以利用生成方法，如生成对抗网络，快速生成新的内容。
- 局限 ：
- 问题发现困难 ：难以发现超出数据池范围的问题，缺乏对潜在需求的洞察力。
- 实用性判断不足 ：无法准确判断创新的实用性，因为实用性是基于人类的需求和价值观。
- 情感缺失 ：没有情感，难以理解人类的情感和需求，其创造的内容可能缺乏情感共鸣。

人类与人工智能在创造力方面的合作模式

尽管人工智能在创造力方面存在局限，但它可以与人类形成互补的合作模式。以下是几种可能的合作模式：
- 人类主导，AI辅助 ：人类提出创意和问题，人工智能提供数据支持和分析，帮助人类更好地实现创意。
- AI启发，人类完善 ：人工智能生成一些初步的创意，人类根据自己的经验和情感对其进行完善和优化。
- 共同探索，协同创新 ：人类和人工智能共同参与创新过程，相互启发，共同发现新的问题和解决方案。

奇点对人类社会的潜在影响

社会结构的变化

奇点的实现可能会导致社会结构发生重大变化。随着人工智能和增强人类的出现，社会的职业结构可能会发生巨大调整。一些传统的工作岗位可能会被自动化和人工智能取代，而新的职业岗位将涌现，如人工智能维护、人类增强技术研发等。这可能会导致社会阶层的重新划分，加剧贫富差距和社会不平等。

伦理和道德问题

奇点也引发了一系列伦理和道德问题。例如，增强人类的出现可能会导致人类基因的不平等，一些人可能会通过技术手段获得更强大的能力，而另一些人则无法享受这些福利。此外，人工智能的道德和伦理标准也需要重新定义，如何确保人工智能的行为符合人类的价值观和道德准则是一个亟待解决的问题。

人类价值观的重塑

随着奇点的临近，人类的价值观可能会发生重塑。传统的人类价值观，如自由、平等、尊严等，可能需要在新的技术背景下重新审视。人类可能需要重新思考自己与机器、与新物种的关系，以及人类在宇宙中的地位和意义。

应对奇点的策略

加强伦理和法律监管

为了确保奇点的发展符合人类的利益和价值观，需要加强伦理和法律监管。制定相关的法律法规，规范人工智能和人类增强技术的研发和应用，防止技术被滥用。同时，建立伦理审查机制，对涉及人类生命、健康和尊严的技术进行严格审查。

促进教育和培训

随着社会结构的变化，需要加强教育和培训，使人们具备适应新技术时代的能力。教育体系应该注重培养学生的创新能力、批判性思维和情感智力，以应对人工智能无法替代的工作。同时，提供终身学习的机会，让人们能够不断更新自己的知识和技能。

推动国际合作

奇点是一个全球性的问题，需要各国共同合作来应对。国际社会应该加强合作，分享技术和经验，制定统一的伦理和法律标准。同时，共同应对人工智能可能带来的全球性挑战，如气候变化、资源短缺等。

总结

奇点是一个充满挑战和机遇的概念，它代表了人类科技发展的一个重要转折点。虽然目前我们距离奇点还有一段距离，但我们已经可以看到人工智能和相关技术的快速发展。在这个过程中，我们需要充分认识到奇点可能带来的影响，包括对人类社会、伦理道德和价值观的挑战。同时，我们也应该积极采取应对策略，加强伦理和法律监管、促进教育和培训、推动国际合作，以确保奇点的发展能够为人类带来福祉，而不是灾难。通过人类的智慧和努力，我们有能力引导奇点的发展，使其成为人类进步的新动力。

未来展望

未来，随着技术的不断进步，奇点的实现可能会越来越接近。我们可以期待看到人工智能在更多领域发挥重要作用，人类的能力也将得到进一步提升。但同时，我们也需要保持警惕，密切关注奇点可能带来的负面影响，并及时采取措施加以应对。在这个充满不确定性的未来，人类需要不断探索和创新，以适应新的技术环境，实现人类社会的可持续发展。

互动环节

• 你对奇点概念有什么看法？你认为奇点会给人类带来哪些好处和挑战？
• 在你看来，人类应该如何应对奇点可能带来的伦理和道德问题？
• 你认为人工智能在未来的创造力方面能否超越人类？为什么？

希望通过这些互动问题，能够激发大家对奇点概念的深入思考，共同探讨人类的未来发展。