14、智能的进步还是终结？（上）

智能的进步还是终结？（上）

1. 熵与宇宙复杂性的演变

熵指的是自由能的消耗过程。在熵概率引擎的驱动下，宇宙中的事物会从混沌中自发产生秩序，使得某些事物随时间变得更加复杂，这也是我们人类得以诞生的原因。

当宇宙产生更复杂的实体时，这些实体因其更复杂的行为会消耗越来越多的自由能。例如，原子结合形成分子时会释放热量；物质凝聚形成恒星，原子核开始聚变时，大量能量会转化为热能；物质形成能进行光合作用的自我复制分子时，也会产生热量。生命的故事可以看作是宇宙在熵的驱动下，不断探索将自由能转化为热能的多样新方式的过程。熵通过促进复杂性的发展，加速了自身的进程。

2. 信息与智能的发展

熵、能量与信息相互关联，而信息与智能密切相关。信息可被视为与周围能量梯度的连接，了解能量的分布情况，就能利用这种信息来增强生存能力。生命最初对信息的利用是确定核酸的排列顺序，以利用化学能维持自身生存。这一过程在自然选择的作用下不断加速。

随着生命的进化，生物开始处理各种不同类型的信息，并逐渐拥有相应的器官来实现这一功能，从细胞内的细胞器，到细胞聚集合作形成的专门组织，再到神经元、神经系统，最终发展出复杂的认知能力。这些发展都增强了生物体利用能量梯度的能力，加速了自由能向热能的转化。

人类在信息处理方面达到了一个顶峰。人类进化过程中突然获得了一种新的信息获取和交流方式——语言。语言的力量在于它可以在人与人之间传播，使得信息能够在群体中延续和积累。语言的出现推动人类从狩猎采集时代发展到如今的城市、探索太空的科技时代。

语言还促使了超越人类大脑的信息处理方式的发展。书写的发明使思想的传播不再依赖人与人的直接接触，印刷术的发明大大加速了这一过程，而个人电脑的发明则让几乎所有人类积累的信息都能被拥有电脑和互联网连接的人获取。

目前，信息处理技术的发展速度不断加快，人工智能正迅速向我们袭来。这意味着我们不仅能在彼此之间传输大量信息，还可能开发出类似大脑的处理器，它们可以直接相互共享信息，甚至可能将人类排除在外。

3. 信息面临的两大问题

信息以及复杂生命形式利用信息的方式存在两个重大问题，这可能会限制人类技术的进步和探索银河系的能力。

3.1 熵的问题

信息与能量相关，而能量又与熵相关。信息处理是加速熵增的复杂系统行为之一。信息处理不仅需要消耗越来越多的自由能，还增强了我们利用能量促进自身发展的能力。例如，互联网的能量消耗占文明当前能量消耗的2%，且呈指数级增长。加密货币就是一个典型的自我伤害例子，它将能量转化为信息，影响经济，其能量消耗逐年飙升。在地球上，由于生命的运作方式和我们对碳基燃料的过度依赖，能量转化为信息的过程不仅产生热量，还会产生二氧化碳，导致全球变暖加速。

3.2 病毒的问题

当信息系统发展时，它们很快会开始相互利用。最早的核酸开始自我复制时，就出现了病毒，它们利用其他生物的能量生产系统进行自我复制。如今，病毒仍然困扰着我们，它们是包裹在蛋白质中的DNA或RNA小包裹，唯一的功能就是侵入其他生物的细胞，利用其复制机制来繁殖更多的自身。

计算机病毒也是信息系统相互利用的例子。随着个人电脑的广泛使用，计算机病毒不断出现，检测和防范它们是一项庞大的信息处理工作。此外，人类的思想也可能像病毒一样传播，如“模因”。疫苗犹豫和“假新闻”等就是有害思想传播的例子，它们威胁着社会的稳定与和谐。

病毒是复制和相互作用的信息系统不可避免的副作用，它们不断威胁着这些系统的稳定性，反映了熵驱动的复杂性总是处于崩溃的边缘。

4. 量子AI与病毒熵

量子AI是备受瞩目的技术突破。传统AI受限于经典计算机的处理速度，难以模拟大脑的简单功能。而量子AI理论上可以利用量子系统同时处于多种状态的能力，并行处理计算，从而快速完成某些传统计算机难以完成的任务，如破解加密代码。

然而，量子技术尚处于起步阶段，维持量子纠缠状态的超低温处理器需要大量能量。目前，量子计算和核聚变一样，虽然有无限能量的潜力，但仍只是理论上的可能性。2019年，谷歌宣布实现了“量子霸权”，但对于其确切定义和谷歌是否真的实现了这一目标仍存在争议。

人类的每一项技术发展都旨在增加创造它们的系统的复制能力，这些发展本质上是通过操纵能量或信息将自由能转化为热能的复杂方式。人工智能一旦发展起来，很可能会被武器化，并且消耗大量能量，加速全球变暖，最终导致文明以某种方式消散为热能。

以下是信息处理发展历程的表格：
|发展阶段|特点|
| ---- | ---- |
|生命最初利用信息|确定核酸排列顺序，利用化学能维持生存|
|生物进化|发展出相应器官处理信息，加速自由能向热能转化|
|人类语言出现|信息可在群体中延续和积累，推动人类文明发展|
|书写发明|思想传播不再依赖直接接触|
|印刷术发明|加速信息传播|
|个人电脑发明|人类积累的信息广泛可获取|
|人工智能发展|可能开发类似大脑的处理器，改变信息处理模式|

下面是信息面临问题的mermaid流程图：

graph LR
    A[信息] --> B[熵的问题]
    A --> C[病毒的问题]
    B --> B1[消耗大量自由能]
    B --> B2[加速全球变暖]
    C --> C1[生物病毒]
    C --> C2[计算机病毒]
    C --> C3[思想病毒]

智能的进步还是终结？（下）

5. 复杂系统的抗病毒机制

虽然信息系统面临熵和病毒等诸多问题，但从地球复杂系统四十亿年的进化历程来看，也存在应对之策。

当生命在地球上首次出现时，病毒也随之而来，但很快就出现了抗病毒系统。最初是DNA修复机制，它能寻找并修复遗传代码的破坏。随着细胞和病毒的不断进化，细胞发展出了更复杂的自我保护机制。如今，我们不仅拥有维持遗传代码完整的精密机制，还有复杂有效的免疫系统来检测和摧毁入侵者。近年来，分子生物学家通过疫苗为我们增加了一层保护。

在人类技术发展中也存在类似的军备竞赛。计算机病毒出现后，相应的抗病毒系统也应运而生。如今，几乎每个人都在某种“防火墙”的保护下工作，这类似于生物的免疫系统。

在大脑层面，虽然我们对认知“抗病毒”机制了解较少，但可以肯定它们是存在的。大脑中有许多相互作用的子系统，必然有某种机制来维持它们的平衡，防止某个子系统失控。例如，成瘾现象就是当某个动机回路变得过强并主导行为时出现的，这说明正常情况下有机制在维持大脑的稳定。

在社会层面，也存在抗病毒机制。社会是复杂的自我复制信息处理系统，内部存在个体之间的竞争和冲突，可能导致社会不稳定甚至自我毁灭。但同时，利他主义等本能和社会规则系统，如世俗和宗教法律，能调节个体行为，使个体在自身利益和集体利益之间找到平衡。这些“抗病毒”系统虽然并不完美，但足以让数十亿人和谐共处。

以下是不同层面抗病毒机制的列表：
- 生物层面 ：
- DNA 修复机制
- 免疫系统
- 疫苗
- 技术层面 ：
- 计算机抗病毒系统
- 防火墙
- 大脑层面 ：认知“抗病毒”机制
- 社会层面 ：
- 利他主义
- 社会规则系统

6. 为人工智能构建保护机制

如果量子 AI 真的如人们所期望的那样，成为超级快速、强大且具有突破性的技术，我们很可能会被人工智能所超越，这就是所谓的技术奇点。物理学家斯蒂芬·霍金和科技企业家埃隆·马斯克等许多人都警告过，技术奇点可能导致人类灭绝。

不过，地球复杂系统的进化历史表明，有些系统能够找到应对自我复制动力的方法并得以延续。虽然从统计学角度看，作为数十亿物种之一，我们避免灭绝的机会可能很小，尤其是考虑到我们正朝着技术奇点飞速前进，但我们的智慧既可能是导致我们灭亡的原因，也可能是拯救我们的关键。

我们需要借鉴过去的经验教训，为自我复制的智能信息系统构建防止其失控自我传播的机制。在开发这些系统时，要同时制定约束措施，防止它们变得有害地自主运行，这类似于 DNA 修复系统、免疫系统或道德系统的作用。虽然目前还不清楚具体如何实现，但我们的长期成功取决于找到这样的方法。熵驱动着所有复杂系统的发展，这是一场走向终点的竞赛，但我们的智慧让我们有可能找到一条迂回而非直接的道路走向那个不可避免的终点。至于我们的 AI 设计者是否有能力完成这项任务，还有待观察。

下面是应对信息系统问题及构建保护机制的 mermaid 流程图：

graph LR
    A[信息系统问题] --> B[熵的问题]
    A --> C[病毒的问题]
    B --> D[开发节能技术]
    C --> E[构建抗病毒机制]
    E --> E1[生物层面保护]
    E --> E2[技术层面保护]
    E --> E3[大脑层面保护]
    E --> E4[社会层面保护]
    D & E --> F[为 AI 构建保护机制]
    F --> G[防止 AI 失控]

总之，智能的发展既带来了巨大的机遇，也伴随着诸多挑战。我们需要在享受智能进步带来的好处的同时，积极应对可能出现的问题，通过构建有效的保护机制，让智能的发展朝着有利于人类的方向前进。