15、构建由人类与人工智能共同进化推动的积极星球未来

构建由人类与人工智能共同进化推动的积极星球未来

在当今科技飞速发展的时代，人工智能（AI）已经成为了影响人类未来的关键因素。然而，目前关于人类与AI未来的主流设想，无论是用于规划还是引发思考，以及未来预测的最佳实践，都存在一定的技术决定论倾向。如果按照当前的设想发展下去，很可能会走向反乌托邦的结局。在设计、开发和使用AI的过程中，人们越来越担心在目标对齐和道德责任方面逐渐失去优势。

1. 共进化的概念

共进化是指物种之间通过相互作用而产生的互惠进化变化过程。目前，我们在处理与不断发展的AI领域的关系时，陷入了两种相互冲突的范式之间。

• 分离范式 ：1964年，诺伯特·维纳（Norbert Wiener）将人类与AI的关系描述为最好通过分离来协商，即各自发挥其最擅长的方面。然而，这种最初被认为既明智又实用的关系，在实践中却被证明并非如此简单。“各做其最擅长之事”的关系导致了所谓的对齐问题。随着机器学习系统变得越来越强大和普遍，个人复杂且经常相互冲突的价值观、动机和目标，以及社会的不断演变，使得明确和对齐人类与基于AI的系统之间的目标变得越来越困难。此外，在复杂的新兴系统和情况中，将机器和人类分离来设计有意义的人类控制（MHC），即使不是不可能，也是极其复杂的。
• 关系范式 ：在西方世界，人类对具有类似生命功能的自动机器着迷已有几个世纪的历史。我们不仅在理智上知道机器人只是机器，而且还愿意并渴望赋予它们某种关系角色。这种AI与人类的关系范式之所以有趣，首先是因为它存在，并且在西方文化历史中作为一种迷恋和渴望存在了几个世纪。其次，伴随着这种迷恋而来的是许多警告，例如拟人化AI的