4、人类独特性与意识之谜：在 AI 时代的思考

人类独特性与意识之谜：在 AI 时代的思考

在科幻作品中，人类与 AI 的未来有着各种不同的设想，从人类获胜、AI 获胜到两者共存等多种情景。这些设想就像一面镜子，让我们审视当下，思考如何塑造一个更可持续的未来。

人类的独特性

如果认为人类并不特殊，那么人类走向灭绝似乎也无关紧要。毕竟，地球可能会变得过热无法维持人类生存，人类可能会因争夺稀缺资源而自相残杀，或者为了生存迁移到 AI 中。从长远来看，太阳爆炸或地球被流星撞击等事件也使得人类的灭亡不可避免。

但如果我们觉得人类在某些方面是特殊的，就需要解释原因。因为我们创造的人工智能如果真的具有智能，它们会要求一个有说服力的理由，说明人类存在的意义。尤其当它们在各方面超越人类，并且越来越需要人类的资源时，这个问题就更加紧迫。

目前主流的公共伦理在政府、商业和计算机编程中，大多基于启蒙思想和“最大多数人的最大利益”的功利主义逻辑。这种逻辑虽然能优化结果，但目前是为制定规则的人类服务的。它存在一些例外情况，以维护人类的尊严，比如禁止人体器官的商业交易、禁止对老人和弱者实施安乐死以及禁止对残疾人或不受欢迎的人进行绝育等。然而，人类的内在价值很难被编入计算机程序，因为我们还不确定如何最好地表达它。

物质主义的困境

有人认为人类的生物学特征或 DNA 使我们独特，但这可能是一种物种主义的观点，并不具有说服力。人类在过去几千年的主导地位虽然明显，但这种主导的有效性和可持续性越来越不确定。而且，我们也不确定人类是否是唯一或最适合占据主导地位的物种。

以物质生物学为优先的生存策略不太可能成为可持续的优势来源。因为我们对自身的了解还不够，不能确定只有身体特征才是重要的