15、从科幻到灵魂机器：重新审视人工智能中的同理心-优快云博客

本文链接：https://blog.youkuaiyun.com/orange/article/details/149393534

从科幻到灵魂机器：重新审视人工智能中的同理心

1. 引言

在科幻作品中，同理心长期被视为人类独有的特质。许多作者借此在人类与以意外方式展现同理心的非人类之间建立社会等级，这催生了所谓的“人类例外论”，即将同理心与道德以一种能力主义的方式联系起来。然而，理查德·鲍尔斯的《加拉蒂亚 2.2》和菲利普·K·迪克的《仿生人会梦见电子羊吗？》挑战了这一传统，将神经网络的电路和仿生人独特的身体视为“活力物质”，它们发展出了自己的具身感、忠诚度、同理心和效能感。与此同时，现实世界中的灵魂机器公司也在开发具有同理心的人工智能系统，这促使我们重新思考同理心与（人工）智能在道德、责任和权力等问题上的关系。

2. 科幻中的人工智能与人类例外论

2.1 科幻中的常见设定

科幻作品常常创造出人工智能的末日景象，其中一个常见的设定是，人造人类由于身体形态与人类不同，缺乏同理心、道德和对人类的责任感。艾萨克·阿西莫夫的“机器人三定律”就体现了人造人类对人类的依赖和服务关系。例如，斯坦利·库布里克的电影《2001 太空漫游》中，人工智能 HAL 违反了这些定律，攻击了宇航员。但有趣的是，国际空间站配备的 IBM 沃森人工智能系统却在协助科学家工作，这一发展或许能改变人们对人工智能的恐惧想象。

2.2 分布式机构与人工智能

简·贝内特通过 2003 年北美大停电事件，阐述了分布式机构的概念。在这起事件中，多个因素相互作用导致了停电，而调查人员至今仍不清楚停电为何会自行停止。这表明人工智能的机构不应被从其所处的集合体中分离出来，否则会转移责任。我们应关注人类与非人类力量的复杂纠缠，以及人工智能在其中的作用。