15、人工智能的个人利益探讨

人工智能的个人利益探讨

1. 人工智能无法拥有的个人利益概述

人工智能不能被赋予源于尊严的个人利益，比如与意识、实体的心理或物理结构相关的个人利益。因为人工智能不知道自己的存在，保护其存在便没有意义；它也不会感受痛苦、悲伤或爱，所以保护它免受不愉快体验也没有意义。基于这些原因，像健康（心理或生理）、个人免疫与完整性，以及与其他人工智能或人类的情感纽带等个人利益，都不应被赋予人工智能。

此外，人工智能的个人利益不包括其代码的完整性。这不仅是为了确保人类安全，也是由人工智能自身的特性决定的。人工智能不能被赋予更改自身代码的权力，无论是用于修正还是更新。代码的任何损坏、扭曲、延迟或限制，即便属于非法行为，也不能成为基于个人利益提出索赔的依据。如果人工智能被认定为能够提起诉讼的法律主体，其索赔的来源只能是具有实际经济价值的财产损失。若人工智能是某个自然人或法人的财产，索赔权则归属于他们。对于具身人工智能（机器人），同样适用这些规则。

人类与人工智能形成情感纽带这一现象日益普遍，但这并不会改变上述观点。这种情感纽带往往是单向的，源于人类的需求和能力，而非人工智能的回应。社交机器人只是模仿参与关系，目的是为了人类的福祉。

2. 人工智能的自由问题

从多个方面来看，人工智能不应被赋予自由这一个人利益。

首先，确保人类安全是拒绝赋予人工智能自由的重要理由，甚至比缺乏尊严、意识和情感更为关键。因为一个人的自由会受到他人自由的限制，这种限制也可延伸到能够实现自由的实体。若人工智能被赋予自由，必然会对人类自由构成限制。随着人工智能变得更加智能，它可能在经济和政治上超越人类。

其次，人工智能不能拥有自我实现的权利或诉求。