14、人工智能个人利益的可能类型

人工智能个人利益的可能类型

1. 存在与繁衍

从安全角度考虑，人类需要对非人类实体（包括机器和人工智能）保持完全控制。目前，至少不应承认人工智能有存在的保障，有意识的人工智能更多还存在于科幻领域。这里说的是“存在”而非“生命”，因为至少目前，人工智能作为计算机系统，在生物学意义上并非有生命的。

而且，由于人工智能基于软件，其系统的实际存在并非那么重要，更重要的是它的行动可能性和实现目标的能力。存储在任何介质上或藏在抽屉里的代码虽然存在，但不会产生任何影响。所以，在讨论人工智能存在的潜在利益时，不仅要考虑其存在本身，更要考虑它以何种形式存在能实现既定目标，比如安装在某些硬件中的人工智能。

1.1 生物与非生物存在的差异

西方法律文化珍视和保护生物生命，所有形式的生物生命，即便微小，都被认为具有内在价值和实用价值，当然人类生命最为重要，但其他生物也可能有内在价值。例如在荷兰，根据动物保护法和民法典，动物被视为具有内在价值，即便被视为财产的动物也与无内在价值的事物有所区别。

相比之下，其他非生物实体，如法人，即便有一些法律认可的个人利益，其存在也不受保护。虽然有各种法律手段来维持法人的存在，但这是出于实用价值而非内在价值，其保护力度远不及个人利益。这种生物与非生物（人造）存在的差异，对本文探讨的问题以及许多其他相关问题都至关重要。

由于人工智能是人造的、非生物的，它没有“生命权”，也无权主张自身的存在，无论它能创造何种价值，如精彩小说或准确的医疗诊断，以及在社会中可能扮演的重要角色，其行动的可能性完全取决于人类的决策，更确切地说是那些被授权者的决策。人工智能无法阻止任何禁用它甚至销毁其代码的决定。

同样