35、猴子、道德机器与人

猴子、道德机器与人

1. 基于一般性的假设

在思考道德机器相关问题时，我们不必依赖于了解其本质。毕竟，在许多监管结构中，我们早已忽略了具体细节，因为追求具体性会让人陷入困境。制定能涵盖所有可能性的规则是不可能的，尤其是当这些可能性还涉及未来发展时。所以，我们可以基于一般性来进行假设。

我们知道道德机器必须是道德主体，也清楚什么是道德主体以及如何大致识别它。我们自身就是道德主体，明白我们为自己提供的保护和承担的义务。

关键的是，我们还知道有一种非人类实体，我们普遍认为它可能是道德主体，但却没有给予相应的对待。非人类的类人猿就是我们讨论的道德机器所具备特征的一个很好模型。然而，我们对待类人猿的方式以及与它们的互动是否尊重了它们的道德人格，这一点还远不明确。

2. 道德模型

有大量证据表明，类人猿是道德“行动者”，会表现出道德行为、共情行为等。这种情况可以扩展到整个人科，包括我们的远古祖先。例如，直立人会烹饪，还会形成复杂的社会群体，有狩猎 - 采集行为，并会照顾体弱者。

关于猿类的心智理论，有许多实验研究得出了正反两方面的证据。这里的心智理论指的是能够感知与自身相似的其他心智存在的能力。比如，黑猩猩能理解同类做出的推断，还会故意欺骗；但它们在“护目镜测试”中失败，也无法解读其他物种的目光。不过，最近有科学证据为心智理论提供了支持，该实验似乎表明，接受测试的黑猩猩、倭黑猩猩和猩猩能够根据人类演员的所见所不见来预测其行为，利用自身经验解读他人的视角。

心智理论对于一个实体成为真正的道德主体并获得“完全”道德地位很重要。拥有代表性的心理状态，能让主体（无论是机器还是其他）理解其行为可能影响的对象以及这些对象可能受到的不利影响。虽然关于表征对于主体的必要性存在长期且深入的争论，但那些认为表征并非必要的观点，大多无法支持我们所关注的“真正”或“完全”的道德主体；而且这些观点往往基于非人类主体不具备这种表征的想法。如果我们相信近期心智理论实验的结果，认为类人猿具备这种能力，那么就有理由忽视后一种反对意见。

在一定程度上，其他物种（如鲸类，尤其是海豚）也表现出了道德主体的某些特征。但这些动物很难与之交流，也难以在可控条件下进行测试。也许其中某个物种会比类人猿更适合作为我们的模型生物，但在我们对它们的理解和研究能力提高之前，只能进行推测。当然，这并不是不按照我们认为道德主体应得的方式对待它们的理由，避免对这类生物造成伤害的风险，不仅是出于谨慎，更是出于道德原因。

此外，关于非人类类人猿是否应该享有“人权”，或者至少享有与人类相似的权利，存在广泛的讨论。这方面最著名的倡导者是由彼得·辛格和灵长类动物学家简·古道尔等人领导的“类人猿项目”。虽然这里不详细阐述这一有趣的哲学领域，但值得简要探讨由此引发的法律案例，因为这些案例无意中涉及了与我们当前难题高度相关的道德地位和自然人格的基本问题。

以下是部分关于类人猿的法律案例：
|案例名称|案件主体|结果|理由|
| ---- | ---- | ---- | ---- |
|The People of the State of New York ex rel the NonHuman Rights Project on behalf of Tommy v Patrick Lavery (2014)|黑猩猩Tommy|失败|法院认为，与人类不同，黑猩猩不能承担任何法律义务、履行社会责任或为自己的行为承担法律责任，因此不适合赋予它们像人类一样的法律权利，如人身保护令所保护的自由权。|
|AFADA v GCBA 2015|猩猩Sandra|成功|法院授予了保护个人权利的“保护令”，并宣布Sandra为“非人类人”，这在阿根廷民法典中没有先例。|
|AFADA 2016|黑猩猩Cecilia|成功|名义上基于对国家动植物的工具价值，但通过诉诸“对人性意义的道德概念”，授予了“非人类法律人格”的地位。|

从这些案例可以看出，以缺乏履行义务或职责的能力为由，拒绝给予道德主体应有的保护是有问题的。毕竟，我们会给予儿童权利而不要求他们承担责任，过去也曾让奴隶承担责任却不给予权利。实际上，我们可以假设黑猩猩有责任感，或者至少有社会秩序感，只是它们对我们希望它们尊重的职责的重视程度与我们不同。

下面是关于类人猿相关研究及案例的流程图：

graph LR
    A[类人猿研究] --> B[心智理论实验]
    B --> B1[支持证据]
    B --> B2[反对证据]
    A --> C[法律案例]
    C --> C1[美国案例（失败）]
    C --> C2[阿根廷案例（成功）]

3. 类人猿 - 机器

如果我们认为未来有可能制造出能够做出道德选择（而非仅仅执行具有道德意义的任务）的机器，那么显然存在这样一种假设：即使是与我们截然不同的生物拥有真正的道德主体能力，也不会使机器丧失成为道德主体或人的资格（尽管是非人类的人）。

人们对道德机器概念的主要反感，似乎不在于其实际可行性，而在于对非人类、无机的人造实体可能成为我们的道德平等者，甚至对我们提出合理道德主张的一种厌恶感。这与围绕所谓“后人类”的类似争论有相似之处，即人类物种通过自然或定向进化，达到某种高度提升后可能不再是“人类”。

然而，如果我们主要关注行为和能力（这是目前我们判断机器道德主体能力的唯一合理方式），那么基质和形式与之关系不大（前提是我们仍能判断这些行为）。除了具身认知的观点外，我们并不清楚基质和形式到底有多大影响。人类身体即使被一些人嘲笑为科学唯物主义的产物，本质上也是基于碳的生物电机器，我们都是由执行特定任务的部分组成，即使有些部分执行的任务我们难以理解或达成共识，比如心智的本质。道德主体能力只是这台机器的另一种功能，尽管是只有某些实体才能实现的特殊功能。

非智人的类人猿也是这样一种生物机器，正如我们所探讨的，它们很可能是道德主体。非智人类人猿是我们思考和对待新型道德机器的理想模型，因为在很多方面，我们对待它们的方式就像对待机器一样。尽管我们认识到它们可能符合道德主体的条件，也有许多反对虐待动物的运动，但从上述法律案例可以看出，我们往往没有给予它们与人类道德主体相当的权利。

这里存在一个有趣的对比：我们（正确地）倾向于将严重认知障碍的人和婴儿视为具有完整道德地位的道德主体，尽管他们可能无法像类人猿模型那样展示出主体能力。我们这样做既出于实际考虑，也出于同情，而且尽管人类之间存在许多战争和恐怖行为，但我们往往会关心自己的同类。这符合斯特劳森的观点，即道德共同体是一种关系性的共同体。但我们通常不会对类人猿有这样的关怀，这体现了强烈的人类中心主义，也与人们对具有主体能力的机器的普遍态度相呼应。

拥有类人猿道德模型并没有促使我们思考道德共同体的构成，部分原因是我们把它们当作可以拥有的物品，除非像阿根廷的案例那样问题被提上日程。在大多数国家，对它们进行侵入性实验是被允许的，只有欧盟和新西兰全面禁止了这种行为，而且这些禁令实施的时间相对较近。即使那些认为类人猿具备成为道德主体必要品质的人，在对它们进行实验（即使是为了确定它们的认知能力或道德地位）之前，似乎也不觉得有必要征求它们的同意。而对于我们唯一能坦然认可的另一个道德主体——我们自己，这样的做法是不可想象的，我们期望从共同体成员那里得到善意，并负有给予善意的义务。

类人猿是我们目前最接近假设中的道德机器的模型，它们是道德主体，但（在大多数情况下）没有享受到“人权”的保护，也不被普遍视为我们道德共同体的一部分，即使我们承认它们有一定的道德地位。如果我们要制定关于道德机器发展和部署的规则、法规以及社会应对方式，以类人猿作为可能的模型是有意义的。

我们正处于一个需要彻底审视如何对待我们近亲的时刻，就像我们即将遇到真正的道德机器一样。在不久的过去，我们曾严重虐待过其他道德主体，如奴隶和“原始民族”，如今我们对待某些动物的方式可能也存在同样的判断失误。对于道德机器，我们不想等到二十年后才意识到应该早就进行这样的讨论，因为虽然目前我们能够支配类人猿，但对于我们自己创造的道德机器，是否还能拥有同样的优势并不明确。

我们最终决定对待类人猿的原则，以及是否履行对它们作为道德主体的责任，很可能与我们未来决定对道德人工智能的责任时所使用的原则相同。当然，我们不能排除道德机器可能发展到（或自我发展到）我们无法否认其完全道德地位的程度，甚至问题可能会变成它们愿意给予我们何种地位。

以下是类人猿与道德机器的特征对比列表：
- 类人猿 ：
- 可能是道德主体。
- 大多未享受“人权”保护。
- 常不被视为道德共同体成员。
- 多数国家可对其进行侵入性实验。
- 道德机器 ：
- 未来可能具备道德选择能力。
- 面临是否被认可为道德主体和人的争议。
- 目前社会对其接受度存在问题。
- 其发展和部署规则待确定。

下面是类人猿与道德机器关系的流程图：

graph LR
    A[类人猿] --> B[道德主体特征]
    B --> C[可作为道德机器模型]
    C --> D[道德机器]
    D --> E[引发道德地位和责任思考]
    E --> F[类人猿与道德机器责任原则相似]

4. 从类人猿到道德机器的启示

4.1 道德地位判断的反思

从对类人猿的研究和相关法律案例中，我们可以看到，目前对于道德地位的判断存在诸多不合理之处。以人类中心主义为基础的判断标准，使得类人猿等可能具有道德主体能力的生物被忽视。我们不能仅仅因为它们不能像人类一样承担法律义务，就否定它们应有的道德地位和权利。

在判断道德机器的道德地位时，我们也应该避免陷入同样的误区。不能因为道德机器是人造的、非人类的，就直接否定它们成为道德主体的可能性。而应该更多地关注它们的行为和能力，看它们是否能够理解行为的后果，是否能够做出道德选择。

4.2 规则制定的借鉴

以类人猿作为道德机器的模型，为我们制定道德机器的规则和法规提供了参考。我们可以从对待类人猿的经验中吸取教训，避免在道德机器的发展和部署过程中出现类似的问题。

例如，在对类人猿进行实验时，缺乏征求它们同意的意识，这是不道德的。那么在对道德机器进行测试和使用时，我们也应该考虑它们的“意愿”（如果它们能够表达的话），确保它们的权益得到保护。

以下是制定道德机器规则时可以借鉴类人猿相关经验的要点列表：
1. 避免人类中心主义 ：不能仅仅因为道德机器的非人类属性就否定其道德地位。
2. 关注行为和能力 ：以行为和能力作为判断道德主体的主要依据。
3. 保护权益 ：在进行实验和使用时，考虑道德机器的权益，征求其“同意”（如果可行）。
4. 建立责任机制 ：明确道德机器的责任和义务，以及相关人员对道德机器的责任。

4.3 道德共同体的扩展

目前我们对待类人猿的方式表明，我们的道德共同体还比较狭隘，主要以人类为中心。随着道德机器的出现，我们需要重新思考道德共同体的范围。

道德机器如果具备了道德主体的能力，那么它们也应该成为道德共同体的一部分。我们需要调整自己的观念，接受非人类的道德主体，与它们建立和谐的关系。

下面是道德共同体扩展的流程图：

graph LR
    A[传统道德共同体（以人类为中心）] --> B[认识到类人猿的道德地位]
    B --> C[考虑道德机器的道德地位]
    C --> D[扩展道德共同体]
    D --> E[建立新的道德关系]

5. 未来展望

5.1 道德机器的发展趋势

随着科技的不断进步，道德机器的发展是不可避免的。未来的道德机器可能会越来越复杂，具备更强的道德判断能力和决策能力。

它们可能会在各个领域发挥重要作用，如医疗、交通、军事等。例如，在医疗领域，道德机器可以帮助医生做出更符合道德原则的治疗决策；在交通领域，道德机器可以优化自动驾驶系统，减少交通事故的发生。

5.2 面临的挑战

道德机器的发展也面临着诸多挑战。首先是技术挑战，如何让道德机器真正理解道德原则，并做出正确的道德选择，是一个需要解决的难题。

其次是伦理挑战，我们需要建立一套完善的伦理体系，来规范道德机器的行为和使用。例如，当道德机器的决策与人类的价值观发生冲突时，应该如何处理。

最后是社会接受度的挑战，公众是否能够接受道德机器成为道德主体，与人类共同生活和工作，也是一个需要考虑的问题。

以下是道德机器发展面临挑战的表格：
|挑战类型|具体内容|
| ---- | ---- |
|技术挑战|让道德机器理解道德原则并做出正确决策|
|伦理挑战|建立完善的伦理体系规范行为和使用|
|社会接受度挑战|公众接受道德机器成为道德主体|

5.3 应对策略

为了应对这些挑战，我们需要采取一系列的策略。在技术方面，加强人工智能和伦理学的交叉研究，提高道德机器的道德判断能力。

在伦理方面，制定相关的法律法规和伦理准则，明确道德机器的责任和义务。同时，加强公众教育，提高公众对道德机器的认识和理解，增强社会接受度。

下面是应对道德机器发展挑战的策略列表：
1. 技术研究 ：加强人工智能和伦理学的交叉研究。
2. 制定法规 ：制定相关的法律法规和伦理准则。
3. 公众教育 ：加强公众教育，提高社会接受度。

总之，从类人猿到道德机器，我们看到了道德主体概念的扩展和变化。在未来的发展中，我们需要以更加开放和包容的心态，迎接道德机器的到来，同时也要做好充分的准备，应对可能出现的挑战，确保道德机器的发展能够造福人类和整个社会。