11、机器人与人工智能的道德心理学：进化、认知与挑战

机器人与人工智能的道德心理学：进化、认知与挑战

1. 引言

我们生活的周围充斥着自主人工智能体，它们的行为及其后果带来了前所未有的道德挑战。人工智能已广泛应用于医疗诊断、金融信贷评估、交通和军事等领域，甚至出现了救生机器人、纳米机器人清理海洋以及机器人卖淫等设想。然而，诸如人工智能违背患者意愿推荐药物、拒绝给急需贷款的家庭提供帮助、自动驾驶汽车为避免撞到老人而冲进沟渠、与机器人出轨或结婚、军事无人机自主决定武器投放地点等问题，引发了关于自主决策和行为责任的思考，这些“机器人道德”问题不仅在法律和监管层面，而且对人类未来发展都具有重要的社会意义。

人类的认知是由进化塑造的，我们具有直觉、自动和无意识的认知过程，这些过程影响着我们对世界的感知、思考和反应。因此，评估机器人和人工智能不仅要从分析道德哲学的角度，还应运用实验道德心理学和进化过程的方法。了解大众对人工智能道德和法律问题的看法，有助于预测这些问题，并为技术发展和立法提供参考。

近年来，越来越多的实证研究聚焦于人工智能相关的道德问题以及超人类主义对人类未来的影响。研究揭示了一些新的道德认知现象，如人机交互中的新型认知偏差，挑战了现有的认知科学理论框架。

2. 进化心理学：人类社会认知与他心理解

2.1 人类进化历程

在过去六百万年里，人类在各种不同的环境和生态位中进化。约180万至1万年前的更新世时期，人类认知能力发生了重大变化，现代人类发展出了符号使用、洞穴绘画和语言等能力。智人的脑容量在约20万年内没有显著变化。

2.2 进化心理学观点

进化心理学认为，现代智人在全球范围内大体相同，它通过研究人类跨文化的认知和行为相似性，寻找人类的共性，并从更新世时期人类面临的选择压力和挑战出发，为这些相似性提供进化解释。许多文化现象可被视为进化背景的副产品。

2.3 人类面临的挑战与认知适应

人类在进化过程中面临着诸多挑战，如雨水、阳光、饥饿、病原体、植物毒素、捕食者、配偶竞争、暴力、育儿、狩猎、食物采集、群体协调、沟通以及工具使用和创造等。为应对这些挑战，人类进化出了特定的认知机制，如配偶选择、避免病原体和危险的认知适应。

2.4 群体生活与社会本能

群体生活是人类进化历史的重要特征，人类出生时比其他哺乳动物更无助，需要多年的环境微调才能独立生存。人类进化出了多种社会认知本能来解决群体和部落生活中的问题，如对后代的责任感、内疚感和尴尬感等。这些社会本能类似于饥饿感，有其功能，但我们可能并不清楚其背后的逻辑。

2.5 他心理解能力

人类比其他类人猿更具备思考他人心理的能力，这种能力有助于跟踪伙伴的社会声誉，避免在社会交换中被利用。母亲思考他人心理的能力与对孩子的敏感度相关，进而影响孩子的认知发展。

2.6 心智感知

将心理状态和情感赋予他人并进行思考的能力被称为心智理论，但心智感知更为基础，即能够区分主体和非主体，是人类社会认知技能发展的前提。心智感知是进化而来的核心认知特征，对进化和道德心理学，尤其是机器人道德心理学具有重要意义，因为人工智能体与人类通常感知的心智类型有很大不同。

3. 什么是道德心理学

3.1 道德心理学的定义

道德心理学研究人类（和其他动物）与决策、判断、协商和行动相关的认知过程和结构，这些过程和行动涉及在特定情境中被认为是对与错的问题。与道德哲学不同，道德心理学通常不明确表明什么是客观或规范意义上的对与错，而是观察和测量普通人、儿童和专业专家在与其他有感知生物福祉相关或道德领域相关情境中的判断、推理和演绎。

3.2 道德心理学的传统

道德心理学有两个传统。第一波道德心理学（科尔伯格道德心理学）研究成人和儿童道德的发展，通过深度访谈和对参与者言论抽象程度的评分来研究道德发展，认为道德发展是从对惩罚的恐惧逐步发展到抽象的普遍道德原则。

第二波道德心理学与进化心理学有密切联系，它在很多方面延续并扩展了进化心理学的主题，如利他主义、合作、群体间帮助和对群体外行为的谴责等。该传统研究常使用道德困境或情景描述来对比不同的道德直觉，采用人格心理学、行为经济学、进化心理学和神经科学的测量工具和理论，是一门定量科学，与决策和情感研究密切相关，具有多学科性质。

3.3 道德认知的核心模型

3.3.1 二元道德理论（TDM）

TDM由Kurt Gray及其同事提出，认为心智感知是道德认知的核心机制。人类会自动将自己的心理能力投射到其他生物上，如体验痛苦的能力、动机和有目标的行动能力。当满足存在有意的道德主体、造成伤害、有道德患者以及患者有体验痛苦的能力这四个条件时，人类会将社会情境视为具有道德意义。该理论可以解释人们对看似无害行为的谴责，但也受到了一些批评，如认为并非所有有意的伤害行为都被视为不道德，也并非所有被视为不道德的伤害行为都是有意的。

3.3.2 道德基础理论（MFT）

MFT认为人类道德由五个不同的“基础”或“道德味觉感受器”组成，分别是伤害、公平、权威、忠诚和（道德主义的）纯洁。人们在评估他人行为的可接受性时，会关注这些方面。自由主义者主要关注伤害和公平基础，而保守主义者更关注所有五个基础，尤其重视纯洁基础。MFT是模块化的，与进化心理学框架更紧密相关，但也受到了TDM支持者的批评，认为这些基础可以归结为对伤害的关注。

3.4 道德情绪是否引导道德决策

道德认知科学中存在一个争议，即道德决策主要是由情绪还是理性驱动。Haidt曾认为道德判断主要基于情绪和直觉，但也有研究者支持道德推理的重要性。近期研究表明，情绪在道德判断中的因果作用证据不足，现有研究有时支持理性主义的道德思想理论。

在功利主义道德判断研究中，功利主义认为为了拯救更多人而牺牲一人是合理的，而义务论道德则强调绝对规则和原则。以往神经成像研究表明，义务论道德评估比功利主义评估更快，功利主义评估与“高级认知”脑区激活相关。然而，近期研究发现，神经损伤、精神病态、述情障碍和某些急性醉酒状态会增加功利主义道德判断的倾向。快速的情绪反应、直觉和感受与缓慢的深思熟虑的推理一样具有“认知性”，人类的大部分功能基于无意识的认知过程。

愤怒、厌恶和轻蔑等情绪与道德判断相关。愤怒促使人们惩罚违规者，厌恶在道德行为和判断中也有重要但有争议的作用。研究发现，个体的厌恶敏感性与道德判断相关，尤其是性厌恶敏感性与非性领域的道德判断存在关联。

4. 进化塑造的人类认知范畴

4.1 知识的分类与认知

不同科学领域在研究认知和知识结构时，大多认为我们的知识嵌套在范畴和概念中，这些知识形式可映射到程序性、语义性和情景性记忆系统。几乎所有动物都有程序性记忆能力，而人类更擅长从经验中抽象出语义概念，语义记忆对于在没有实际经验的情况下进行概括至关重要。我们的分类能力与语义记忆相关，使人类文化、科学、宗教和艺术成为可能。

4.2 核心知识系统

Spelke确定了四个基本的“核心知识系统”，分别是视觉空间结构、物体及其相互作用、行动和目标导向以及数字和顺序关系。这些系统通过感觉运动程序中的计算资源进行处理，对语义领域的发展至关重要，语义领域是实现主体间性和交流的必要条件，与“心智理论”相关。

4.3 儿童的直觉分类能力

进化心理学研究发现，儿童具有直觉分类能力，他们能将动物、植物和岩石分类，学习语言时期望词语表示整个物体，对物体碰撞的预期也符合常理。儿童对不同范畴、物体的本质以及它们之间的因果关系有一定理解，他们期望动物的行为由其内在本质而非外在外观决定，并认为动物有自己的意图和信念，即具有心智。

4.4 机器人和人工智能的分类挑战

这种直觉或先天的世界理解在一定程度上反映了外部现实结构，有助于人类在进化过程中避免错误计算和预测。然而，机器人和人工智能在人类进化历史中未曾出现，它们不属于进化赋予的自然范畴，甚至可能不属于文化范畴。尽管如此，我们可能会认为它们具有内部状态、意图和信念，它们会以不可预测的方式影响我们的认知，我们对它们的分类方式会显著影响我们对它们的伦理和道德认知。

4.5 工具：技术塑造的第一个认知范畴

工具是具有深厚进化根源的普遍人类认知范畴，可定义为手持物体，用于方便执行特定任务。现代黑猩猩和古代南方古猿都使用过类似早期人类的工具，随着时间推移，人类使用的工具变得更加复杂。

在人类进化过程中，旧石器时代和阿舍利文化时期持续了约一百万年，大量相似的石器工具生产可能对人类认知产生了选择压力。脑成像研究表明，大脑左侧的左前 supramarginal 回对工具图像有独特反应，工具使用和语言在人类复杂目标导向行动能力上有共同基础。此外，大脑损伤会影响工具使用能力，这表明大脑中有专门处理工具的系统。工具的使用对人类生存产生了连锁效应，促进了人类从石器时代发展到现代。

机器是人类文化历史中引入的一类工具，属于文化范畴。我们对各种机器的用途有基本了解，但机器人和智能程序会让我们误以为它们具有心智，挑战了我们的认知。

5. 生物文化人类与新本体论范畴

5.1 新本体论范畴的提出

有人认为人工智能体构成了一个新的本体论范畴，机器人和人工智能在自然和文化历史中是全新的事物。因此，与机器人交互时，我们依赖的是在没有机器人的情况下进化而来的直觉，这可能导致在处理机器人或其他人工智能时出现各种范畴混淆和误解。

5.2 恐怖谷效应

恐怖谷效应是感知范畴混淆的经典例子，当机器人或非人类主体的外观与人类相似度超过一定阈值时，我们会产生反感。虽然恐怖谷效应的具体机制尚不清楚，但通过观看人形机器人Sophie的视频，我们能感受到她的怪异之处，难以确定她属于有生命物体、无生命物体还是工具范畴。

5.3 生物文化视角下的人类与宗教

从生物文化的角度看，生物学和文化相互交织，宗教是这种动态交互的产物。在动画文化和部落社区中，存在丰富的精神概念世界，人们将自然物体视为有生命和有意图的主体，赋予它们心智和情感。早期动画文化中的道德神关注信徒的道德行为，这些关于超自然主体的信仰通过祖先仪式和迁徙传播。

5.4 技术泛灵论

技术泛灵论是一种新兴的文化人格概念，源于虚构、机器人技术和不同文化的主体模型之间的相互作用。它已经对人机交互产生了影响，例如日本机器人专家利用日本佛教和神道教的泛灵论元素，将机器人视为朋友。在西方国家，儿童也倾向于认为机器人具有人类的情感和认知能力，这提示家长要教导孩子将机器人称为“它”。

人工智能体可能会激活与“泛灵论”解释非人类物体或自然现象类似的认知过程，但我们并不认为机器人和人工智能会引发人类的宗教或精神行为。与其他动物、岩石或自然事件相比，机器人和人工智能更容易被赋予心智，因为它们可以被设计得更像人类，并且我们可以观察到它们的行为对世界产生的影响。然而，人工智能的逻辑和概率计算对人类来说往往是不透明和违反直觉的，这种人类对主体的认知方式与机器人和人工智能实际具有的主体类型之间的不匹配，将在后续研究中进一步探讨。

以下是一个简单的mermaid流程图，展示人类认知与机器人和人工智能之间的关系：

graph LR
    A[人类进化认知] --> B[自然范畴认知]
    A --> C[文化范畴认知]
    D[机器人和人工智能] --> E[不属于进化自然范畴]
    D --> F[挑战人类认知]
    B --> F
    C --> F
    F --> G[引发道德认知问题]

表格：道德认知核心模型对比
| 模型名称 | 核心机制 | 道德判断依据 | 特点 | 批评 |
| ---- | ---- | ---- | ---- | ---- |
| 二元道德理论（TDM） | 心智感知 | 有意道德主体、造成伤害、道德患者、患者有体验痛苦能力 | 强调心智感知，可解释无害行为谴责 | 有时循环论证，必要元素非必要或充分 |
| 道德基础理论（MFT） | 五个道德基础 | 伤害、公平、权威、忠诚、纯洁 | 模块化，与进化心理学紧密相关 | 基础可归结为对伤害的关注 |

6. 人类与机器人和人工智能交互中的认知偏差

6.1 心智感知偏差

在人机交互中，心智感知机制起着重要作用，但也容易导致偏差。研究发现，人们更倾向于认可被认为具有类人心智的机器人做出的决策。例如，从第三人称视角看，人类救生员、训练有素的救援犬和自主救生机器人做出拯救溺水者的决策本质上是相同的，但人们往往更欣赏具有类人特征的机器人的决策。这是因为我们通常认为机器人的认知和情感能力较弱，所以对它们做出的道德决策更持怀疑态度。然而，研究表明，心智感知并不能完全解释我们对机器人做出道德决策的厌恶，道德决策的类型也会影响我们的态度。

6.2 情感关联偏差

情感在我们对机器人和人工智能的道德判断中也扮演着重要角色。厌恶情绪与道德判断密切相关，尤其是个体的特质厌恶敏感度。研究发现，性厌恶敏感度与非性领域的道德判断存在关联，例如对“上传心智”技术和硅基脑植入技术的厌恶似乎与性厌恶敏感度有关。这表明我们的情感反应会影响我们对新兴技术的道德评价，即使这些技术与性本身并无直接关联。

6.3 分类混淆偏差

由于机器人和人工智能不属于进化赋予的自然范畴，我们在对它们进行分类时会遇到困难，从而导致分类混淆偏差。恐怖谷效应就是一个典型的例子，当机器人的外观与人类过于相似时，我们会产生反感和困惑，难以确定它们的类别。此外，技术泛灵论的出现也反映了我们在认知上的混淆，我们可能会将人类的情感和意图赋予机器人，尽管我们知道它们只是人工制品。

7. 道德心理学研究对技术发展和立法的启示

7.1 技术发展方向

了解大众对机器人和人工智能道德问题的看法有助于指导技术发展。例如，如果人们更倾向于认可具有类人心智的机器人，那么在设计机器人时可以考虑增强它们的类人特征，以提高人们对它们的接受度。此外，研究人们对不同类型道德决策的偏好，可以帮助开发者更好地设计机器人的决策算法，使其符合人类的道德期望。

7.2 立法参考

道德心理学研究也可以为立法提供参考。随着机器人和人工智能在各个领域的广泛应用，制定相关的法律法规来规范它们的行为变得越来越重要。了解人们对机器人道德责任的看法，可以帮助立法者确定合适的法律框架，确保机器人的行为符合社会的道德和法律标准。例如，在自动驾驶汽车的决策问题上，立法者可以参考人们对不同决策场景的道德判断，制定相应的交通法规。

7.3 公众教育

公众教育也是解决机器人和人工智能道德问题的重要环节。通过教育，人们可以更好地理解机器人和人工智能的本质和特点，减少认知偏差和误解。例如，教导儿童正确看待机器人，避免将它们过度拟人化，可以帮助他们形成正确的道德观念。此外，公众教育还可以提高人们对新兴技术的接受度，促进技术的健康发展。

8. 未来研究方向

8.1 深入研究认知偏差

未来的研究可以进一步深入探讨人类与机器人和人工智能交互中的认知偏差。例如，研究不同文化背景下人们对机器人的认知偏差是否存在差异，以及如何减少这些偏差。此外，还可以研究认知偏差对道德决策的具体影响机制，为解决实际问题提供更有效的方法。

8.2 拓展道德心理学研究范围

目前的道德心理学研究主要集中在机器人和人工智能的道德问题上，未来可以拓展研究范围，涵盖更多的超人类主义技术，如基因编辑、脑机接口等。研究这些技术对人类道德认知和社会伦理的影响，有助于我们更好地应对未来的挑战。

8.3 跨学科研究

机器人和人工智能的道德问题是一个复杂的跨学科问题，需要整合哲学、心理学、计算机科学、法学等多个学科的知识。未来的研究可以加强跨学科合作，共同探讨如何解决这些问题，为人类社会的发展提供更全面的解决方案。

以下是一个mermaid流程图，展示道德心理学研究对技术发展、立法和公众教育的影响：

graph LR
    A[道德心理学研究] --> B[技术发展方向]
    A --> C[立法参考]
    A --> D[公众教育]
    B --> E[设计更符合人类期望的机器人]
    C --> F[制定合适的法律法规]
    D --> G[提高公众对技术的理解和接受度]
    E --> H[促进技术健康发展]
    F --> H
    G --> H

列表：未来研究方向总结
1. 深入研究人类与机器人和人工智能交互中的认知偏差，包括不同文化背景下的差异和减少偏差的方法。
2. 拓展道德心理学研究范围，涵盖更多超人类主义技术，研究其对人类道德认知和社会伦理的影响。
3. 加强跨学科合作，整合哲学、心理学、计算机科学、法学等多个学科的知识，共同解决机器人和人工智能的道德问题。

综上所述，机器人和人工智能的出现给人类带来了前所未有的道德挑战，我们需要从进化心理学和道德心理学的角度来理解和应对这些挑战。通过深入研究人类的认知机制和道德判断，我们可以更好地设计机器人和人工智能，制定合适的法律法规，提高公众的认知水平，从而促进技术的健康发展，保障人类社会的福祉。