26、技术奇点的精神分析视角：为何我们离不开辅助构建

技术奇点的精神分析视角：为何我们离不开辅助构建

1. 引言

我们都应思考当下能做些什么，以增加收获益处、规避风险的机会。从精神分析视角，基于罗纳德·费尔贝恩（Ronald Fairbairn）的客体关系理论来审视技术奇点，是因为与技术必胜主义相关的无意识幻想，以及对理性的过度推崇，甚至到人类自我消亡的程度，都体现出一种分裂性思维。

我们都会遭遇意外、疾病、损失和死亡，应对这些极为困难。为弥补这些潜在的创伤性损失，我们会产生希望、梦想、愿望和幻想，甚至将一些防御性和虚幻的希望提升到确定的高度，不惜为之放弃生命。最初，技术奇点被认为是世界历史的决定性转折，是人类作为历史主体的终结，以及不朽人机混合体新时代的开启，这让人联想到历史上类似的千禧年思想体系。

很多人因追求某种特定思想胜利所带来的想象中的天堂而丧生，这值得我们关注。而且，技术奇点明确与否定身体、推崇可移植到机器中的“纯粹理性”相关联，这提醒我们分裂性思维的危险。

要成功管理超级智能机器的开发和使用，有几个重要话题需要公开探讨。这涉及人工智能领域的理论构建者在尝试实施可能破坏世界或使世界不再适合人类居住的系统之前，需要自问的重要问题。当前向自主杀人机器的快速发展，迫切需要国际和国家层面在相关研究和部署上达成协议。对能影响生物圈、与自然环境竞争的机器和生物体的研发，也应接受国际审查和达成协议。

接下来将探讨的话题包括：人工智能与智能、意识、理性与情感以及精神分析。主要观点是：（a）我们要对这些问题的理解保持开放态度，认识到我们的假设可能有误；（b）由于此类研究的无节制发展对地球及人类地位存在潜在危险，应对这些领域的研究进行明确监管并要求获得许可。

2. 人工智能与智能

从执行原本需要人类思考才能完成的任务的角度看，计算机比人类聪明得多。计算机可通过特定软硬件自动化人类思维的某些方面，提高特定领域的生产力。既然这些机器在计算速度上远超人类，那么超级智能意味着什么呢？是数量增加到一定程度产生的质变吗？计算机处理速度极快，似乎能比人类顶尖棋手更好地进行国际象棋对弈，但它真的是在“下棋”吗？

另一个重要问题是，所谓的超级智能有什么用？如果只是指机器在复杂特定任务上表现优于人类，这并不稀奇，因为我们已经与这类机器共存。关键在于，目前这些机器受我们控制。超级智能似乎意味着机器能在很多重要事情上比人类做得更好，且无需人类管理或控制。这显然存在不同解读，且会受超级智能的具身方式限制，这也是人们对机器人技术感兴趣的原因，因为它有望为超级智能提供身体，使其能在世界中活动和交互。

如果这种机器人能自我繁殖、自我修复并不断升级，在某些情况下可能会威胁到人类的地位。比如在火星上的机器人，可能比人类更适应环境、能更快速地执行复杂任务，但我们是否要将其设计成人类的模样，赋予其人类特征呢？制造这类机器人用于日常使用的意义何在？我们希望尽可能让人们摆脱不必要的繁重劳动，但在一个无法为所有公民提供充分教育、住房和医疗保障的社会中，部署机器人可能会让一些弱势群体的处境更糟。这也促使我们思考“生命的意义是什么”。如果在匆忙用机器取代人类之前能思考这个问题，或许能发展出人与机器相互补充的社会和文化。

人工智能与智能相关问题总结

问题	详情
超级智能的意义	数量增加到一定程度的质变？还是其他？
超级智能的用途	在复杂任务上超越人类，但目前机器受人类控制，超级智能机器可能不受控制
机器人设计	是否模仿人类、赋予人类特征，日常使用的意义
社会影响	部署机器人可能对弱势群体产生负面影响

3. 意识

一些神经科学家认为意识是脑干的功能，无需大脑皮层。而认为大脑皮层是高级功能（如个性）所在的人，对皮层复杂性的估计也存在很大差异。如果考虑到彭罗斯（Penrose）和哈默罗夫（Hammeroff）提出的大脑微管的量子层面处理，那么开发能匹配大脑皮层连接性和复杂性的技术所需时间将大大延长。

精神分析导向的神经科学研究表明，情感和意识的基础在于整个身体（具身性），神经精神分析学家马克·索尔姆斯（Mark Solms）和情感神经科学家雅克·潘克塞普（Jaak Panskepp）最近提出，脑干而非新皮层是意识的所在。

通常认为意识是大脑的高级功能，但基于丰富的神经进化数据，较低大脑的情感现象体验为高级认知意识的发展构建提供了“能量”，这与西格蒙德·弗洛伊德（Sigmund Freud）的许多理论表述一致。从这个角度看，感知体验最初在脑干的初级过程层面是情感性的，可通过次级学习和记忆过程发展为三级认知形式的意识。

管理超级智能机器必须全面解决意识问题。如果意识是所有生命物质的功能，那么机器能否实现除虚拟意识之外的其他意识，存在很大疑问。

意识相关观点总结

观点	详情
意识的位置	脑干功能？大脑皮层功能？还是整个身体（具身性）？
意识的发展	较低大脑情感体验为高级认知意识提供能量
机器意识的可能性	如果意识是生命物质功能，机器实现真正意识存疑

4. 理性与情感

技术奇点的支持者非常关注理性和理性的机械化，认为这将赋予我们更强大的推理能力，但目的是什么呢？并非倡导非理性，在艺术、文化和科学发展中，创造性元素往往基于情感、偶然或非理性因素。我们必须明确理性与情感的关系，以避免两者走向极端。

像神经情感科学家雅克·潘克塞普和斯宾诺莎（Spinoza）都认为情感是理性的基础。情感可以是理性的，也可以是非理性的。通过科学方法理解周围世界和我们在其中的位置是一项成就，科学方法的基石之一是通过减少对研究对象或先验理论的情感依恋来实现客观性，但这是对真实对象的简化，是一种抽象。将个人自我抽象为可移植到机器中的实体，可能会面临巨大挑战。

超级智能机器的发展应能解释什么是超级智能、为何有用、与人类一般智能的区别，以及自然世界中理性与情感的关系，以及这种关系在智能机器世界中是否适用。

帕斯卡（Pascal）说过：“心灵有其理性，而理性对此一无所知。”计算机科学中已有成熟的情感计算研究领域，神经情感和神经精神分析领域也有大量研究。精神分析是一门生物 - 心理 - 社会科学。情感以及我们与他人的关系，是我们成为自己和发展为社会关系存在的重要部分，但如果只考虑狭隘的认知和理性方面，这些都不会被考虑到。因此，理解情感是理解超级智能机器及其运作方式的重要组成部分。

雷·库兹韦尔（Ray Kurtzweil）谈到了情商、理性、知识和智能，但很少提及作为感受的情感（理性和非理性的）。他主要关注我们能力的认知层面，所以他特别讨论新皮层及其模式匹配能力也就不足为奇了，他在这方面的专业知识催生了许多强大而有用的工具。但正如罗莎琳德·皮卡德（Rosalind Picard）在关于情感计算的采访中所指出的，情感和人与人之间的情感关系可能是我们理解和参与世界最重要的方面。她认为情感在我们的体验中始终存在，目前没人知道如何在机器中构建主观体验（感受质），也没人能看到这如何可能。她还对机器人的未来提出了重要问题。

雪莉·特克尔（Sherry Turkle）多年来一直主张精神分析与计算机科学建立更紧密的关系。她警告说，人们可能会因为从精神分析文化转向计算机文化而感到安慰，但时代要求我们积极追求两者的共同发展，以充分理解我们生活中新的和未来的事物的人类意义。她还指出，通信技术不仅改变了人们的行为，也改变了他们的本质；人们在人际关系、自我关系和自我反思能力方面出现问题；过度使用技术设备的人对技术期望过高，对他人期望过低；独处能力没有得到培养；传统对话被中介连接所取代，导致人际技能的丧失。

目前在开发所谓的照顾老人和儿童的“关怀机器人”上投入了大量时间和金钱，但社会护理问题的合理且明显的解决方案是由经过适当培训和合理报酬的人来提供服务。我们本质上是社会性生物，但社会对关怀、支持、依恋、养育、教育等方面的重视还不够。

理性与情感相关要点总结

要点	详情
支持者的关注点	理性和理性的机械化，但目的不明确
理性与情感的关系	情感是理性的基础，需明确两者关系避免极端
超级智能机器的要求	解释超级智能的定义、用途、与人类智能的区别以及理性与情感的关系
情感研究领域	计算机科学中的情感计算，神经情感和神经精神分析领域
库兹韦尔的观点	关注认知层面，较少提及情感感受
皮卡德的观点	情感在体验中始终存在，机器构建主观体验困难
特克尔的警告	通信技术对人的改变，独处能力和人际技能的丧失
社会护理问题	投入大量资源开发关怀机器人，但人的服务更合理

相关关系流程图

graph LR
    A[技术奇点] --> B[人工智能与智能]
    A --> C[意识]
    A --> D[理性与情感]
    A --> E[精神分析]
    B --> B1[超级智能的意义]
    B --> B2[超级智能的用途]
    B --> B3[机器人设计与社会影响]
    C --> C1[意识的位置]
    C --> C2[意识的发展]
    C --> C3[机器意识的可能性]
    D --> D1[支持者的关注点]
    D --> D2[理性与情感的关系]
    D --> D3[超级智能机器的要求]
    D --> D4[情感研究领域]
    D --> D5[不同学者的观点]
    D --> D6[社会护理问题]

5. 精神分析在技术奇点探讨中的作用

精神分析为理解技术奇点相关的无意识幻想和思维模式提供了独特视角。从客体关系理论来看，技术必胜主义背后的无意识幻想反映出一种分裂性思维。这种思维表现为过度推崇理性，甚至否定身体，将希望寄托于可移植到机器中的“纯粹理性”，这与人们为弥补潜在创伤性损失而产生的防御性幻想类似。

在探讨技术奇点时，精神分析能帮助我们认识到，人们对超级智能机器的期望可能源于无意识的心理需求。例如，雷·库兹韦尔对奇点的看法可能隐藏着他与已故父亲重聚的渴望。这种无意识的动机可能影响我们对技术发展的判断和决策。

精神分析的作用总结

作用	详情
揭示思维模式	发现技术必胜主义背后的分裂性思维
理解无意识动机	认识到对超级智能机器期望的潜在心理需求
辅助决策判断	帮助我们更客观地看待技术发展

6. 综合考量与应对策略

综合上述对人工智能与智能、意识、理性与情感以及精神分析的探讨，我们可以看出，技术奇点的发展带来了诸多挑战和机遇。为了更好地管理超级智能机器的开发和使用，我们需要采取以下应对策略。

应对策略列表

1. 保持开放心态 ：对人工智能与智能、意识、理性与情感等问题的理解保持开放态度，认识到我们的现有假设可能存在错误。不断探索新的理论和观点，避免陷入固有的思维模式。
2. 加强研究监管 ：鉴于此类研究的无节制发展对地球及人类地位存在潜在危险，应对相关领域的研究进行明确监管并要求获得许可。建立严格的审查机制，确保研究的安全性和可持续性。
3. 促进跨学科合作 ：精神分析与计算机科学、神经科学等学科应加强合作。不同学科的专业知识相互补充，有助于更全面地理解超级智能机器及其对人类的影响。例如，精神分析可以提供关于人类心理和行为的洞察，计算机科学和神经科学则可以提供技术方面的支持。
4. 关注社会影响 ：在开发超级智能机器时，要充分考虑其对社会的影响。避免因技术发展导致社会不平等加剧，关注弱势群体的利益。例如，在部署机器人时，要确保不会让弱势群体的处境更糟。
5. 培养人文关怀 ：重视情感和人际关系在人类生活中的重要性。在技术发展过程中，不能只关注理性和认知层面，要培养人文关怀，避免人类社会关系受到技术的过度侵蚀。例如，不能过度依赖“关怀机器人”，而应重视人与人之间的真实关怀和互动。

7. 未来展望

技术奇点的发展充满了不确定性，我们既面临着超级智能机器带来的巨大潜力，也面临着诸多挑战。未来，随着技术的不断进步，我们需要持续关注以下几个方面。

未来关注方向列表

1. 技术发展的边界 ：探索超级智能机器的发展边界，明确其能力和局限性。避免因技术的过度发展导致不可控的后果。例如，研究如何确保超级智能机器的行为符合人类的价值观和道德准则。
2. 人类与机器的共生关系 ：思考人类与超级智能机器如何实现共生。如何让机器成为人类的辅助工具，而不是取代人类。例如，开发人机协作的新模式，充分发挥人类和机器的优势。
3. 意识和情感的模拟 ：研究是否能够在机器中模拟意识和情感。如果能够实现，将对人类与机器的关系产生深远影响。但同时，也需要考虑由此带来的伦理和道德问题。
4. 社会和文化的适应 ：随着超级智能机器的普及，社会和文化需要进行相应的调整和适应。培养人们适应技术变革的能力，避免因技术发展导致社会动荡。例如，开展相关的教育和培训，提高人们的数字素养和技术适应能力。

技术奇点相关关系与应对策略流程图

graph LR
    A[技术奇点] --> B[人工智能与智能]
    A --> C[意识]
    A --> D[理性与情感]
    A --> E[精神分析]
    B --> B1[超级智能的意义]
    B --> B2[超级智能的用途]
    B --> B3[机器人设计与社会影响]
    C --> C1[意识的位置]
    C --> C2[意识的发展]
    C --> C3[机器意识的可能性]
    D --> D1[支持者的关注点]
    D --> D2[理性与情感的关系]
    D --> D3[超级智能机器的要求]
    D --> D4[情感研究领域]
    D --> D5[不同学者的观点]
    D --> D6[社会护理问题]
    E --> E1[揭示思维模式]
    E --> E2[理解无意识动机]
    E --> E3[辅助决策判断]
    F[应对策略] --> F1[保持开放心态]
    F[应对策略] --> F2[加强研究监管]
    F[应对策略] --> F3[促进跨学科合作]
    F[应对策略] --> F4[关注社会影响]
    F[应对策略] --> F5[培养人文关怀]
    A --> F[应对策略]
    G[未来展望] --> G1[技术发展的边界]
    G[未来展望] --> G2[人类与机器的共生关系]
    G[未来展望] --> G3[意识和情感的模拟]
    G[未来展望] --> G4[社会和文化的适应]
    F --> G[未来展望]

总之，技术奇点的发展是一个复杂而多面的问题，需要我们从多个角度进行深入思考和探讨。通过保持开放心态、加强研究监管、促进跨学科合作、关注社会影响和培养人文关怀等应对策略，我们有望更好地管理超级智能机器的发展，实现人类与技术的和谐共生。同时，我们也要对未来充满期待，积极探索技术奇点带来的新机遇和挑战。