14、过度控制？健康、性与战争

过度控制？健康、性与战争

1. 引言

控制与技术创新的关系正受到研究人员和媒体的日益关注。从追求更高精度的承诺到对失去控制的担忧，控制概念似乎处于围绕技术的诸多讨论核心，无论是无人机和自主武器、自动驾驶汽车、大数据算法还是医疗人工智能。

大多数讨论围绕着责任归属、责任缺口，以及人类需要保留何种控制（即所谓的有意义的人类控制）等问题。有观点认为，旨在增强我们控制能力的技术创新，最终可能会削弱这种能力。但如果所有承诺都得以实现，我们最终拥有了过多的控制，会怎样呢？除了自我控制相关文献外，这一话题在很大程度上被忽视了。那么，过多的控制是否可能呢？接下来将介绍、解释和分析“过度控制”的概念，并将其应用于战争和健康这两个不同领域，以说明我们在追求控制时应谨慎行事。

在战争中，“过度控制”的基本问题在于它会削弱局势降级的可能性。我们对敌人战略和技术局限的了解，为避免致命反击提供了可能。以斯坦尼斯拉夫·彼得罗夫的故事为例，这位苏联军官在20世纪80年代没有轻信计算机发出的美国发射核导弹的警报，避免了局势升级和可能导致世界末日的核反击。如果高估对武器系统的控制，就可能无法实现局势降级。

在医疗保健领域，“过度控制”的问题在于它越来越多地将疾病归咎于患者。通过智能技术将关键医疗任务更多地委托给患者，可能会使弱势群体面临指责和内疚。虽然这些技术可能最终改善治疗效果并降低风险，但当事情不尽如人意时，患者可能会责怪自己，而不是自然或医疗保健系统，这种副作用可能最终不值得以延长的生命年数来换取。

2. 足够的控制

当前围绕控制与技术的哲学讨论主要集中在两个方面：
- 通过将任务委托给智能系统来增强控制的潜力；
- 失去控制