16、有意义的人类对有效系统的控制：整体蝴蝶结模型探索

有意义的人类对有效系统的控制：整体蝴蝶结模型探索

1. 引言

随着技术系统的智能和自主能力不断增强，以及它们在系统体系中的融合，系统的可用性、透明度和可控性变得至关重要。有意义的人类控制（MHC）不仅关注控制本身，还涉及与控制、有效性以及其他系统概念和属性的关系，如能力、责任、权威、自主性和问责制。我们旨在逐步构建一个整体的控制论模型，展示MHC及其相关概念之间的重要关系。

2. 人类控制与人类系统集成的简要历史

从早期的人类工具使用中，我们可以看到人类控制的雏形。例如，距今约30万年的舍宁根长矛，是早期人类因素和人类系统集成的范例。海德堡人能够结合切割和火等技术制作出有效的工具，并通过合作狩猎大型或快速的猎物。人类认知能力与制作和使用工具的能力共同进化，合作和共享意向推动了人类向智人的进化。后来，人类准确投掷狩猎长矛的视觉运动协调能力与绘制逼真洞穴壁画的能力相关联。

长矛还可作为描述人类与机器共享和合作控制的隐喻，也是颠覆性技术的早期例子，它极大地改变了权力平衡。此外，弓和箭等工具也被用于描述伦理忽视容忍度。虽然长矛本身没有智能，但随着制导武器的出现，尤其是人工智能在人工制品中的集成，情况发生了变化。

除了类似长矛的人工制品，人类与智能实体的关系也有历史实例。例如，马术体现了人类与马的关系。马的控制需要更复杂的方式和可控性，这经过了数千年的发展。马具和缰绳是控制马的关键界面，此外还涉及相互理解、训练、信任建立等复杂概念。人类与马的关系还可作为人类与智能非人类实体关系的设计隐喻，对自动驾驶汽车的可控性产生了影响。

人类与狗的关系也为可控性提供了丰富的例子。控制不仅与有效性相关，还与社会、伦理和社会层面的意义相关。例如