5、有意义的人类指挥：预控指令确保自主武器系统的道德与法律责任

有意义的人类指挥：预控指令确保自主武器系统的道德与法律责任

在军事领域，自主系统因其能依据人类意图和价值观提升作战效能而备受青睐。然而，如何确保人类对在正常时间参数之外运行的系统承担道德和法律责任，成为了一个重大挑战。

1. 核心概念定义

• 自主武器系统（AWS） ：激活后可自主选择并攻击目标，无需操作员进一步干预。包括操作员可监督但激活后能自主行动的系统。
• 自主系统（AS） ：激活后可自主行动，无需操作员进一步干预。非武器化的AS也可能产生问题或造成危害。
• 责任 ：指指挥责任，要求人类满足道德和法律责任的标准。道德责任需具备自主性、情境认知和行动能力；法律责任要求人类与自主系统建立适当联系，对系统行为负责。

2. 人类使用自主系统面临的责任问题

• 多系统并行实时责任 ：如机器人集群，需提前分解集群决策和行动参数，以确保人类理解和监督。
• 快节奏自主系统责任 ：如网络对抗措施，需在模拟中放慢速度，让人类进行决策推理。
• 慢节奏自主系统责任 ：如远程无人水下监视，需在模拟中加快决策速度，让人类体验并评估系统行为。

3. 有意义的人类控制争议

国际红十字委员会（ICRC）认为，必须对自主武器系统进行有效的人类监督、及时干预和停用，同时应禁止针对人类目标