13、军事人机团队中实现有意义人类控制的设计探索

军事人机团队中实现有意义人类控制的设计探索

在当今时代，信息技术、机器人技术，尤其是人工智能（AI）推动下的军事技术正以前所未有的速度发展。全球国防组织期望借助AI获得竞争优势，国防工业也积极响应，开发出众多基于AI的系统。然而，这一趋势引发了激烈的伦理辩论，焦点在于如何确保有意义的人类控制（MHC）。

有意义人类控制的重要性与挑战

MHC要求人类深度参与涉及人类价值观的道德决策。但由于人类参与形式多样且高度依赖具体情境，对非MHC武器的禁令存在多种解读。若定义不当，可能会对接受该法律的军事能力造成不合理限制。

军事领域的AI系统大多会带来道德挑战，如基于AI的态势感知系统可能影响人类决策者使用武力，非致命性国防技术也会对隐私、安全和自由等人类价值观构成挑战。军事行动具有多样性、不可预测性，且伦理风险极高，因此分析MHC需深入了解情境。

军事背景下的道德与决策

• 军事道德 ：战争伦理自古希腊时期就受到关注，“正义战争理论”区分了开战标准（jus ad bellum）和战争行为标准（jus in bello）。但在实际军事行动中，应用这些原则并非易事，例如美军在阿富汗面临的复杂战场情境，决策往往面临不确定性和价值冲突。军事道德与情境关系不稳定，情境的微小变化可能对道德评估产生重大影响，现代军事实践中的新挑战不断涌现，如应对不遵守道德标准的敌人、敌人利用我方道德标准等。
• 道德决策 ：军事指挥与控制（C2）是分布式责任，道德决策贯穿整个指挥链，涉及政治领袖、作战人员等不同角色。道德决策影响人类价值观，包括物理完整性、隐私、自由等，且