16、致命自主武器系统：发展、争议与人类控制的挑战

致命自主武器系统：发展、争议与人类控制的挑战

1. 自主武器的崛起与关注

自主武器及其国际监管问题近年来发展显著。21世纪初，这还只是学术领域的小众关注点，但不到十年，就登上了联合国军控议程。2013年联合国开始关注时，武器系统的自主性尚处萌芽阶段，当时的监管行动大多具有预防性。“致命自主武器系统”（LAWS）这一术语也在联合国背景下逐渐普及。

自主武器引发了媒体和公众的广泛兴趣，相关报道常伴随着《终结者》中引人注目的金属笑脸。同时，它也吸引了多个学术领域的关注，包括工程学、计算机科学、国际人道法、国际人权法、道德哲学、军控和国际规范发展等。

武器自主性被广泛认为是军事领域的重要发展，有人将其描述为继火药和核武器之后的“第三次战争革命”，也是人工智能在军事领域最具影响力的应用。就像过去军队热衷于采用蒸汽机、电力和电子技术一样，如今他们希望从人工智能的变革潜力中获益。

人工智能是一个宽泛的概念，没有统一的定义，其标准也在不断变化。简单来说，人工智能可实现以前需要人类智能才能完成的任务自动化。

2. 武器自主性的定义与体现

“致命自主武器系统”这一术语虽不准确，但已被广泛使用。从功能角度理解武器自主性，在学术文献和外交辩论中得到了广泛认可。美国和国际红十字委员会（ICRC）都采用了这种理解方式。

从功能主义观点看，武器自主性指机器在系统运行中执行特定功能，而无需严格区分“自主性”和“自动化”。例如，自动驾驶汽车的国际标准将驾驶自动化分为六个级别，其中五级被描述为车辆完全自主。

在军事行动中，自主性体现在“杀伤链”或“目标瞄准周期”的各个环节，包括发现、锁定、跟踪、选择和攻击目标，以