1、自主武器：战争的未来与人类的抉择

自主武器：战争的未来与人类的抉择

1. 生死抉择时刻

1.1 拯救世界的人

1983 年 9 月 26 日晚，冷战正酣，双方都拥有大量核武器。此前，里根总统宣布了“星球大战”战略防御计划，打破了冷战的微妙平衡。9 月 1 日，苏联军方击落了一架误入苏联领空的商业客机，造成 269 人死亡，包括一名美国国会议员，苏联因此处于高度警戒状态。

苏联部署了名为“奥科”的卫星预警系统来监测美国导弹发射。9 月 26 日午夜刚过，该系统发出严重警报：美国向苏联发射了一枚核弹。值班的斯坦尼斯拉夫·彼得罗夫中校负责向上级报告这一情况。尽管警报声和屏幕显示都表明有导弹来袭，但彼得罗夫不确定，因为“奥科”是新系统，他担心这可能是系统故障。

随后，系统又报告有多枚导弹来袭，共五枚，屏幕显示“导弹袭击”，系统置信度极高。但彼得罗夫觉得奇怪，美国只发射五枚导弹不符合逻辑，真正的突袭应该是大规模的。他联系地面雷达操作员确认，结果地面雷达未检测到任何导弹。

彼得罗夫认为袭击是真的可能性为 50%，他需要更多信息和时间。如果他报告苏联指挥部发射核弹，可能会导致数百万人死亡，引发第三次世界大战。最终，他凭直觉判断系统故障并告知上级，事实证明他是对的，是云层顶部反射的阳光触发了卫星的误报。人类因有人类“在回路中”而避免了潜在的世界末日。如果换成机器，它只会按程序行事，不会理解后果。

1.2 狙击手的抉择

2004 年春天，在阿富汗的一座山上，我所在的狙击小组被派往阿富汗 - 巴基斯坦边境侦察塔利班武装分子的渗透路线。我们背着 120 磅的装备爬了一整晚山，天亮时在一块岩石后面隐蔽，但还是被一位农民发现了。

不