17、自主作战中的责任困境与解决方案

自主作战中的责任困境与解决方案

在军事技术不断发展的今天，先进技术对使用者的影响日益复杂，尤其是自主作战系统的出现，引发了关于道德责任归属的激烈讨论。

先进技术对责任归属的影响

先进技术可能以不明确甚至难以衡量的方式影响其使用者。这与人类军官指挥士兵执行任务时的部分失控情况有所不同。在技术系统中，其控制更多是通过设计过程和为人类行动提供的道德选择方式来实现的。半自主军事技术有助于集中和加强对多项行动的控制，降低成本并提高效率，但人类的控制能力是有限的。实际上，这种“增强的控制”往往是通过将一些低级决策外包给计算机化过程，让人类在更有限的行动范围内做出选择来实现的。这意味着一些军事技术的设计目的是让人类以特定方式行事，从而进一步影响责任的归属。不过，目前还不能断言在这些情况下无法分配责任。

自主作战中的所谓责任缺口

随着军事技术的发展，操作员或使用者的影响力部分丧失，这对道德责任的归属产生了更广泛的影响。当自主系统变得更加计算机化时，这些问题会更加严重。Andreas Matthias（2004）认为，随着自主性的提高，我们越来越接近破坏社会建立责任归属规则体系的努力。在非自主系统中，通常可以认为使用者阅读了用户手册并承担使用责任，但在机器出现超出预设范围的故障时，制造商应承担责任。而当引入具有一定自主性的机器时，道德责任变得复杂，操作员对系统的控制能力下降。

例如，在NASA技术员操作半自主太空飞行器的案例中，如果飞行器因响应时间长而掉入陨石坑，技术员可能不应承担责任。当涉及到能够适应和学习新技能的智能机器时，问题更加突出。Matthias让我们设想一个具有自主导航和控制系统的太空飞行器，如果它再次掉入陨石坑，我们应该追究谁的责任呢？