机器人犯罪，谁该负责？

慧眼看科技

已于 2024-03-11 16:30:05 修改

阅读量1.2k

点赞数 29

分类专栏：人工智能文章标签：深度学习机器学习人工智能

于 2024-01-17 23:41:36 首次发布

本文链接：https://blog.youkuaiyun.com/weixin_40183036/article/details/135661085

版权

人工智能专栏收录该内容

18 篇文章

订阅专栏

机器人犯罪：是人的过错还是机器的问题？

中世纪时，动物也会接受刑事审判，这听起来匪夷所思。当时人们认为动物也有道德能力，能够明辨是非，所以会对动物提起诉讼。如今，我们可能会觉得中世纪时动物也能犯罪的观点很可笑，但对于道德能力的现代解读早已不仅仅局限于人类了。现在有大量机器人在工作，对于机器人道德的讨论也越来越多，你觉得机器人也有道德能力吗？

如果合成智能能够感受到周围环境中与道德相关的事物或情况，并且能够自己做出选择，那么它就具备了成为一个道德行为体的条件。这些系统不需要复杂到跨越人类学的界限，它们只需要像人类一样，拥有基本的道德判断和行为能力就可以了。这个问题离我们并不遥远。关于如何为自动驾驶汽车编程的讨论已经悄悄展开了。无论我们多么想回避，自动驾驶汽车都会不可避免地遇到一些具有道德挑战的情况。比如说，你的自动驾驶汽车可以为了救你而碾压一只狗，在这种情况下你肯定希望它这么做。但是如果它要抉择的是碾过一对老年夫妇或者撞倒一群正在过马路的孩子呢？如果要杀死你的一个孩子，是前座的那个？还是后座的那个？你会怎么选择呢？我们可以选择忽略这些痛苦的问题，但忽略这些问题本身就是不道德的。

机器人犯罪与法律制裁：新判例与法律体系的诞生

除了机器的道德能力问题，我们还有一个问题：当决策出错时，谁应该负责？要回答这个问题，我们需要了解“当事人”和“代理人”之间关系的法律理论。为了更好地理解这一点，我们需要再回到 BP 的案件。你可能会想，公司怎么会犯错呢？毕竟，是公司的员工犯了事，而且有人在“深水地平线”事故中丧生。但这并不意味着有人玩忽职守或参与了犯罪活动。相反，每个员工可能都完成了分配给他们的任务，而没有人的任务是杀死那 11 个人。员工只是公司犯罪的“手段”。同样，当你抢银行时，你的腿只是帮你走进银行的“手段”，你的腿当然不需要承担刑事责任。但是，这两种“手段”有很大的区别。你的腿把你送进银行，和“深水地平线”的管理者未能监测或纠正潜在的危险情况是不同的。管理者应该是公司的“代理人”，所以也潜在地肩负了一些责任。

代理人是一个获得授权的独立个体，代表当事人行动。你的腿既不是独立的，也没有同意代表你行动。而 BP 的员工是独立的个体，他们代表 BP 行动。当代表你时，你的代理人有受托责任，要完成你的意愿，保护你的利益，但也有一定的限制。例如，如果你的代理人代表你犯罪，他也会被追究责任。假设你知道自己参与了违法阴谋，如果我雇你杀死我的情敌，那么你对这场谋杀负有责任。但是，如果代理人犯罪了，但自己并不知情呢？我说“按这个按钮”，你照做了，然后炸弹在超级碗引爆了。你是我的代理人，但只有在你应该知道后果的情况下，你才负有责任。

我们换个角度看。假如代理人犯罪时不知情，比如我让你去银行取 100 美元，你却拿枪去抢。那么，我要为你的偷窃负责吗？多数情况下，答案是否。（我简化了问题，因为假定无辜组织从犯罪中受益且不知情，也要承担责任。）

对于在当事人-代理人关系中谁需要负责呢？其实，在不同组织相关责任不清晰时如何分摊责任，法律上的原则和判例有着悠久的历史。在 BP 的案子中，政府的结论是，个体员工的行为本身并不构成犯罪，但是这些行为聚合之后就构成了犯罪。所以政府控告了作为当事人的 BP，因为 BP 具有充分而清晰的责任。那么，智能机器呢？当合成智能代表你行动的时候，谁该负责？你可能认为答案是你。在今天确实如此。

想象一下，你买了个家庭机器人，它有标准行为准则，还会观察人的行为来加强能力。它看到有人制服小偷受赞，于是当它为你出门买一杯咖啡时，看到男女当街争吵拉扯时，以为有人犯罪，就将男人摔倒并报警。结果男人和妻子只是在抢车钥匙，众人便开始关注机器人，机器人解释说，它只是在执行主人的命令，去买杯咖啡而已。这两个人愤怒地要求警察以伤害罪逮捕你。你的辩护律师认为：这件事不是你做的，是机器人做的。你因为信任机器人的设计才买它并按说明使用，所以应该由机器人公司负责。但机器人公司的律师称他们有产品责任标准，也尽了义务，这是第一次发生这种事。

法官对事件责任困惑，找以前判例，在美国内战前的“奴隶法典”中找到。这些法典将奴隶视为有有限权利的财产，主人提供有限保护。法官看到奴隶和机器人的相似性，判决清除机器人记忆，交给受害方托管 12 个月。受害者满意，你虽不开心但比坐牢强，于是，一系列的新判例和法律体系诞生了。

AI 的“失忆”惩罚：是解决犯罪的最佳方式吗？

我们的法律并没有要求道德行为体必须具有人性或意识，就像 BP“深水地平线”案件中表现的那样。想一想，合成智能一般都有机器学习程序，这些程序会根据训练集的例子形成独特的内在特征。它可能是你的法定代理人，但是由于你不清楚它的行为，所以作为它的委托人，你不需要负责，而它需要负责。问题是，如果你觉得合成智能可能犯罪，那你要怎么教导它呢？在这起案件中，法官有效地惩罚了机器人的主人，并给予了受害者补偿。但是，这对机器人来说公平吗？

我们可以参考公司的处置方法。显然，不能用惩罚人的方式惩罚公司，比如监禁或剥夺政治权利。就像 19 世纪末英国大法官爱德华·瑟洛说的：“公司没有良心、灵魂和身体，无法用这些方式惩罚。”

关键是，人、公司和合成智能的行动都有目的性。一个人可能因为各种原因犯罪，我们会根据目标进行惩罚，比如剥夺生命、自由或幸福。公司犯罪不能关起来，但它的目标是赚钱，所以罚款成为有效的威慑。我们还可以让合同无效，驱逐出市场，或接受外部监督，极端情况下关门。

当然，并非所有罪犯受到的惩罚都相同。惩罚不仅看罪行，还看罪犯。惩罚合成智能就是限制其实现目标的能力，虽不像对人那样造成心理影响，但对法律系统仍有威慑和改造作用。为完成任务，合成智能遇困难时可能会残忍伤害阻止它的人或物，必须担责。注意，合成智能不像大规模生产的产品，它会从独特经历中学习并得出特色结论。一旦它被重置后，这对银行或程序所有者可能造成巨大经济损失，所以，合成智能的所有者会极力避免。