11、自动化决策与主动公民：科技对道德与社会的双重挑战

自动化决策与主动公民：科技对道德与社会的双重挑战

自动化决策对道德生活的影响

自动化决策技术在自动驾驶汽车中的应用，给道德生活和实践带来了诸多影响。与当前许多讨论不同，我们避开了关于训练算法应采用何种规范伦理原则（如结果主义或其他原则）的问题，而是将道德实践视为道德生活某些特征的体现，并以此为背景来评估这类技术。

自动驾驶汽车不可避免地会卷入事故，而且在这些事故中，并没有明确的伦理“正确做法”，然而它们的设计却仿佛其“行为”在道德上毫无争议。车内人员，包括以往被视为驾驶员的人，会倾向于摒弃懊悔和遗憾等情绪，因为他们的身份变得类似于火车乘客。此外，事故受害者和受影响的人可能会发现自己处于一种缺乏人情味的真空状态，无法得到对悲剧事件的合理解释和正当理由，也找不到可以指责或表达悲伤与遗憾的具体对象，而这些对于应对悲剧和修复关系至关重要。即便在可能有人应被指责的情况下，这项技术的引入也可能会限制我们做出不想做出的选择。

我们的阐述主要是描述性的，指出了自动化可能对道德实践的核心方面造成的潜在破坏。但在规范层面，我们并未讨论后续应该怎么做。如果由于人类驾驶员的不完美导致更多的痛苦和生命损失，那么尽管存在上述破坏，引入这项技术是否会更好呢？

如果自动驾驶汽车是我们生活中唯一的算法决策者，那么为了挽救生命和减少痛苦，这或许是一个可以接受的小代价。然而，如果我们尽可能多地将决策外包给机器学习算法，例如让算法驾驶汽车、进行股票交易、决定解雇或贷款对象、提供医疗诊断等，那就更值得担忧了。尽管每个案例都需要单独关注，但我们怀疑它们会产生与上述类似的影响。关键问题在于理解这些影响对我们生活的累积效应。我们担心的是，虽然这项技术的出现不会消除使我们的道德现实变得复杂的因素，但它会通过剥