自动驾驶汽车的伦理挑战

自动驾驶汽车伦理

好坏

自动驾驶汽车伦理

标准配置还是定制？

自动驾驶汽车发展面临的一个当前挑战是为其行为编程伦理规范。一种探讨自动驾驶汽车在必须于两种结果之间做出选择的情况下涉及的安全与自主权伦理问题的方法，是使用麻省理工学院J.J.汤普森教授记录的电车难题题[1]。在电车难题中，提出了一种道德困境：杀死一个人以挽救五个人的生命是否比什么都不做更好，即使你知道不作为会导致五人死亡？电车难题提出了两种情景：1）一个人驾驶一辆刹车失灵的电车，即将撞上在轨道上工作的五人，他必须决定是否将火车转向另一条轨道，仅杀死一名工人；2）一个人作为旁观者，在类似情况下，必须决定是否拉动开关，使轨道上的一个人被杀死，从而避免五人死亡。事实证明，汤普森教授指出，“大多数人”认为将火车转向以避免杀死五人而只杀死一人是可以接受的；但在另一种情境中，如果需要将某人推下轨道以阻止电车前进，大多数人则认为“即使这样做可以挽救五条生命，,proceed 在道德上也是不允许的。”

电车难题的一个问题是，它忽略了自我毁灭或自我牺牲的选择。与其伤害五个人甚至一个人，是否选择自我毁灭更为可取？另一个问题是作者使用了“大多数人”这一表述。这里可能产生文化差异，因为我们必须明确“大多数人”指的是哪种文化。一些研究已经探讨了文化因素与电车难题之间的关系。豪瑟等人（2007年）探讨了道德判断与正当性之间的分离离[2],

数字对象标识符🟥10.1109/MCE.2017.26849177出版日期：2017年6月14日

戈德等人（2014年）评估了利用不同文化认知来解决道德困境的观点，其中电车难题是包含行为与行动以及道德判断[3]在内的多个考量因素之一。尽管这些研究并未得出明确结论，但值得思考的是，不同的文化和个人经历可能会影响一个人的伦理框架。

对于传统汽车，制造商已针对国际市场进行了调整，例如根据生产国与使用国驾驶员所在侧的不同来调整方向盘的位置，以及其他与特定地区、文化及语言相关的细节和功能。因此，尽管汽车存在全球市场，但它们会根据不同购买国的具体情况进行相应的适应性调整。此外，同一国家内部也可能存在适应性调整。虽然特斯拉似乎能够在积雪道路上行驶[4], ，但一位车主发现，在冬季，道路上的盐渍线条会干扰其自动驾驶系统[5]。这可能是由于汽车在加利福尼亚州开发时，未考虑到其他州道路状况所导致的设计疏忽。

随着制造商研发自动驾驶汽车并将其引入全球道路空间，算法的文化考量变得愈发重要，因为伦理深植于文化行为之中。当前道路空间中驾驶员的伦理，体现在他们所处特定国家、州和城市的交通法规框架下，并与其所属文化中的个体行为相对应。一些人可能在驾驶时，将个人道德叠加于这些文化和法律规范之上，甚至可能是无意识的。当面临电车难题的选择时，驾驶员在紧急情况下可能会为了减少伤亡而选择不遵守交通规则。一个多世纪以来，无论我们在世界何处，都已基本成功地实现了驾驶。尽管存在死亡事故，但人们总体上仍遵守着

结合不断改进的安全功能遵守交通规则，挽救了更多生命。

在为全球市场开发自动驾驶汽车时，必须考虑到这些因素。只要各地区就如何解决适用于自身的电车难题达成伦理共识，人们就会得到一定程度的保护。目前，我们能够根据自身需求对所在地区的伦理规范表示异议，因为我们是驾驶者，可以在需要时通过行使自主权来做出自己的伦理选择。然而，当我们成为乘客，并购买或租赁当前设计状态下的自动驾驶汽车时，我们将失去这一选择权。但是，如果我们努力理解这一背景下的文化需求和伦理考量，就可以将其纳入未来的伦理讨论中，并结合更完善的监管，用于自动驾驶汽车的编程。

无论我是否可以在法律允许的范围内将伦理设定为自己的价值观，还是必须使用汽车软件中预设的伦理程序，这一点应当进行讨论。这一问题同样适用于新车和二手车购买。

在某种程度上，当我们与他人驾驶的车辆或其他交通工具一同出行时，在旅行的那一刻，我们放弃了伦理考量。在登上火车、公共汽车、出租车或搭乘共享出行服务的操作员和驾驶员的车辆之前，我们并不会询问他们的伦理准则是什么。但是，当我们拥有或乘坐自动驾驶汽车时，情况还会如此吗？对于这些自动驾驶汽车，我们无法进行评估或审查，且与之没有共同的文化或历史。

如果自动驾驶汽车的伦理可以是可定制的，那么道路空间可能会根据驾驶者及其所在位置而变得更加碎片化或减少碎片化。还需要评估潜在的结果、机遇、风险以及所需的监督。

科技行业在制造自动驾驶汽车方面的作用与其通常的产品生产不同。当电子产品和计算机公司制造其产品时，它们通常依赖以操作系统形式存在的软件，为用户提供全球化和本地区域语言选项的选择。对于自动驾驶汽车，这些功能也可以作为软件选项进行设置，同时还需要某种方式来考虑地方法律和交通规则。但这使得驾驶员和操作员伦理在自动驾驶汽车中未得到体现。迄今为止，车辆的伦理一直体现在人类和交通规则中，而非软件或车辆本身。随着自动驾驶汽车的发展，这种情况将会改变，因此，人们可能无法考虑将自己的伦理嵌入到自己的自动驾驶汽车中（或其他任何形式的自动化算法辅助中），或者即使考虑到也可能被忽略。

只要各种文化在制定法律时考虑伦理问题，以及自动驾驶汽车制造商