50、自动驾驶汽车会意外成为自主道德机器吗？

自动驾驶汽车会意外成为自主道德机器吗？

1. 引言

自动驾驶汽车（AVs）让商业机器人变得经济实惠且易于使用，有望在全球范围内推广。最初预计到2020年AVs将实现商业化，但大多数原始设备制造商和研究小组都推迟了这一计划。这可能是因为传统机器人在设计智能系统时面临挑战，该系统需要安全应对现实世界的动态变化。

机器学习和深度学习的应用推动了机器智能的重大发展，克服了一些传统障碍。其中一个有趣的例子是“框架问题”，它涉及机器理解环境、环境中的物体以及各种因果和概念关系的能力。框架问题凸显了自动驾驶汽车在功能和安全方面的担忧，尤其体现在决策架构和车辆感知上。

我们的决策常常受到框架效应的影响，对同一选项的不同但同样信息丰富的描述会引发不同的选择。Crocket认为解决框架问题的前景“不太乐观”。尽管机器学习取得了显著进展，甚至有人声称框架问题已得到解决，但机器智能仍然存在显著局限性，这可能暗示着在价值和道德推理方面存在更深层次的框架问题。

以下是相关挑战的总结：
- 框架问题挑战 ：机器理解环境和物体关系的能力有限。
- 决策受框架效应影响 ：不同描述会导致不同决策。
- 机器智能局限性 ：即使有进展，仍存在深层次问题。

2. 构建自动驾驶汽车道德框架问题

自动驾驶汽车不仅要解决通过感知和分类周围物体来“推断”和评估道路环境关系及属性的框架问题，还必须学会根据对这些物体的价值和权重进行风险计算、规避和采取行动。然而，基于预定规则、逻辑推理和人工神经网络的分类、量化和限定行动的能力，