9、自动驾驶可解释性的情境挑战剖析

自动驾驶可解释性的情境挑战剖析

在自动驾驶领域，可解释性是一个至关重要的议题，它对于不同利益相关者的自主和负责任行为的行使起着关键支持作用。不同的自动化级别（如L3和L5）以及不同的利益相关者（用户、开发者和法律专业人士），对可解释性的要求存在显著差异。

1. 用户视角下的可解释性

在L5级别自动驾驶中，停车请求并非源于安全担忧，因为该级别自动化的安全方面完全由系统处理。用户在系统操作方面缺乏自主性和责任，所以从伦理角度来看，无需向用户传达机器感知信息，因为用户无法基于这些信息采取有效行动，确保安全驾驶也并非用户的责任。

与L3级别相比，L5级别将机器感知功能完全不透明化，不会对用户行使自主性和责任产生负面影响。不过，提供一些信息反馈，如停车请求已被系统正确记录并正在执行，以及确保所有子系统正常运行的高级信息反馈，可能有助于支持用户的自主性和管理用户的信任、舒适度和接受度，但这些反馈在一定程度上超出了机器感知和可解释性的伦理范畴。

以下是L3级别用户可解释性要求的相关信息：
| 原因 | 内容 | 情境约束 |
| — | — | — |
| 自主促进自身和其他道路使用者的安全（接管操作） | 感知到的周围环境、自车位置、障碍物、系统层面视图 | 干预时决策时间少；缺乏特定专业知识、文化背景以及对技术的熟悉度 |

2. 开发者视角下的可解释性

开发者支持可解释性需求的主要伦理原因在于安全价值。作为自动驾驶汽车设计和生产的负责人，开发者对系统运行质量负责，满足安全标准、验证安全要求和提高安全性能是其核心义务。为了自主且负责地履行这些义务，开发者需要大量系统操作信息，即系统操作必须对开发者具