30、深度神经网络与自动驾驶安全案例的综合分析

深度神经网络与自动驾驶安全案例的综合分析

1. 深度神经网络安全措施与指标

在基于人工智能的功能开发过程中，除了使用先进的性能指标（如检测率）来量化性能外，还需要更多定性和定量的指标来论证所应用的深度神经网络（DNN）特定安全措施的有效性。例如，仅仅表明从可用数据中能实现良好的 DNN 性能是不够的，还需证明这些数据能很好地近似指定的运行设计域（ODD）。

1.1 安全机制的开发与评估

在相关项目中，会开发和评估各种机制，这些机制要么提供衡量指标，要么采取措施来减轻 DNN 特定安全问题的影响。从机制目录中迭代选择和应用机制，以创建安全论证的证据。机制的属性包括所解决的安全问题、成熟度、针对每个 DNN 任务的实现可用性、指标以及应用机制的级别。

1.2 机制应用级别

机制可以在以下几个级别应用：
- 架构级别 ：包括每个传感器输入的冗余、通过多个传感器和算法实现的冗余、监控器和降级策略。
- DNN 级别 ：在机器学习生命周期的在线或开发阶段应用的措施，如不确定性估计、强化训练和注意力一致性验证。
- 数据级别 ：包括敏感性分析、数据生成、数据选择、数据分析和数据增强。使用多种数据覆盖指标，如亮度或行人尺寸。
- 测试级别 ：基于 DNN 的功能的测试措施，包括使用独立的分布内数据集进行统计测试、鲁棒性和对抗鲁棒性测试、针对输入分布变化的测试、基于边界情况的测试、基于覆盖范围的测试、基于搜索的测试以及基于网络拓扑或训练方法的测试。