18、底盘控制功能机器学习的安全保证

底盘控制功能机器学习的安全保证

1. 背景与需求

在汽车应用中，机器学习（ML）作为一种实现范式正越来越多地被使用，特别是在环境特征难以用算法充分描述或实现计算量过大的情况下。以某系统（TNR）为例，为了优化底盘控制性能，之前版本的TNR仅需满足质量管理（QM）要求。但为了提升车辆级功能的效益，决定评估减少车辆级功能限制的影响，这使得TNR面临更高的安全要求，即功能安全要求（FSR）：在非干燥路面情况下，TNR不得给出干燥的结果（ASIL B）。

2. 保证方法概述

由于ML引入系统的不确定性，以及语义差距导致安全要求定义不充分等问题，需要从ISO/PAS 21448中借鉴原则，扩展基于ISO 26262的安全生命周期。安全生命周期的额外要求如下：
- 领域分析 ：作为项目定义阶段的扩展，深入研究操作领域，了解可能导致错误分类的环境因素，以改进对系统安全要求的理解，并确定领域模型。
- 系统设计 ：将系统级要求细化为分配给主要功能或诊断和监测机制的技术安全要求，分析潜在的故障模式，确定性能改进和诊断方法。
- 验证和确认（V&V） ：确认系统及其组件的性能要求，评估已知触发事件、未知触发事件的可能性以及系统对残余未知触发事件的弹性。
- 保证案例 ：使用GSN描述和论证分类器是否满足技术要求，确保对领域有足够的理解、技术安全要求的完整性、训练数据的充分性以及训练函数的性能。

以下是保证过程的流程图：