96、保障自动驾驶汽车安全的设计与自适应策略

保障自动驾驶汽车安全的设计与自适应策略

1. 神经网络控制系统的安全验证

1.1 神经网络控制系统概述

部分自动驾驶汽车（CAVs）可由学习型控制器（如神经网络）调节的物理过程描述，这类系统被称为神经网络控制系统（NNCS）。NNCS 是特殊的采样数据系统，由常微分方程（ODE）定义的连续时间物理过程（工厂）和在离散时间点工作的前馈神经网络（FNN）控制器组成。物理过程由 $\dot{x} = f (x, u)$ 定义，其中 $x$ 是状态变量，$u$ 是控制输入。FNN 控制器每隔 $\delta_c$ 时间采样系统状态并更新控制输入值。这类系统通常对安全要求极高，在实施前进行正式的安全验证十分重要。

1.2 安全验证问题

安全验证问题旨在判断系统是否会处于不安全状态。许多安全验证问题可转化为可达性问题，即确定系统能否到达给定状态。然而，即使对于线性混合系统，可达性问题也不可判定。因此，现有的混合动态系统可达性分析技术大多试图计算可达集的过近似。若过近似集不包含任何不安全状态，则系统安全；否则，安全状况未知，需细化可达集过近似或找到不安全执行。

1.3 可达性分析任务

NNCS 是特殊的混合动态系统，其动力学由控制器更新，但系统执行仍连续。从初始状态看，NNCS 表现出确定性行为，系统执行由初始状态唯一确定。可达性分析任务变为计算给定初始状态集下的流映射范围。

1.4 过近似可达性计算方法

过近似可达性计算至少与一般非线性采样数据系统一样困难，主要挑战是准确近似流映射函数。常用的集传播方法通过迭代计算小连续时间间隔内的可达集，将其并集作为时间范围的覆盖。集传播方法