64、联网车辆应用中机器学习的安全弹性

联网车辆应用中机器学习的安全弹性

1. 多通道对抗问题

在典型的联网自动驾驶车辆（CAV）应用中，多个感知通道可能会受到攻击。以协同自适应巡航控制（CACC）应用为例，存在三个感知通道，分别对应前车的速度、位置和加速度。通常，加速度信息通过车与外界通信（V2X）消息传递，而速度和位置数据由跟随车辆通过其车载传感器计算得出。

不同的应用实现或特定实例可能面临不同的对抗模型。例如，对于某些CACC实现，可能需要考虑对手仅破坏加速度信息（V2X 损坏）、速度和位置信息（传感器数据损坏）或它们的某种组合。

当对手能够破坏多个通道时，基于机器学习的弹性系统的一个关键要求是源识别，即确定哪些通道“实际”被破坏。以前面的CACC示例来说，假设对手实际破坏了加速度信息，但跟随车辆只能感知到接收到的加速度值与速度/位置值之间基于标准运动学方程的不一致。在没有环境上下文信息的情况下，很难确定哪个通道对应真实情况，哪个通道存在异常。

此外，如果要枚举所有可能被破坏的通道子集，会很快遇到组合爆炸问题。例如，在一个由五辆非领头车辆跟随一辆领头车辆组成的车队场景中，每辆非领头车辆从领头车辆和前车接收六个输入（位置、速度、加速度），假设对手最多可破坏其中三个输入，那么车队中任何时刻可能有15个通道被破坏，可能的破坏通道子集总数将达到$2^{15}$。显然，系统地检查每个通道子集的异常情况在计算上是不可行的。

REDEM通过利用选择性敏感性的源识别过程来解决多通道对抗问题。关键在于，相同的异常可能以不同方式影响不同功能的行为。例如，前车加速度的异常值不会影响仅基于前车速度和位置值进行训练的跟随车辆中的机器学习模型。REDEM的源识别创建了多个对不同参数具有选择性敏感性的机