14、自动驾驶中心线跟踪神经网络与LLVM抽象解释的研究

自动驾驶中心线跟踪神经网络与LLVM抽象解释的研究

在当今科技发展中，神经网络在自动驾驶等领域的应用愈发广泛，同时低级别程序的静态分析也面临着诸多挑战。本文将围绕自动驾驶中心线跟踪神经网络的分析以及LLVM的抽象解释展开探讨。

自动驾驶中心线跟踪神经网络分析

TinyNet网络分析

由于ACT网络结构复杂（包含卷积和无法被验证工具处理的ELU激活函数），无法使用Marabou进行分析，因此我们选择了更适合形式验证的TinyNet网络进行研究。TinyNet神经网络的输入是一张360×200×3大小的跑道图像，经过一系列处理，包括裁剪、转换为黑白图像、缩小尺寸和下采样等操作，最终输入层维度为128。该网络有三个全连接层，大小分别为16、8、8，使用ReLU激活函数，输出层大小为2，输出交叉轨道误差（y0）和航向误差（y1）。

我们使用了一个包含51462张图像的标记数据集，在TinyNet的下采样输入空间中提取各中间层和所有层的模式。满足正确性或安全性属性模式的图像序列可能代表网络表现出一致行为的时间段。我们选择满足相同模式的图像序列，并将输入区域界定为一个覆盖序列中所有图像的过近似框[xmin, xmax]。然后使用Marabou进行安全性属性检查：∀x ∈[xmin, xmax]∧patternclass=1 ⇒|y0| ≤θ。其中patternclass=1代表满足属性的模式，θ代表跑道尺寸的阈值。如果证明成功，输出属性可被视为该区域内输入序列的时间不变量；否则，反例代表导致违规的图像序列场景。

由于难以证明满足模式的所有输入的正确性属性，我们将重点放在安全性属性上。我们对不同阈值进行实验，提取了以下安全性属性的模式：
-