25、深度神经网络安全验证：方法与基准

深度神经网络安全验证：方法与基准

在当今科技飞速发展的时代，机器学习尤其是深度学习技术在各个领域得到了广泛应用。然而，这些技术在安全关键应用中的可靠性和可信任性成为了亟待解决的问题。本文将介绍深度神经网络（DNNs）安全验证的相关方法和基准，以及如何利用形式化方法验证飞机设备的神经网络预测系统。

1. 验证方法与相关研究

在神经网络和自主系统的验证方面，有多种方法和研究成果。例如，有一种方法可以根据时间序列的不同状态来验证时间相关的机器学习模型，有助于在不同季节（春、夏、秋、冬）等不同状态下对模型进行验证。

还有一篇论文《Continuous Engineering for Trustworthy Learning - enabled Autonomous Systems》讨论了构建可信的机器学习自主系统所面临的挑战和方法。该研究强调了持续工程在确保机器学习自主系统可信性方面的重要性，并阐述了建立这种可信性的方法，这涉及到自主系统、机器学习和持续工程等多个领域专家的协作。

另外，有两个仅作展示的关于验证方法的成果，都针对自主系统。Christian Schilling在《Presentation: reachability for neural - network control systems》中介绍了神经网络控制系统可达性分析的方法；Amanjit Dulai和Lucas Garcia在《Presentation: Verification of a neural network for modeling the dynamics of a quadcopter》中提出了针对以神经网络建模的四旋翼飞行器等动态系统的验证方法。

2. 验证