ERAN：神经网络的精确鲁棒性分析工具

ERAN：神经网络的精确鲁棒性分析工具

eran ETH Robustness Analyzer for Deep Neural Networks 项目地址: https://gitcode.com/gh_mirrors/er/eran

项目介绍

ERAN（ETH Robustness Analyzer for Neural Networks）是一种先进的、精确、可扩展的神经网络分析器，基于抽象解释方法，用于对MNIST、CIFAR10和ACAS Xu网络进行完整或不完整的验证。ERAN在完整和不完整的验证中均提供了业界领先的精度和性能，并且可以根据推荐配置设置进行优化调整。该项目由ETH苏黎世大学计算机科学系的SRI实验室开发，作为Safe AI项目的一部分。

项目技术分析

ERAN的核心是利用抽象解释技术，为神经网络的输入扰动（例如L∞-范数攻击、几何变换等）自动验证安全性属性。它支持具有ReLU、Sigmoid和Tanh激活函数的网络，并在浮点算术下保持健全性。ERAN采用定制的抽象域，这些域专门为神经网络设计，旨在平衡可扩展性和精度。

项目支持的四种分析技术包括：

• DeepZ：为处理ReLU、Sigmoid和Tanh激活函数提供了专门的抽象Zonotope转换器。
• DeepPoly：结合浮点Polyhedra和区间，提供了一种分析域。
• RefineZono：结合DeepZ分析和MILP、LP求解器，以提高精度。
• RefinePoly：结合DeepPoly分析和MILP、k-ReLU框架，在保持可扩展性的同时提供业界领先的精度。

所有分析都使用ELINA库实现数值抽象，更多细节可以在相关出版物中找到。

项目及技术应用场景

ERAN的主要应用场景是验证深度学习模型的鲁棒性，这对于自动驾驶、安全关键系统和其他需要高可靠性保证的应用至关重要。通过ERAN，研究人员和开发人员能够对神经网络模型进行严格的验证，确保在面对输入扰动时模型的稳定性。

例如，在自动驾驶系统中，确保模型对于道路图像的微小变化（如光照变化、遮挡等）保持准确分类是至关重要的。ERAN提供了这样的保证，使得模型可以在实际应用中更加可靠和安全。

项目特点

1. 先进的验证技术：ERAN采用抽象解释技术，结合多种高级分析域，提供了业界领先的验证精度和性能。

2. 可扩展性：ERAN支持多种神经网络结构，包括具有ReLU、Sigmoid和Tanh激活函数的网络，并且可以根据不同的网络结构和验证需求进行调整。

3. 灵活的配置：用户可以根据具体的验证需求，调整ERAN的配置参数，包括但不限于epsilon值、使用的分析域、是否使用MILP求解器等。

4. 易于集成：ERAN提供了一套详细的用户手册和安装指南，使得用户可以轻松集成到现有的工作流程中。

5. 替代AI2：ERAN已经替代了早期的AI2分析器，成为当前基于抽象解释的验证工具的基准。

通过以上特点，ERAN为深度学习模型的安全性验证提供了一个强大的工具，有助于提升AI系统的整体安全性和可靠性。对于研究人员和开发人员来说，ERAN是一个不可或缺的资源，特别是在安全性至关重要的应用场景中。

eran ETH Robustness Analyzer for Deep Neural Networks 项目地址: https://gitcode.com/gh_mirrors/er/eran