GEAD：深度学习异常检测模型中的全局解释规则提取

GEAD：深度学习异常检测模型中的全局解释规则提取

GEAD This repository contains artifacts for the paper "Rules Refine the Riddle: Global Explanation for Deep Learning-Based Anomaly Detection in Security Applications" accepted by ACM CCS 2024. 项目地址: https://gitcode.com/gh_mirrors/ge/GEAD

项目介绍

GEAD（Global Explanation for Deep Learning-Based Anomaly Detection）是一个用于在深度学习异常检测模型中提取规则的方法。该方法通过黑盒知识蒸馏技术，从深度学习模型中提取出一个原始规则树，并通过一系列步骤生成易于操作员理解的规则集合。GEAD旨在提升深度学习模型决策的可解释性，这在安全应用领域尤为重要。

项目技术分析

GEAD的核心技术包括以下几个步骤：

1. 根回归树生成：利用黑盒知识蒸馏方法提取原始规则树。
2. 低置信度区域识别：发现导致原始模型与基于树的解释模型不一致性的区域。
3. 低置信度数据增强：增强可能导致两个模型决策不一致的数据。
4. 低置信度规则生成：使用增强数据扩展原始规则。
5. 树合并与离散化：简化规则，提高操作员的可读性。
6. 规则生成（可选）：将规则树转换为可读的规则集。

GEAD采用Python编程语言，基于PyTorch框架，并且无需GPU/CUDA即可运行，适用于广泛的计算环境。

项目技术应用场景

GEAD的主要应用场景是安全领域中的异常检测，特别是在需要模型决策高度可解释的场景，如下：

• 金融交易欺诈检测
• 网络安全中的入侵检测
• 工业控制系统中的异常监测
• 医疗影像分析中的异常标注

在这些领域，模型的决策不仅需要准确，更需要能够提供决策背后的逻辑和规则，以便于人工审核和决策。

项目特点

GEAD项目具有以下显著特点：

1. 高度可解释性：提取的规则易于理解，有助于操作员快速把握模型决策的依据。
2. 灵活的数据增强：通过对低置信度区域的数据增强，可以有效提升模型的泛化能力。
3. 环境兼容性：支持CPU运行，无需依赖特定硬件，易于部署和扩展。
4. 模块化设计：代码结构清晰，模块化设计便于后续维护和二次开发。

GEAD项目的这些特点使其在深度学习异常检测领域具有广泛的应用前景。

---

本文针对GEAD项目进行了详细介绍，从项目核心功能到技术应用场景，再到项目特点，全方位展示了该项目的价值和潜力。对于从事深度学习异常检测研究的科研人员和技术人员，GEAD项目无疑是一个值得尝试的开源工具。如果您希望了解更多关于GEAD的信息，可以通过官方提供的文档和示例进行学习，开始您的异常检测模型的可解释性探索之旅。

GEAD This repository contains artifacts for the paper "Rules Refine the Riddle: Global Explanation for Deep Learning-Based Anomaly Detection in Security Applications" accepted by ACM CCS 2024. 项目地址: https://gitcode.com/gh_mirrors/ge/GEAD