2025KDD-runner up-Monitoring Robustness and Individual Fairness

文章核心总结与翻译

一、主要内容

本文聚焦人工智能决策系统的输入输出鲁棒性（含对抗鲁棒性、语义鲁棒性、个体公平性），针对现有离线鲁棒性评估方法存在的分布偏移敏感、高维模型不适用等问题，提出运行时鲁棒性监控方案。核心思路是将监控问题转化为动态固定半径最近邻（FRNN）搜索问题，通过设计轻量级监控算法与工具Clemont，实时检测相似输入是否产生差异输出，从而为黑盒AI模型提供额外可信度保障。

文章详细阐述了：

1. 输入输出鲁棒性（I.O.R.）的定义及运行时变体，明确其与传统离线鲁棒性的关系（离线鲁棒性蕴含运行时鲁棒性，但反之不成立）；
2. 监控问题到FRNN问题的转化逻辑，解决动态场景下输入序列持续增长的搜索效率问题；
3. 三类监控算法：基于静态FRNN算法的周期性索引更新、基于二进制决策图（BDD）的新型动态算法、针对L∞范数的并行化优化算法；
4. 在标准基准数据集（CIFAR-10/100、ImageNet、Adult等）上的实验验证，证明工具在高维（150.5k特征）、大规模模型（3.5亿参数）下的有效性与高效性。

二、创新点

1. 概念创新：提出运行时输入输出鲁棒性概念，聚焦实际部署中出现的输入序列，规避离线评估对未出现输入的过度约束，免疫数据分布偏移与类别边界问题；
2. 问题转化：首次将鲁棒性监控问题等价转化为动态FRNN搜索问题，复用并优化经典算法框架；