[论文解读二]DeepGauge: Multi-Granularity Testing Criteria for Deep Learning Systems

最新推荐文章于 2024-03-21 23:15:14 发布

原创

最新推荐文章于 2024-03-21 23:15:14 发布 · 1k 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#神经网络 #深度学习

[论文阅读笔记二]DeepGauge: Multi-Granularity Testing Criteria for Deep Learning Systems

前情提要
要点提示
- - major function region和corner-case region理解
  - Top-k Neuron Coverage和Top-k Neuron Patterns区别
论文感想

前情提要

论文内容介绍见论文阅读笔记一DeepGauge: Multi-Granularity Testing Criteria for Deep Learning Systems)

要点提示

有一些在读论文的时候，自己理解有所偏差，在复现论文的时候，有一些新的理解，所以打算记录下来。（以下内容仅代表个人理解，大家有不同想法可以评论交流）。

major function region和corner-case region理解

major function region和corner-case region均与训练集相关，待测试模型的每个神经元有不同的major function region和corner-case region。值为测试集输入到模型后，神经元的输出值的上界为a，下界为b，那么major function region为[b,a],corner-case region为[-∞，b]∪[a,+∞]。

Top-k Neuron Coverage和Top-k Neuron Patterns区别

Top-k Neuron Coverage指测试集输入到待测试模型之后，每层的前top-k神经元组成的集合的大小比所有的神经元。是整体看法。
Top-k Neuron Patterns指测试集在待测试模型的各种激活模式的数量。用下图的例子，测试样本x1输入到模型中，top-2模式为（{n1,n3}{n5,n6}{n8,n9}）,测试样本x2输入到模型中，假设top-2模式为（{n1,n2}{n5,