神经元覆盖率(NC)对于测试深度神经网络有意义吗?

本文质疑了神经覆盖率(NC)作为测试深度神经网络有效性指标的有效性。研究发现,增加NC并不一定增强测试套件的质量,反而可能导致缺陷检测能力下降,输入变得不自然,并增加预测偏见。作者提出一种新的正则化算法,尝试在增加NC的同时促进多样性,但实验结果显示这种方法可能适得其反。最后,作者呼吁发展新的测试生成技术,综合考虑缺陷检测、自然性和输出公正性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

阅读论文《Is Neuron Coverage a Meaningful Measure for Testing Deep Neural Networks?》。记录阅读笔记。

全文内容总结:

在以往研究中,基于增加NC可以提高测试集质量的隐含假设,NC被用于指导测试生成。

本文设计了一种新的促进多样性的正则化算法,该算法可以嵌入现有的对抗性攻击算法(CW、PGD)中。并评估增加NC是否能生成测试套件满足:

  • 能检测对抗性攻击
  • 产生自然输入
  • 对特定类别预测没有偏见

结果却发现:增加NC会使生成有效测试套件更困难,即更高的NC会导致检测到的缺陷更少、自然输入更少、预测偏好更有偏差。

最后,作者呼吁一种新的测试生成技术,能同时考虑缺陷检测、自然性和输出公正性。

算法思想:

本文的正则化算法通过惩罚倾

评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

海苔小饼干

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值