贝叶斯网络中对抗攻击的检测研究
1. 长持续时间数据投毒攻击
在之前对数据投毒攻击的研究中,主要关注了针对贝叶斯结构学习算法的一次性数据投毒攻击。在这种攻击中,恶意攻击者会一次性发送所有受污染的案例,以影响原始数据集 DSv 和对应的模型 B1 。防御者会定期重新训练机器学习系统,使用原始数据集 DSv 和攻击者提供的受污染数据集 DSp 的组合 DSu 来恢复新模型 B2 的结构。
而长持续时间数据投毒攻击则是一种多步对抗攻击。在这种攻击中,恶意攻击者会在一段时间 t = {1, 2, ..., w} 内分批发送受污染的案例。在每个时间点 i ,攻击者会发送一个新的数据集 DSi_c ,其中包含 Ni 个案例,其中 λiNi 个是受污染的案例( 0 < λi < 1 , λi 是在第 i 次迭代时允许添加到 DSi_c 中的数据投毒率)。
即使防御者会定期使用数据集 DSi_ld (等于 DSv ∪ ∑i_t=1 DSc_t )重新训练模型 B'2 ,但由于这种攻击不是瞬间发生的,所以很难检测到长持续时间攻击。到攻击结束时(即时间点 <
贝叶斯网络数据投毒攻击检测研究
超级会员免费看
订阅专栏 解锁全文
40

被折叠的 条评论
为什么被折叠?



