《Backdoor Learning: A Survey》阅读笔记

最新推荐文章于 2024-01-28 16:12:13 发布
原创 最新推荐文章于 2024-01-28 16:12:13 发布 · 1.9k 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文详细探讨了后门攻击在深度学习中的各种形式，包括中毒式和非中毒式攻击，如BadNets、隐形后门、物理后门等，并列举了防御策略，如预处理防御、模型重构和随机平滑等。同时，指出了未来的研究方向，如触发器设计、语义和物理后门攻击，以及更有效的防御机制。

Backdoor Learning: A Survey

后门攻击的实例

在这里插入图片描述

Definition of technical terms

Poisoning-based backdoor attacks

A.A unified Frameword of Poisoning-based attack

B.Attacks for Image and Video Recognition

1)BadNets将恶意功能编码进模型的参数中
2)Invisiable Backdoor Attacks(进一步扩展出clean-label invisible attacks)
3)Attacked with optimized Trigger
4)Physical Backdoor Attacks
5)Black-box backdoor attacks
6)Semantic Backdoor Attacks

C.Attacks for Other Tasks or Paradigms

D.Backdoor attack for good

最低0.47元/天 解锁文章
Stetman读paper小记：Backdoor Learning: A Survey（Yiming Li, Yong Jiang, Zhifeng Li, Shu-Tao Xia）
Stetman的博客
08-01 553
作者阅读Backdoor Learning: A Survey后的整理和一些个人理解
Stetman的读paper小记：Deep Learning Backdoor Survey （Shaofeng Li, Shiqing Ma, Minhui Xue）
Stetman的博客
07-31 541
作者在阅读Deep Learning Backdoor Survey之后的总结与一些个人理解。
Backdoor Learning: A Survey论文总结
遠い世界へ
06-12 710
目录 1  论文工作2  后门攻击的统一框架3  基于投毒攻击的分类3.1  图像和视频识别的攻击3.2  总结4  基于非投毒的后门攻击5  后门防御6  未来方向展望7  结论 论文工作 提出一个统一框架分析基于投毒的攻击 对现有攻击和防御进行总结和分类 概述了一些未来的研究方向 后门攻击的统一框架 定义1（标
【论文阅读】Backdoor learning: A survey 后门学习的总结
m0_53662700的博客
01-28 2292
三、基于中毒的攻击A.基于中毒的攻击的。
Backdoor Learning: A Survey 后门攻击-论文笔记
仙猪的博客
09-22 5677
将隐藏的后门嵌入到深度神经网络（DNNs）中，从而使被攻击的模型在良性样本上表现良好，而如果隐藏的后门被攻击者指定的触发器激活，它们的预测将会被恶意地改变。当培训过程没有得到完全控制时，这种威胁就会发生，如对第三方数据集的培训或采用第三方模型，这就构成了一种新的和现实的威胁
《Backdoor Attacks and Countermeasures on Deep Learning: A Comprehensive Review》阅读笔记
Yale的博客
01-15 2802
Backdoor Attacks and Countermeasures on Deep Learning: A Comprehensive Review 最初的后门攻击主要集中在计算机视觉领域，但是也已经扩展到其他领域。例如文本、音频、基于ML的计算机辅助设计、基于ML的无线信号分类等。 区分 1.与Adversarial Example的区别 1）攻击的pipeline不同 2）对抗样本对每个输入进行精心设计不同的扰动，而后门攻击可以使用相同的触发器应用于将任何输入 3）后门触发器为攻击者提供了最大的灵
【论文笔记】A Survey on Federated Learning: The Journey From Centralized to Distributed On-Site Learning a
虚幻私塾
04-25 774
🚀 优质资源分享 🚀 学习路线指引（点击解锁） 知识定位 人群定位 🧡 Python实战微信订餐小程序 🧡 进阶级 本课程是python flask+微信小程序的完美结合，从项目搭建到腾讯云部署上线，打造一个全栈订餐系统。 💛Python量化交易实战💛 入门级 手把手带你打造一个易扩展、更安全、效率更高的量化交易系统 A Survey on Federated Learning: The Journey From Centralized to Distributed On-Site
文献阅读笔记Intellectual Property Protection for Deep Learning-Taxonomy, Methods, Attacks, and Evaluations
顾若茵的博客
07-12 570
DNN IP protect methods；综述论文阅读笔记；深度学习模型版权保护研究论文阅读笔记；
[阅读笔记] 联邦学习攻防综述 An Overview of Federated Deep Learning Privacy Attacks and Defensive Strategies
有关我的科研的足迹、算法竞赛的日子、生活记录。
01-06 3458
本文提供了一个目前来说比较完善的联邦学习攻防相关的综述性文章。 本文对攻击方法、防御方法进行分类整理。 联邦学习目前不能被应用到市场的一个原因就在于我们并不能确保联邦学习的安全性，在未来研究联邦学习工作上不可避免地要引用本文及本文延伸的文献资料。
2023年 20篇神经架构搜索(Neural Architecture Search) CVPR ICLR AAAI Survey 笔记 （持续更新）
miss_the_boat的博客
07-17 3918
23年 20篇神经架构搜索(NAS) CVPR ICLR ICCV AAAI IJCAI Survey 笔记
Stetman读paper小记：BackdoorBench - A Comprehensive Benchmark of Backdoor Learning
Stetman的博客
04-28 840
之前因为参与了实验室后面攻击的项目，阅读了一下这篇关于后门学习的综合性基准测试的研究工作，在此记录一下学习笔记与心得。
对抗机器学习论文-BackdoorBench: A Comprehensive Benchmark of Backdoor Learning
m0_57572083的博客
10-17 1558
对抗机器学习论文-BackdoorBench: A Comprehensive Benchmark of Backdoor Learning
论文阅读笔记——Backdoor Defense with Machine Unlearning
Wendy_094的博客
11-03 1206
提出了一种新的方法BAERASER，可以消除注入 victim model 的后门。具体来说，橡皮主要通过两个关键步骤实现后门防御。首先，进行 trigger pattern 恢复，提取被受害者模型感染的触发模式。这里的触发模式恢复问题相当于从受害者模型中提取未知噪声分布的问题，可以通过基于熵最大化的生成模型轻松解决。随后，诱饵利用这些恢复的触发模式来逆转后门注入过程，并通过一种新设计的基于梯度上升的 machine unlearning 方法，诱导受害者模型来消除被污染的记忆。
＜On Evaluating Neural Network Backdoor Defenses＞阅读总结
Yale的博客
02-02 496
Abstract 最近有一系列针对后门攻击的防御措施被提出来，我们在本文中进行了一些关键的分析并指出这些已有防御手段的共有的缺陷.在最后我们指出了未来可以进一步发展鲁棒防御以及避免已经发现的失误的建议。 Introduction 5种防御手段与三种缺陷的对应如下 Threat Model 和被的后门攻击的常见假设一样，这里不写了。 Experimental Setup 我们创建了包含一系列后门szie/shape和攻击目标的BadNets，具体如下 Identifying Pitfalls in Exi
【NeurIPS 2023】Backdoor对抗攻防论文汇总
m0_61899108的博客
10-05 7860
2023年以及2022年的NeurIPS有关backdoor的对抗攻防的论文。
后门防御阅读笔记，Black-box Detection of Backdoor Attacks with Limited Information and Data
weixin_43999137的博客
10-18 2588
论文标题：Black-box Detection of Backdoor Attacks with Limited Information and Data 论文单位： THBI Lab, Tsinghua University, Beijing 论文作者：Yinpeng Dong, Xiao Yang, Jun Zhu 收录会议：ICCV 2021 开源代码：未开源 有限信息和数据的条件下对后门攻击的黑盒检测（防御） 简单总结 第一个在计算逆向触发器时，使用无梯度的优化方法。 先前的防御手段，计算逆向
后门攻击 & 对抗攻击 resources
qq_43582620的博客
11-11 1537
后门攻击&对抗攻击资源
国际安全领域顶会NDSS 2023录稿整理 (下)
aK031999的博客
03-11 1555
NDSS是网络和系统安全领域的四大顶级国际学术会议（BIG4）之一，第三十届会议于2023年2月27日到3月3日，在美国圣迭戈举办。本文将接着整理剩余论文，并对论文进行分类，感兴趣的小伙伴可以访问论文链接，进一步研究。中国密码学会2023年区块链密码学术会议 (CryptoBC 2023)通知。Diffusion扩散模型大白话讲解，看完还不懂？国际安全领域顶会NDSS 2023录稿整理 (上)ChatPDF来了，你还在为读不懂论文发愁么？ChatPDF来了，你还在为读不懂论文发愁么？用 ChatPDF！
51篇最新CV领域综述论文速递！涵盖14个方向：目标检测/图像分割/医学影像/人脸识别等方向...
我爱计算机视觉
07-24 3449
【导读】本文共汇总了从2020年4月至今的计算机视觉领域综述性论文，共54篇，涵盖图像分割、图像识别、人脸识别/检测、医学影像、目标检测、3D方向（自动驾驶/深度估计）、GAN、文本检...
CrowdGuard: Federated Backdoor Detection in Federated Learning
最新发布
09-11
由于没有提供具体的参考引用内容，以下是基于通用知识对CrowdGuard在联邦学习中联邦后门检测的介绍。 在联邦学习场景中，后门攻击是一种严重的安全威胁。攻击者可能会在本地模型更新中植入后门，使得在特定触发条件下模型输出恶意结果，而在正常情况下模型表现正常。 CrowdGuard是一种用于联邦学习中检测联邦后门的方法。其核心思想是基于样本的众包评估。它利用多个客户端对样本进行评估，通过分析不同客户端对样本的预测结果来检测是否存在后门。 具体来说，CrowdGuard首先会收集多个客户端对一组测试样本的预测标签。然后，通过统计分析这些预测标签的分布情况。如果存在一些样本，不同客户端对其预测结果差异非常大，且这种差异不符合正常的模型波动，那么这些样本可能是被植入后门的触发样本。 以下是一个简单的伪代码示例，展示CrowdGuard的基本流程： ```python # 假设有N个客户端，M个测试样本 N = 10 M = 100 # 存储每个客户端对每个样本的预测结果 predictions = [] for i in range(N): client_predictions = get_client_predictions(i) # 模拟获取客户端i的预测结果 predictions.append(client_predictions) # 统计每个样本的预测标签分布 label_distributions = [] for j in range(M): sample_labels = [predictions[i][j] for i in range(N)] label_distribution = get_label_distribution(sample_labels) # 统计样本j的标签分布 label_distributions.append(label_distribution) # 检测可能的后门触发样本 suspected_samples = [] for j in range(M): if is_suspected(label_distributions[j]): # 判断样本j是否可疑 suspected_samples.append(j) print("Suspected backdoor trigger samples:", suspected_samples) ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值