李宏毅机器学习之Attack and Defense

最新推荐文章于 2025-05-25 22:05:00 发布
原创 最新推荐文章于 2025-05-25 22:05:00 发布 · 1k 阅读 · 7 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#李宏毅 #机器学习 #attack and defense

本文探讨了机器学习模型的攻击与防御策略。重点介绍了无目标和有目标的攻击，以及不同约束条件下的攻击方法，如FGSM。同时，讨论了白盒和黑盒攻击的差异，并提出防御措施，包括被动防御的滤波和平滑化，以及主动防御的对抗性训练。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

李宏毅机器学习之Attack and Defense

机器训练出来的模型不光性能要强，还要能够对抗人类的恶意、攻击

在这里插入图片描述

通过人为地对图片加上噪声，使得分类产生错误。

在这里插入图片描述

  • 无目标的攻击：就是使得结果与事实的距离越远越好
  • 有目标的攻击：输出与答案距离越远越好的同时，还与指定的输出越接近越好
  • Constraint的限制可以简单理解为人眼看不出差别，但是机器可以给出完全不同的答案

在这里插入图片描述

一般对于限制的选择就是使用l2-norm与L-infinity，但是如上图右下角可知利用l2norm计算得到的d(x0,x′)d(x^0,x')d(

最低0.47元/天 解锁文章

200万优质内容无限畅学
李宏毅——对抗模型 attack and defence
shaoyue1234的专栏
09-19 1204
李宏毅——对抗模型 attack and defencemotivationattack例子如何找出特制的噪声限制how to Attack实例方法FGSM（Fast Gradient Sign Method）白盒和黑盒黑盒攻击 motivation 想在脱离实验室，实际环境中使用 在 强：要对噪音robust 对付来自人类的恶意：要对恶意的骗过机器的数据robust 侦测带有恶意的东西：垃圾邮件...
​李宏毅机器学习——对抗攻击Adversarial Attack
iwill323的博客
10-27 3464
​李宏毅机器学习——对抗攻击Adversarial Attack
attack and defense
筱筱思的博客
01-24 2063
深度神经网络在图像分类领域尽管有很高的正确率，但是非常容易受到对抗样本的攻击的。这些对抗样本仅有很轻微的扰动，人类视觉甚至系统无法察觉这种扰动（图片看起来几乎一样）。这样的攻击会导致神经网络完全改变它对图片的分类。此外，同样的图片扰动可以欺骗好多网络分类器。 因此，机器光有强度还不够，还需要能够应对来自人类的恶意。 Attract（攻击） 1.什么是attract 在训练好的network中，给一个input，会得到一个正确的 output （输入一个猫的图片得到猫的分类）。 Attack 是在 in
李宏毅《机器学习2025》笔记 第二讲 —— AI Agent
最新发布
m0_67168421的博客
05-25 1051
AI Agent有很多定义，本堂课指的是人类给出目标后可以自己想办法完成该目标的人工智能。
[李宏毅-机器学习]ML攻击与防御 Attack ML model
炼丹师
02-22 782
Attack white box 已经拥有模型 只更新一次便得到最终的结果 black box 不知道模型 defense 对需要识别的图片使用filter做处理
李宏毅机器学习笔记第16周_来自人类的恶意攻击（Adversarial Attack）
peaunt1的博客
07-31 809
Adversarial Attack
李宏毅作业六 Adversarial Attack对抗攻击
闲看庭前雪的博客
10-27 1874
作业六 Adversarial Attack对抗攻击前言一、下载资料并解压缩二、创建环境1.引入库2.读取资料三、载入模型四、运行成果五、生成攻击后的图片总结 前言 作业里，不仅有原始注释，还有我自己附加的注释，有不对的地方还请大家多多指教 运行环境是cloab python3 一、下载资料并解压缩 # 下載資料 !gdown --id '14CqX3OfY9aUbhGp4OpdSHLvq2321fUB7' --output data.zip # 解壓縮 !unzip -qq -u data.zip
机器学习Attack and Defense.pdf
01-16
《机器学习Attack and Defense》作为李宏毅教授对机器学习安全性的深入探讨，不仅仅是一次理论的阐述，更是对安全机器学习实践的指引。 在机器学习的实际应用中，构建一个鲁棒的模型至关重要。李宏毅教授指出，一个...
2021李宏毅机器学习笔记--12 attack ML models
guoxinxin0605的博客
06-26 415
2021李宏毅机器学习笔记--12 attack ML models摘要一、图像模型的攻击1.1原理1.2Constraint1.3参数训练1.4一个例子1.5攻击方法1.5.1FGSM(Fast Gradient Sign Method)1.6黑盒攻击1.7拓展研究1.7.1普遍对抗攻击(Universal Adversarial Attack)1.7.2对抗性重新编程(Adversarial Reprogramming)1.8真实世界的攻击二、声音模型的攻击三、defense3.1被动防御3.1.1fe
Attack（李宏毅）机器学习 2023 Spring HW10 (Boss Baseline)
m0_66773231的博客
01-07 1071
对抗攻击是指一种故意欺骗机器学习模型（尤其是深度学习模型）的技术，通过向模型提供经过细微修改的输入数据，从而导致模型做出错误的预测或分类。这些攻击利用了模型在训练和推理过程中的漏洞，从而揭示了模型在鲁棒性方面的弱点。以图像分类为例，假设我们已经训练了一个图像识别模型，可以对图像进行分类。为了攻击这个模型，我们在图像中加入一小部分几乎不可察觉的噪声。这张带噪声的图像被输入到模型中，我们期望模型将其错误分类。
机器学习中的一些有趣点【Attack 和 Defence】
qq_45467608的博客
12-23 799
攻击机器学习模型” 指的是试图危害或操纵机器学习模型的概念。攻击相对于防御来说是容易的。
Attack and Defense
weixin_42277616的博客
07-29 208
Attack 加额外条件！改训练方法！ 举例FGSM 黑盒attack与universal attack 与语音文本attack 与attack后的任务切换 黑盒attack再训练一个network架构即可 为什么会有attack Defense passive:更改attack的图片 proactive：更改网络参数 ...
李宏毅机器学习18—ML中的Attack and Defense
weixin_57178683的博客
05-09 422
Ml中的Attack and defense 希望Ml的model不仅要强，还要能够对抗人类的恶意攻击 例如:用ml的技术进行垃圾邮件的侦测，那么编写垃圾邮件的人就会对垃圾邮件进行改写、伪装，希望骗过ml的model 一.attack 多数时间讲的是攻击，因为对于ml的model来说，攻击比防御更容易 首先将一张图片输入到比较深的网络中，得到的输出是tiger cat的概率是0.64 接下来刻意对输入加上一些噪声，得到一个不太一样的图片，将这个图片输入到神经网络中，得到的结果有很大变化...
李宏毅学习笔记19.Attack and Defense
老毛的博客
04-21 1453
文章目录简介Attack（重点）做法Loss Function for Attack约束的定义如何攻击例子小结其他方法Attack ApproachesFGSMWhite Box v.s. Black BoxBlack Box AttackUniversal Adversarial AttackAdversarial ReprogrammingAttack in the Real WorldDef...
李宏毅机器学习 Machine_Learning_2019_Task8
weixin_36466478的博客
06-15 365
目录： 一、决策树(decision tree)模型与学习 二、特征选择 三、决策树的生成 四、应用部分 一、决策树(decision tree)模型与学习 1、决策树模型 决策树（decision tree）在机器学习中是一种基本的分类与回归方法。 2、 二、特征选择 三、决策树的生成 四、应用部分 ...
[datawhale202210]李宏毅机器学习2021：adversarial attack来自人类的恶意攻击
qq_40990057的博客
10-12 760
本节了解了人类的恶意攻击的动机，定义，和在ResNet上具体应用的效果。为了实现attack，我们需要找到一个合适的噪声，噪声可以通过对无目标和有目标的任务定义不同的损失函数来确定。
李宏毅机器学习（一）
weixin_45810450的博客
10-30 2779
李宏毅机器学习（一） 仔细算算，自己学习深度学习也有一段时间了，陆陆续续做了一些项目，但是从去年开始入门到现在，总感觉底层的很多知识原理非常模糊。 最开始接触AI，是因为项目需要，当时时间紧迫来不及从机器学习一步一步开始，就直接从深度学习开始了。 初次接触的是吴恩达老师的深度学习，当时觉得对神经网络的理解还算可以，现在想想还是略微草率。所以最近重新开始学习机器学习，在看了李宏毅老师的机器学习之后，深感佩服，老师的切入点和突破口总是独树一帜，也因此我在很多地方茅塞顿开，对于底层的很多地方有所见解，所以准备将上
李宏毅学习笔记——2024春《GENERATIVE AI》篇（已完结）
a131529的博客
11-22 7999
李宏毅学习笔记——2024春《GENERATIVE AI》篇
【李宏毅机器学习笔记（一）】关于机器学习的定义和过程初步推导
weixin_51263595的博客
02-23 311
深度学习入门笔记，站在前人的肩膀上。
李宏毅机器学习课程作业全面解析
综上所述，这份“李宏毅机器学习作业”文档不仅提供了一个学习机器学习的良好起点，而且强调了学术诚信和实际应用的重要性。通过全面的学习和实践，学生可以获得宝贵的技能和经验，为将来的学术研究或职业道路打下...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值