小白读论文：机器学习的安全威胁和防御技术（下）——机器学习的防御技术

已于 2024-10-14 15:50:19 修改
阅读量1k 收藏 11
点赞数 12
CC 4.0 BY-SA版权
文章标签： 机器学习 安全 人工智能 big data
于 2024-10-14 15:29:27 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/pppj1998/article/details/142919432

论文：Q. Liu et al. 2018. Survey on Security Threats and Defensive Techniques of Machine Learning: A Data Driven View. IEEE ACCESS.

目录

机器学习的防御技术：

安全性评估模型

主动防御

被动防御

安全性评估

训练阶段的防御对策

数据净化

鲁棒性提高

预测推断阶段的防御对策

通过博弈提高鲁棒性

通过数据重分布主动防御

平滑模型输出技术

降维策略

统计检验

集成学习

数据安全与隐私

差分隐私（differential privacy, DP）

同态加密（homomorphic encryption, HE）

减少API的敏感输出

未来研究方向/趋势

机器学习的防御技术：

模型的安全性测试通常用假设法：对分类器漏洞引入对抗性假设，然后提出保护对策。

安全性评估模型

通常有2种防御机制：主动防御、被动防御。

二者的主要区别：

（1）主体不同，主动防御中攻击和防御都是由模型设计者完成的，被动防御则是外部攻击

（2）目的不同，被动防御是真攻击（恶性）、主动防御是自我体检（良性）

主动防御

（1）选择对抗模型

（2）启动渗透测试

（3）评估攻击影响

（4）实施防御策略

被动防御

（1）攻击者会通过分析目标分类器找到合适的攻击方法

（2）模型的设计者会对新输入的数据进行分析并处理攻击下生成的结果、然后使用一些防御机制，比如重新收集数据、引入新的特征来更新分类器

（3）攻击者和模型设计者的行为不断竞争从而加强模型的防御性

安全性评估

对抗数据会导致非稳态分布，因而可以用于评估模型安全性以及是否存在对抗数据

（1）根据目标、模型了解度、攻击者能力等前述攻击条件选择合适的对抗模型

（2）重新定义数据集p(Y), p(A|Y) and p(X|Y, A)：

Y∈{L, M}：类标签，L：良性，M：恶意；

L∈{F, T}：布尔随机变量，T：改过，F：没改过。

（3）对重新定义前的数据构建为训练集TR、测试集TS，通过经典重采样技术构建k个数据子集（cross-validation, bagging, ...）

（4）用TR和TS集模拟测试攻击环境下的模型表现

训练阶段的防御对策

两大对策：保证训练数据的纯洁性/提高模型鲁棒性

数据净化

识别对抗样本、分离、删除

eg. Reject on Negative

最低0.47元/天 解锁文章

200万优质内容无限畅学
机器学习8 -- 模型攻防（model attack & model defense）
谢杨易的博客
09-09 1万+
1 什么是模型攻防 1.1 攻防定义 我们在平常的深度学习模型开发中，一般关注的重点在模型指标上，比如ACC、F1、Bleu等。但其实还有另一方面需要注意，那就是模型攻防，特别是在人脸识别等安全领域。什么是模型攻击（model attack）呢？以图片分类为例，如下图。原始图片经过分类模型，可以正确识别是tiger cat。我们在图片上加入某些一定分布的噪声后，模型可能就会把它错误识别为其他类别，比如keyboard。 1.2 攻击条件 模型攻击必须满足两个条件 在原始图片上加入一定噪音，通过
[网络安全自学篇] 八十八.基于机器学习的恶意代码检测技术详解
杨秀璋的专栏
07-19 2万+
这是作者网络安全自学教程系列，主要是关于安全工具和实践操作的在线笔记，特分享出来与博友们学习，希望您喜欢，一起进步。前文分享了传统的恶意代码检测技术，包括恶意代码检测的对象和策略、特征值检测技术、校验和检测技术、启发式扫描技术、虚拟机检测技术和主动防御技术。这篇文章将介绍基于机器学习的恶意代码检测技术，主要参考郑师兄的视频总结，包括机器学习概述与算法举例、基于机器学习方法的恶意代码检测、机器学习算法在工业界的应用。同时，我再结合自己的经验进行扩充，详细分享了基于机器学习的恶意代码检测技术，基础性文章，希望对
机器学习必学系类经典论文
11-16
机器学习系类必学的经典论文，学习机器学习首先得了解的相关资讯。
机器学习论文归类-陆续更新中
halchan的博客
05-09 1146
更多请关注： https://github.com/chanhal https://www.zhihu.com/people/chanhal 整理自己平时搜集的机器学习论文
机器学习 TOP 10 必读论文
两只橙的博客
12-29 2万+
Medium上的机器学习深度爱好者必关注的账号Mybridge照例对11月发表的学术论文进行了排名，整理出了10篇必读论文，建议收藏深读。1、 Alpha Zero：用强化学习算法对中国象棋和国际象棋进行自我修炼（本论文作者包括DeepMind创始人Demis Hassabis）https://arxiv.org/pdf/1712.01815.pdf2、 高分辨率图像合成和有条件的GANs的语义处理
机器学习论文笔记（四）：Genetic CNN（ICCV2017）
weixin_41313407的博客
05-12 3659
机器学习论文笔记（四）：Genetic CNN（ICCV2017）（开荒版） url：https://arxiv.org/pdf/1703.01513 介绍： 这篇文章讲述了如何有传统的遗传算法，生成卷积神经网络，传统的遗传算法可以帮助我们调整参数调，这里我们把网络参数化，通过遗传算法调整我们的DNA序列，然后生成不同的网络结构。好探索我们的网络结构是否可以达到像我们人工设计的网络一样具有高...
小白读论文：机器学习的安全威胁和防御技术（上）——常见的安全威胁
pppj1998的博客
10-11 1477
介绍了机器学习模型在训练以及预测阶段可能受到的攻击
[网络安全自学篇] 十.论文之基于机器学习算法的主机恶意代码
杨秀璋的专栏
09-15 1万+
这是作者的系列网络安全自学教程，主要是关于网安工具和实践操作的在线笔记，特分享出来与博友共勉，希望您们喜欢，一起进步。本篇文章，作者将分享两篇论文，机器学习是如何运用到恶意代码攻击中的，并谈谈自己的理解，后续深入研究尝试分享相关实验，目前还是小白一只。基础性文章，希望对初学者有帮助，大神请飘过，谢谢各位看官！
[网络安全自学篇] 二十三.基于机器学习的恶意请求识别及安全领域中的机器学习
热门推荐
杨秀璋的专栏
11-01 2万+
这是作者的系列网络安全自学教程，主要是关于网安工具和实践操作的在线笔记，特分享出来与博友共勉，希望您们喜欢，一起进步。前文分享了Web渗透的第一步工作，涉及网站信息、域名信息、端口信息、敏感信息及指纹信息收集。这篇文章换个口味，将分享机器学习在安全领域的应用，并复现一个基于机器学习（逻辑回归）的恶意请求识别。
NIPS 十大机器学习精选论文
优快云 人工智能
03-29 5061
作者简介：洪亮劼，Etsy数据科学主管，前雅虎研究院高级经理。长期从事推荐系统、机器学习和人工智能的研究工作，在国际顶级会议上发表论文20余篇，长期担任多个国际著名会议及期刊的评审委员会成员和审稿人。 责编：何永灿，欢迎人工智能领域技术投稿、约稿、给文章纠错，请发送邮件至heyc@youkuaiyun.com 本文为《程序员》原创文章，未经允许不得转载，更多精彩文章请订阅2017年《程序员》...
各种机器学习任务的顶级结果（论文）汇总
深度学习世界
11-10 2203
选自GitHub 机器之心整理 参与：黄小天、蒋思源 今日，机器之心小编在 Github 上发现了一个良心项目：RedditSota 统计了各种机器学习任务的最顶级研究成果（论文），方便大家索引查阅。机器之心对此项目做了介绍。 项目地址：https://github.com//RedditSota/state-of-the-art-resul
李宏毅机器学习笔记(十九)——对ML模型的攻击和防御
Unique13的博客
09-01 1145
文章目录一.背景二.对模型进行攻击1.基本思想2.相似度限制3.训练参数   前言：老师课上举的例子都与图像相关，其实其他领域也是同理的。 一.背景   神经网络不仅是要用在研究上，最后更多的肯定要在各种有意义的应用中。那么安全性就显得尤为重要，要去对抗恶意攻击(注意，这里不是说仅仅是对抗杂讯，而是所谓的，不暴露出弱点)。即使是垃圾邮件识别，人脸识别这种最基础广泛的领域，也存在着大量的攻击对抗。因此，对这方面的研究是十分重要的。 二.对模型进行攻击 1.基本思想   既然是恶意攻击，首先我们还是要保证，我们
机器学习经典论文(转载)
鸣一的专栏
08-07 1351
Active LearningTwo Faces of Active Learning250, Dasgupta, 2011Active Learning Literature Survey63, Settles, 2010ApplicationsA Survey of Emerging Approaches to Spam Filtering58, Caruana, 2012Ambient Int
人工智能-机器学习：对抗攻击与防御(Adversarial Attack and Defense)
u013250861的博客
11-29 7319
什么是对抗攻击与防御(Adversarial Attack and Defense) - 在实际的机器学期分类器中，更多的情况是用在实际生活中，很多时候实际系统会遇到很多的干扰、甚至是人为的蓄意攻击。如垃圾邮件等，我们需要让机器判别这些恶意攻击。 - 机器训练出来的模型不光性能要强，还要能够对抗人类的恶意、攻击。 - 现阶段，各种机器学习的模型很容易被攻击，但是不容易防御。 # 二、对抗攻击(Adversarial Attack) ## 1、对抗攻击(Adversarial Attack)的分类
机器学习（1）
ylqw258369的博客
08-14 603
如图所示， 若一条曲线完全 “包裹” 另一条（如 A 包裹 B、C ），则被包裹的曲线性能更差。向量表示：在机器学习中，对于包含m个示例的数据集D={x1​,x2​,...,xm​}，当每个样本由d个属性描述时，每个样本xi​可表示为d维向量(xi1​,xi2​,...,xid​)，该向量处于d维样本空间X中，其中d被称为样本xi​的 “维数”操作：按 7:3 比例，选取 70 个样本（保持 “好瓜占 60%、坏瓜占 40%” 的原始比例，即分层采样）作为训练集，30 个样本作为测试集。
《机器学习之 K 近邻算法（KNN）》
wjt102020的博客
08-15 748
本文介绍了K近邻算法(KNN)的原理及应用。首先通过电影评分案例引出分类问题，然后详细讲解KNN算法步骤：计算距离、排序选取K个最近邻、统计类别频率进行预测。重点阐述了欧式距离和曼哈顿距离两种度量方式。最后通过鸢尾花分类和电影类型判断两个实例，展示了KNN的实际应用过程，包括数据划分、模型训练、评估及K值选择优化。文中还给出了完整的Python实现代码，包括数据集加载、模型训练、交叉验证和可视化分析，帮助读者理解如何选择最优K值以提高分类准确率。
机器学习 - Kaggle项目实践（2）房价预测问题
nju_spy的博客
08-14 1158
本文介绍了Kaggle房价预测问题的两种解决方案：1) 使用TensorFlow决策森林(TF-DF)模型，直接处理原始数据，通过随机森林实现回归预测，并分析特征重要性；2) 采用集成学习方法，包括数据预处理（处理异常值、缺失值、特征工程）、多种模型(ENet,GBoost,KRR,lasso)的简单平均和Stacking集成，最终通过加权平均(Stacking70%+XGBoost15%+LGBM15%)得到最优结果。两种方法都展示了完整的数据分析和建模流程，其中集成学习方法取得了更好的预测效果。
8.15 机器学习（2）K最近邻算法
2301_82188844的博客
08-15 217
1、定义：K 近邻（K-Nearest Neighbor, KNN）用最近的 K 个已知样本代表/决定未知样本的类别。预测X和Y的值，选择最优K值交叉验证，标明范围。适用小规模、低维、类别边界不规则的数据。④ 统计这 K 个邻居中类别出现频率，K 值选择、距离度量方式决定模型效果。练习：导入葡萄酒数据集（为分类问题）① 计算未知点到所有已知点的距离，③ 选前 K 个（K ≤ 20），⑤ 将频率最高的类别作为预测结果，三、鸢尾花数据集练习（为分类问题）将他们分类、增加特征、类别名。② 按距离升序排序，
2021 IEEE【论文精读】用GAN让音频隐写术骗过AI检测器 - 对抗深度学习的音频信息隐藏
最新发布
AI+跨行业应用探索实践者
08-15 871
本文详解2021年IEEE论文《Learning to Generate Steganographic Cover for Audio Steganography Using GAN》的核心创新点。该方法通过生成对抗网络自动学习生成优质隐写载体音频，采用生成器、判别器和隐写分析器三方对抗训练，实现了对深度学习检测器的主动防御。实验表明，在各种嵌入率下检测准确率接近50%随机猜测水平，PESQ评分达4.42，成功实现了高感知质量与强抗检测性的双重目标。
CICIDS2017数据集：网络安全与机器学习的桥梁
2. 网络安全：CICIDS数据集是网络安全领域的重要资源，它为研究者提供了理解和应对网络威胁的工具，比如通过机器学习算法来识别新型攻击模式。 3. 机器学习：该标签暗示了数据集如何被用于机器学习任务中，比如特征...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值