梦想天空

最新推荐文章于 2025-09-15 16:04:46 发布
原创 最新推荐文章于 2025-09-15 16:04:46 发布 · 454 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

博客分享了梦想天空学习网站，其网址为http://www.cnblogs.com/lhb25/ ，为用户提供学习资源获取途径。

梦想天空 学习网站

http://www.cnblogs.com/lhb25/

Data Poisoning Attacks to Deep Learning Based Recommender Systems精读
weixin_61132158的博客
10-09 1149
NDSS 2021 推荐系统中对深度学习的毒药攻击
[阅读笔记1]Data Poisoning Attacks to Deep Learning BasedRecommender Systems
qq_43532928的博客
05-13 1346
摘要 推荐系统在帮助用户在亚马逊、YouTube和谷歌News等各种网络服务中找到他们感兴趣的信息中扮演着至关重要的作用。各种推荐系统，从基于邻域、基于关联规则、基于矩阵分解到基于深度学习的，已经在工业中开发和部署。其中，基于深度学习的推荐系统因其优越的性能而越来越受欢迎。在这项工作中，我们对基于深度学习的推荐系统的数据中毒攻击进行了系统研究。攻击者的目标是操作推荐系统，使攻击者选择的目标项目被推荐给许多用户。为了实现这一目标，我们的攻击将虚假用户注入精心设计的评级。具体来说，我们将攻击表述为一个优化问题
【论文阅读】Data Poisoning Attacks to Deep Learning Based Recommender Systems
CamillaXu的博客
12-01 2413
摘要 作者对基于深度学习的推荐系统实施了投毒攻击。 主要针对的推荐系统是：使用了**神经协同过滤框架（NCF）（采用了MLP深度学习算法）**的基于深度学习的推荐系统 通过构造一个毒药模型——用于预测假用户的评分项目，从而构造假用户，然后把假用户注入到推荐系统中，达到影响推荐系统对普通用户的推荐项目（让一个项目能尽可能多的出现在普通用户的推荐列表中） 主要工作 首次对基于深度学习的推荐系统的数据投毒攻击进行了系统研究 将攻击问题描述成一个最优化的问题，并且开发了多种技术来实现 评估了这种攻击方
Stronger Data Poisoning Attacks Break Data Sanitization Defenses
柯同学要谦虚
10-03 680
Stronger Data Poisoning Attacks Break Data Sanitization Defenses 关于data sanitization的介绍 数据消毒？A data sanitization method is the specific way in which a data destruction program or file shredder overw...
图隐私论文速递：Data Poisoning Attacks to Local Differential Privacy
hfding
12-29 1483
文章目录论文概况主要创新启发 论文概况 今天简要介绍两篇本地差分隐私攻击的论文，分别发表于SP2021和Usenix Security 2021上，分别是Adam Smith和Neil Gong研究组的成果，都是大佬的成果，差不多时间在arxiv上发布。 在线版本如下： Manipulation Attacks in Local Differential Privacy Albert Cheu, Adam Smith, Jonathan Ullman Data Poisoning Attacks to
【RS-Attack】Data Poisoning Attacks to Deep Learning Based Recommender Systems NDSS‘21
chadlee
11-21 1273
Data Poisoning Attacks to Deep Learning Based Recommender Systems NDSS’21 首个在基于深度学习的推荐系统中进行投毒攻击的研究。文章总结的攻击深度学习推荐系统的难点，概括的来说就是： user-item 的数据是离散变量（和loss function建立不起联系） 神经网络的训练过程耗时（重新训练embedding至收敛） 本文方法 近似 Hit Ratio 我们的优化目标肯定是希望最大化target item的hit ratio：
综述阅读:Poisoning Attacks against Recommender Systems
最新发布
2301_79797055的博客
09-15 986
本文综述了针对推荐系统的投毒攻击(PAR)研究现状，提出了一种新颖的三维分类法：组件特定攻击、目标驱动攻击和能力探测攻击。组件特定攻击针对不同推荐架构(如图结构、异构数据、强化学习系统)的固有漏洞；目标驱动攻击根据攻击者意图(如降低整体性能或操纵特定结果)进行区分；能力探测攻击则考察在有限资源和知识约束下的攻击效果。研究指出，现代推荐系统虽然准确性提升，但也引入了新的安全隐患，特别是深度学习模型对恶意数据的敏感性。三种攻击类型相互关联，共同构成了对推荐系统安全性的多维威胁。
综述阅读-Manipulating Recommender Systems - A Survey of Poisoning Attacks and Countermeasures
2301_79797055的博客
09-14 854
这篇综述文章系统性地探讨了推荐系统中的投毒攻击及其防御措施。文章首先定义了投毒攻击的概念，即攻击者通过注入恶意训练数据来操纵推荐结果的行为。与对抗性攻击不同，投毒攻击针对的是模型的训练阶段而非推理阶段。 作者提出了一个五维分类法来分析投毒攻击，包括攻击目标（目标性/非目标性）、攻击知识（黑盒/灰盒/白盒）等维度。文章还详细比较了基于经典启发式和人工智能的两类攻击方法，并分析了推荐系统特有的安全挑战，如数据开放性、概念漂移等。 在防御方面，文章综述了40多种对策，强调需要将特定防御措施与攻击属性相匹配。这项工
RSPapers | 基于隐私保护的推荐系统论文合集
张小磊的博客
03-01 886
嘿，记得给“机器学习与推荐算法”添加星标近年来，推荐系统已经成为许多社交/购物/新闻平台中必不可少的组件。一方面，推荐系统为了更好的捕捉和建模用户的行为习惯以及历史偏好，需要大量收集用户和...
READ-2315 Data Poisoning Attacks Against Federated Learning Systems
m0_51638853的博客
03-13 472
针对有目标投毒攻击，攻击者的目标是在维持其他类的识别准确率的前提下，降低目标类的识别准确率。对此不由得思考：有目标攻击者的模型更新只是在特定维度上不可用，但非目标类的相关神经元仍具有可用性。
【论文阅读笔记】Data Poisoning Attacks Against Federated Learning Systems
leticia_m的博客
04-18 1653
个人阅读笔记，如有错误欢迎指正。
【多模态攻击】Data Poisoning Attacks Against Multimodal Encoders
nbwjszd的博客
12-15 1398
原文标题： Data Poisoning Attacks Against Multimodal Encoders 原文代码： https://github.com/zqypku/mm_poison/ 发布年度： 2023 发布期刊： ICMLRecently, the newly emerged multimodal models, which leverage both visual and linguistic modalities to train powerful encoders, have ga
【RS-Attack】攻击MF：Data Poisoning Attacks on Factorization-Based Collaborative Filtering (NIPS‘16)
chadlee
11-19 1168
Data Poisoning Attacks on Factorization-Based Collaborative Filtering NIPS’16 针对矩阵分解的投毒攻击。文章针对两个矩阵分解算法，提出了三类攻击目标，设计了两种攻击方法，以及逃避检测的方法。 问题定义 推荐系统的本质是一个矩阵补全。矩阵分解是实现矩阵分解的一种方法。目标是补全矩阵MMM，那么不断训练矩阵U,VU, VU,V，使UVTUV^TUVT尽可能拟合MMM中已经观测到了的值MΩ\mathbf{M}_{\Omega}MΩ​，那么
基于深度学习的推荐系统中的毒药攻击
weixin_44760744的博客
01-20 1842
发表于2021年的NDSS，首个在基于深度学习的推荐系统中进行毒药攻击的研究。 《Data Poisoning Attacks to Deep Learning Based Recommender Systems》论文阅读笔记 背景： （1）推荐系统，从基于近邻，关联规则，矩阵分解，到基于深度学习的模型（非线性变换，传统方法达不到，性能好），已在工业界得到广泛应用。 非个性推荐系统：给所有用户推荐相同的项目； 个性化：根据用户的历史行为建模兴趣，给每个用户推荐排名靠前的几个 （2）推荐系统中的毒药攻击：
certified-defenses-for-data-poisoning-attacks
柯同学要谦虚
09-26 1359
数据中毒攻击的认证防御 出发点： 问题的重要性； 以用户提供的数据为训练对象的机器学习系统容易受到数据中毒攻击，恶意用户注入错误的训练数据，目的是破坏所学习的模型。虽然最近的工作提出了一些攻击和防御。在面对意志坚定的攻击者时，最坏的情况是失去防御，对此我们知之甚少 以前工作有何不足： 我们注意到，尽管生成对抗网络是安全的，但它们并不关注安全性，而是为训练生成模型提供了一个博弈论目标。// 在均值和...
机器学习之投毒攻击
Yale的博客
05-21 2万+
1.投毒攻击 如果机器学习模型是根据潜在不可信来源的数据（例如Yelp、Twitter等）进行训练的话,攻击者很容易通过将精心制作的样本插入训练集中来操纵训练数据分布,以达到改变模型行为和降低模型性能的目的.这种类型的攻击被称为“数据投毒”（Data Poisoning）攻击,它不仅在学术界受到广泛关注,在工业界也带来了严重危害.例如微软Tay,一个旨在与Twitter用户交谈的聊天机器人,仅在16个小时后被关闭,只因为它在受到投毒攻击后开始提出种族主义相关的评论.这种攻击令我们不得不重新思考机器学习模型的
AI Security2-投毒攻击(Poisoning Attacks)
热门推荐
学渣的博客
12-25 2万+
接着上一章写的：https://blog.youkuaiyun.com/weixin_42468475/article/details/111684668 这是目录1 数据投毒攻击是什么？2 数据中毒的根本原因3 数据投毒攻击分类和解决方案3.1 模型偏斜(Model skewing)3.2 反馈武器化(Feedback weaponization)：3.3 后门攻击（backdoor attacks）参考文献 1 数据投毒攻击是什么？ 数据投毒/中毒攻击（Data Poisoning Attack）是什么？这里我们用
Poisoning Attack in Adversarial Machine Learning
ColdWindHA的博客
03-05 2314
Poisoning Attack in Adversarial Machine Learning Data Poisoning攻击区别于Evasion攻击，是攻击者通过对模型的训练数据做手脚来达到控制模型输出的目的，是一种在训练过程中产生的对模型安全性的威胁。Data Poisoning，即对训练数据“下毒”或“污染”。这种攻击手段常见于外包模型训练工作的场景，例如我们常常将模型训练任务委托给第三方云平台（如Google Colab等等），此时第三方平台就掌握了我们的所有训练数据，很容易在训练数据上做手脚，
Hygon RAS -Data Poisoning Feature
weixin_48576628的博客
02-01 351
Data Poisoning Feature
poison frogs! targeted clean-label poisoning attacks on neural networks复现
10-22
“Poison frogs! targeted clean-label poisoning attacks on neural networks”这是一个关于对神经网络进行有针对性的干净标签中毒攻击的研究项目。在这种攻击中，研究人员通过修改训练数据集中的特定标签，以欺骗神经网络模型以误分类输入样本。 干净标签中毒攻击是一种隐蔽的攻击方式，因为攻击者不需要修改图像本身或添加任何可见的攻击标记。相反，他们通过对训练数据集进行精心设计的修改，使神经网络在应用中出现错误分类。这种攻击方法可能会导致严重后果，例如在自动驾驶汽车或安全系统中造成事故或功能失效。 这个项目的目的是研究这种攻击方法的可行性和效果，并提出对抗这种攻击的解决方案。研究人员首先对训练数据集进行修改，以使特定类别的图像被误分类为其他类别。然后，他们使用已经训练好的神经网络模型，通过修改训练数据集中的特定图像标签，使模型在测试阶段错误地将这些特定图像分类为不同的类别。 结果表明，即使在高性能的神经网络上进行干净标签中毒攻击也是可行的。这些攻击可以在不影响模型在其他正常输入上性能的情况下，误导模型对特定图像的分类。这使得攻击者能够操纵模型的行为，甚至可能导致系统的安全漏洞和错误决策。 为了对抗这种攻击，研究人员提出了一种改进的训练策略，称为“防御机制”。这种方法可以增强模型对干净标签中毒攻击的鲁棒性，并提供了一种有效的方法来检测和解决这种攻击。 总体而言，这个项目揭示了干净标签中毒攻击在神经网络中的潜在威胁，并提供了对抗这种攻击的解决方案。这有助于进一步加强神经网络模型在面临安全挑战时的鲁棒性，并推动相关领域的研究和技术发展。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值