图隐私论文速递：Data Poisoning Attacks to Local Differential Privacy

最新推荐文章于 2023-12-15 15:01:50 发布
最新推荐文章于 2023-12-15 15:01:50 发布
阅读量1.4k 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： 图数据隐私-论文速递 文章标签： 图数据隐私 本地差分隐私 数据投毒攻击
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/gufe_hfding/article/details/111936081
本文简述了Adam Smith和Neil Gong研究组在SP2021和Usenix Security 2021发表的两篇关于本地差分隐私的攻击论文，探讨了如何通过恶意用户操纵数据导致统计结果偏差。研究可以扩展到不同类型的LDP，并可能启发对图差分隐私的攻击方法研究。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

论文概况

今天简要介绍两篇本地差分隐私攻击的论文，分别发表于SP2021和Usenix Security 2021上，分别是Adam Smith和Neil Gong研究组的成果，都是大佬的成果，差不多时间在arxiv上发布。

在线版本如下：

Manipulation Attacks in Local Differential Privacy
Albert Cheu, Adam Smith, Jonathan Ullman

Data Poisoning Attacks to Local Differential Privacy Protocols
Xiaoyu Cao, Jinyuan Jia, Neil Zhenqiang Gong

在这里插入图片描述

在这里插入图片描述

主要创新

这两篇论文主要是在本地差分模式下，加入若干少量的恶意用户，通过添加伪造的数据，使得中心服务器的统计结果出现偏差。都是不错的成果，这些成果一方面可以扩展到不同类型的LDP上，攻击不同应用领域的LDP，一方面可以提高敌手的能力，设计更强的攻击模型。

启发

能否将这个方法移植到图差分隐私中，图差分分为点差分和边差分，如果对于这两种差分，可以设计出实用价值的攻击方法，也是不错的。此外，有没有其他模式的攻击？

最低0.47元/天 解锁文章

200万优质内容无限畅学
[阅读笔记1]Data Poisoning Attacks to Deep Learning BasedRecommender Systems
qq_43532928的博客
05-13 1283
摘要 推荐系统在帮助用户在亚马逊、YouTube和谷歌News等各种网络服务中找到他们感兴趣的信息中扮演着至关重要的作用。各种推荐系统，从基于邻域、基于关联规则、基于矩阵分解到基于深度学习的，已经在工业中开发和部署。其中，基于深度学习的推荐系统因其优越的性能而越来越受欢迎。在这项工作中，我们对基于深度学习的推荐系统的数据中毒攻击进行了系统研究。攻击者的目标是操作推荐系统，使攻击者选择的目标项目被推荐给许多用户。为了实现这一目标，我们的攻击将虚假用户注入精心设计的评级。具体来说，我们将攻击表述为一个优化问题
顶会速递 | ICLR 2020录用论文全集
语言智能技术笔记簿
03-10 1万+
由深度学习三巨头Yoshua Bengio和Yann LeCun牵头创办的人工智能顶会ICLR今年最终收到2594篇投稿，共687篇论文被接收，其中48篇orals，108篇spotlights，531篇posters，录取率为26.5%，相比去年的31.4%略有下降。华人学者占比为47%。这篇博客为大家列出全部录用的论文列表，方便大家自取。
Stronger Data Poisoning Attacks Break Data Sanitization Defenses
柯同学要谦虚
10-03 622
Stronger Data Poisoning Attacks Break Data Sanitization Defenses 关于data sanitization的介绍 数据消毒？A data sanitization method is the specific way in which a data destruction program or file shredder overw...
Data Poisoning Attacks to Deep Learning Based Recommender Systems论文解读
爱学习爱运动的专栏
11-17 1864
1 摘要 在这项工作中，作者对基于深度学习的推荐系统的数据中毒攻击进行了首次系统研究。攻击者的目标是操纵推荐系统，以便向许多用户推荐攻击者选择的目标项目。为了实现这一目标，作者将精心设计的评分注入到推荐系统中的假用户。具体来说，作者将攻击表述为一个优化问题，这样注入的评分将最大化推荐目标项目的普通用户的数量。然而，解决优化问题具有挑战性，因为它是一个非凸整数规划问题。为了应对这一挑战，作者开发了多种技术来近似解决优化问题。作者在三个真实世界数据集（包括小型和大型数据集）上的实验结果表明，作者的攻击是有效的，
READ-2315 Data Poisoning Attacks Against Federated Learning Systems
m0_51638853的博客
03-13 430
针对有目标投毒攻击，攻击者的目标是在维持其他类的识别准确率的前提下，降低目标类的识别准确率。对此不由得思考：有目标攻击者的模型更新只是在特定维度上不可用，但非目标类的相关神经元仍具有可用性。
Data Poisoning Attacks to Deep Learning Based Recommender Systems精读
weixin_61132158的博客
10-09 1089
NDSS 2021 推荐系统中对深度学习的毒药攻击
【论文阅读】Data Poisoning Attacks to Deep Learning Based Recommender Systems
CamillaXu的博客
12-01 2274
摘要 作者对基于深度学习的推荐系统实施了投毒攻击。 主要针对的推荐系统是：使用了**神经协同过滤框架（NCF）（采用了MLP深度学习算法）**的基于深度学习的推荐系统 通过构造一个毒药模型——用于预测假用户的评分项目，从而构造假用户，然后把假用户注入到推荐系统中，达到影响推荐系统对普通用户的推荐项目（让一个项目能尽可能多的出现在普通用户的推荐列表中） 主要工作 首次对基于深度学习的推荐系统的数据投毒攻击进行了系统研究 将攻击问题描述成一个最优化的问题，并且开发了多种技术来实现 评估了这种攻击方
【论文阅读笔记】Data Poisoning Attacks Against Federated Learning Systems
leticia_m的博客
04-18 1510
个人阅读笔记，如有错误欢迎指正。
【多模态攻击】Data Poisoning Attacks Against Multimodal Encoders
最新发布
nbwjszd的博客
12-15 1293
原文标题： Data Poisoning Attacks Against Multimodal Encoders 原文代码： https://github.com/zqypku/mm_poison/ 发布年度： 2023 发布期刊： ICMLRecently, the newly emerged multimodal models, which leverage both visual and linguistic modalities to train powerful encoders, have ga
【RS-Attack】攻击MF：Data Poisoning Attacks on Factorization-Based Collaborative Filtering (NIPS‘16)
chadlee
11-19 1131
Data Poisoning Attacks on Factorization-Based Collaborative Filtering NIPS’16 针对矩阵分解的投毒攻击。文章针对两个矩阵分解算法，提出了三类攻击目标，设计了两种攻击方法，以及逃避检测的方法。 问题定义 推荐系统的本质是一个矩阵补全。矩阵分解是实现矩阵分解的一种方法。目标是补全矩阵MMM，那么不断训练矩阵U,VU, VU,V，使UVTUV^TUVT尽可能拟合MMM中已经观测到了的值MΩ\mathbf{M}_{\Omega}MΩ​，那么
certified-defenses-for-data-poisoning-attacks
柯同学要谦虚
09-26 1337
数据中毒攻击的认证防御 出发点： 问题的重要性； 以用户提供的数据为训练对象的机器学习系统容易受到数据中毒攻击，恶意用户注入错误的训练数据，目的是破坏所学习的模型。虽然最近的工作提出了一些攻击和防御。在面对意志坚定的攻击者时，最坏的情况是失去防御，对此我们知之甚少 以前工作有何不足： 我们注意到，尽管生成对抗网络是安全的，但它们并不关注安全性，而是为训练生成模型提供了一个博弈论目标。// 在均值和...
图隐私论文速递：Privacy-Preserving Global Structural Balance Computation in Signed Networks
hfding
11-28 447
作者：gufe_hfding 文章目录论文概况论文创新论文启示 论文概况 今天要分享的论文是深圳大学林秋镇老师团队发表在IEEE Trans. Comput. Soc. Syst.上的“Privacy-Preserving Global Structural Balance Computation in Signed Networks”。林老师在机器学习、演化算法方面造诣颇深，近年来发表了很多高水平的论文，隐私和安全不是他们团队的主要研究方向，这篇论文是发现的第一篇。 Lijia Ma, Xiaopen
机器学习之投毒攻击
Yale的博客
05-21 2万+
1.投毒攻击 如果机器学习模型是根据潜在不可信来源的数据（例如Yelp、Twitter等）进行训练的话,攻击者很容易通过将精心制作的样本插入训练集中来操纵训练数据分布,以达到改变模型行为和降低模型性能的目的.这种类型的攻击被称为“数据投毒”（Data Poisoning）攻击,它不仅在学术界受到广泛关注,在工业界也带来了严重危害.例如微软Tay,一个旨在与Twitter用户交谈的聊天机器人,仅在16个小时后被关闭,只因为它在受到投毒攻击后开始提出种族主义相关的评论.这种攻击令我们不得不重新思考机器学习模型的
AI Security2-投毒攻击(Poisoning Attacks)
热门推荐
学渣的博客
12-25 2万+
接着上一章写的：https://blog.youkuaiyun.com/weixin_42468475/article/details/111684668 这是目录1 数据投毒攻击是什么？2 数据中毒的根本原因3 数据投毒攻击分类和解决方案3.1 模型偏斜(Model skewing)3.2 反馈武器化(Feedback weaponization)：3.3 后门攻击（backdoor attacks）参考文献 1 数据投毒攻击是什么？ 数据投毒/中毒攻击（Data Poisoning Attack）是什么？这里我们用
Poisoning Attack in Adversarial Machine Learning
ColdWindHA的博客
03-05 2163
Poisoning Attack in Adversarial Machine Learning Data Poisoning攻击区别于Evasion攻击，是攻击者通过对模型的训练数据做手脚来达到控制模型输出的目的，是一种在训练过程中产生的对模型安全性的威胁。Data Poisoning，即对训练数据“下毒”或“污染”。这种攻击手段常见于外包模型训练工作的场景，例如我们常常将模型训练任务委托给第三方云平台（如Google Colab等等），此时第三方平台就掌握了我们的所有训练数据，很容易在训练数据上做手脚，
图隐私论文速递：PGAS: Privacy-preserving graph encryption for accurate constrained shortest distance querie
hfding
11-18 774
作者：gufe_hfding 文章目录论文概要论文主要创新启发与个人想法 论文概要 今天分享的是北理工朱烈煌老师团队2020年最新的图数据隐私保护论文，该论文发表在Information Sciences上，题目是“PGAS: Privacy-preserving graph encryption for accurate constrained shortest distance queries”，这篇论文利用Paillier同态加密算法设计了一个精确的约束最短路径查询隐私保护算法，以实现具有隐私保护的
Manipulation Attacks in LDP
weixin_43641509的博客
12-29 2995
Manipulation Attacks in Local Differential Privacy 有史以来读过的最艰难的一篇论文，截至目前仍未完全明白，该论文十分具有创新性，揭示了LDP的巨大缺陷，并通过数学分析给予了详细证明 链接: Manipulation Attacks in Local Differential Privacy. 概要： 文章提出 针对非交互式的 本地的差分隐私机制十分容易受到manipulate attack 当 隐私预算较低、 或输入域较大时，manipulate 攻击可以
图隐私论文速递：GRAM: An efficient ( k, l ) graph anonymization method
hfding
11-26 349
作者：gufe_hfding 文章目录论文概况论文创新点论文启示 论文概况 今天分享一篇发表在Expert Systems With Applications 上的论文“GRAM: An efficient (kkk, lll ) graph anonymization metho”，作者仍然是伊朗的研究人员，来自Damghan University，在图隐私领域也发表了几篇论文，但感觉质量不高。不过这篇论文还是可以，具体引用格式如下： Reza Mortazavi, Seyedeh Hamideh E
「图隐私攻击与防御技术」最新2022研究综述
数据派THU
05-11 945
来源：专知 本文约7000字，建议阅读14分钟 人大最新关于图数据隐私攻击与防御技术综述论文。摘要如今，图数据已经被广泛地应用于现实生活与科学研究当中，有巨大的使用和研究价值. 但与此同时，针对图数据的收集与发布中也存在巨大的隐私风险。如何在保护图隐私的同时，发布与收集可用图数据，是目前个人、企业、政府等面临的重大挑战. 本文首先从隐私信息所包含的内容、不同的隐私泄露场景...
poison frogs! targeted clean-label poisoning attacks on neural networks复现
10-22
“Poison frogs! targeted clean-label poisoning attacks on neural networks”这是一个关于对神经网络进行有针对性的干净标签中毒攻击的研究项目。在这种攻击中，研究人员通过修改训练数据集中的特定标签，以欺骗神经网络模型以误分类输入样本。 干净标签中毒攻击是一种隐蔽的攻击方式，因为攻击者不需要修改图像本身或添加任何可见的攻击标记。相反，他们通过对训练数据集进行精心设计的修改，使神经网络在应用中出现错误分类。这种攻击方法可能会导致严重后果，例如在自动驾驶汽车或安全系统中造成事故或功能失效。 这个项目的目的是研究这种攻击方法的可行性和效果，并提出对抗这种攻击的解决方案。研究人员首先对训练数据集进行修改，以使特定类别的图像被误分类为其他类别。然后，他们使用已经训练好的神经网络模型，通过修改训练数据集中的特定图像标签，使模型在测试阶段错误地将这些特定图像分类为不同的类别。 结果表明，即使在高性能的神经网络上进行干净标签中毒攻击也是可行的。这些攻击可以在不影响模型在其他正常输入上性能的情况下，误导模型对特定图像的分类。这使得攻击者能够操纵模型的行为，甚至可能导致系统的安全漏洞和错误决策。 为了对抗这种攻击，研究人员提出了一种改进的训练策略，称为“防御机制”。这种方法可以增强模型对干净标签中毒攻击的鲁棒性，并提供了一种有效的方法来检测和解决这种攻击。 总体而言，这个项目揭示了干净标签中毒攻击在神经网络中的潜在威胁，并提供了对抗这种攻击的解决方案。这有助于进一步加强神经网络模型在面临安全挑战时的鲁棒性，并推动相关领域的研究和技术发展。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值