图隐私论文速递：Data Poisoning Attacks to Local Differential Privacy

最新推荐文章于 2023-12-15 15:01:50 发布
原创 最新推荐文章于 2023-12-15 15:01:50 发布 · 1.4k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#图数据隐私 #本地差分隐私 #数据投毒攻击

本文简述了Adam Smith和Neil Gong研究组在SP2021和Usenix Security 2021发表的两篇关于本地差分隐私的攻击论文，探讨了如何通过恶意用户操纵数据导致统计结果偏差。研究可以扩展到不同类型的LDP，并可能启发对图差分隐私的攻击方法研究。

文章目录

论文概况

今天简要介绍两篇本地差分隐私攻击的论文，分别发表于SP2021和Usenix Security 2021上，分别是Adam Smith和Neil Gong研究组的成果，都是大佬的成果，差不多时间在arxiv上发布。

在线版本如下：

Manipulation Attacks in Local Differential Privacy
Albert Cheu, Adam Smith, Jonathan Ullman

Data Poisoning Attacks to Local Differential Privacy Protocols
Xiaoyu Cao, Jinyuan Jia, Neil Zhenqiang Gong

在这里插入图片描述

在这里插入图片描述

主要创新

这两篇论文主要是在本地差分模式下，加入若干少量的恶意用户，通过添加伪造的数据，使得中心服务器的统计结果出现偏差。都是不错的成果，这些成果一方面可以扩展到不同类型的LDP上，攻击不同应用领域的LDP，一方面可以提高敌手的能力，设计更强的攻击模型。

启发

能否将这个方法移植到图差分隐私中，图差分分为点差分和边差分，如果对于这两种差分，可以设计出实用价值的攻击方法，也是不错的。此外，有没有其他模式的攻击？

最低0.47元/天 解锁文章
[阅读笔记1]Data Poisoning Attacks to Deep Learning BasedRecommender Systems
qq_43532928的博客
05-13 1346
摘要 推荐系统在帮助用户在亚马逊、YouTube和谷歌News等各种网络服务中找到他们感兴趣的信息中扮演着至关重要的作用。各种推荐系统，从基于邻域、基于关联规则、基于矩阵分解到基于深度学习的，已经在工业中开发和部署。其中，基于深度学习的推荐系统因其优越的性能而越来越受欢迎。在这项工作中，我们对基于深度学习的推荐系统的数据中毒攻击进行了系统研究。攻击者的目标是操作推荐系统，使攻击者选择的目标项目被推荐给许多用户。为了实现这一目标，我们的攻击将虚假用户注入精心设计的评级。具体来说，我们将攻击表述为一个优化问题
Data Poisoning Attacks to Deep Learning Based Recommender Systems精读
weixin_61132158的博客
10-09 1149
NDSS 2021 推荐系统中对深度学习的毒药攻击
Stronger Data Poisoning Attacks Break Data Sanitization Defenses
柯同学要谦虚
10-03 681
Stronger Data Poisoning Attacks Break Data Sanitization Defenses 关于data sanitization的介绍 数据消毒？A data sanitization method is the specific way in which a data destruction program or file shredder overw...
Data Poisoning Attacks to Deep Learning Based Recommender Systems论文解读
爱学习爱运动的专栏
11-17 1986
1 摘要 在这项工作中，作者对基于深度学习的推荐系统的数据中毒攻击进行了首次系统研究。攻击者的目标是操纵推荐系统，以便向许多用户推荐攻击者选择的目标项目。为了实现这一目标，作者将精心设计的评分注入到推荐系统中的假用户。具体来说，作者将攻击表述为一个优化问题，这样注入的评分将最大化推荐目标项目的普通用户的数量。然而，解决优化问题具有挑战性，因为它是一个非凸整数规划问题。为了应对这一挑战，作者开发了多种技术来近似解决优化问题。作者在三个真实世界数据集（包括小型和大型数据集）上的实验结果表明，作者的攻击是有效的，
READ-2315 Data Poisoning Attacks Against Federated Learning Systems
m0_51638853的博客
03-13 472
针对有目标投毒攻击，攻击者的目标是在维持其他类的识别准确率的前提下，降低目标类的识别准确率。对此不由得思考：有目标攻击者的模型更新只是在特定维度上不可用，但非目标类的相关神经元仍具有可用性。
【论文阅读】Data Poisoning Attacks to Deep Learning Based Recommender Systems
CamillaXu的博客
12-01 2413
摘要 作者对基于深度学习的推荐系统实施了投毒攻击。 主要针对的推荐系统是：使用了**神经协同过滤框架（NCF）（采用了MLP深度学习算法）**的基于深度学习的推荐系统 通过构造一个毒药模型——用于预测假用户的评分项目，从而构造假用户，然后把假用户注入到推荐系统中，达到影响推荐系统对普通用户的推荐项目（让一个项目能尽可能多的出现在普通用户的推荐列表中） 主要工作 首次对基于深度学习的推荐系统的数据投毒攻击进行了系统研究 将攻击问题描述成一个最优化的问题，并且开发了多种技术来实现 评估了这种攻击方
【RS-Attack】攻击MF：Data Poisoning Attacks on Factorization-Based Collaborative Filtering (NIPS‘16)
chadlee
11-19 1168
Data Poisoning Attacks on Factorization-Based Collaborative Filtering NIPS’16 针对矩阵分解的投毒攻击。文章针对两个矩阵分解算法，提出了三类攻击目标，设计了两种攻击方法，以及逃避检测的方法。 问题定义 推荐系统的本质是一个矩阵补全。矩阵分解是实现矩阵分解的一种方法。目标是补全矩阵MMM，那么不断训练矩阵U,VU, VU,V，使UVTUV^TUVT尽可能拟合MMM中已经观测到了的值MΩ\mathbf{M}_{\Omega}MΩ​，那么
【论文阅读笔记】Shielding collaborative learning:Mitigating poisoning attacks through client-side detection.
leticia_m的博客
09-06 429
个人阅读笔记，如有错误欢迎指出！
【论文阅读笔记】Local Model Poisoning Attacks to Byzantine-Robust Federated Learning
leticia_m的博客
06-14 3561
个人阅读笔记，如有错误欢迎指出！
[论文阅读2]Influence Function based Data Poisoning Attacks to Top-NRecommender Systems
qq_43532928的博客
05-19 734
摘要： 推荐系统是web服务的重要组成部分。流行的推荐系统使用大量的众包用户-项目交互数据对用户偏好和项目属性进行建模，例如，评分分数；然后向用户推荐与用户偏好最匹配的n顶级项目。在这项工作中，我们展示了攻击者可以向推荐系统发起数据的数据中毒攻击，通过向虚假用户注入精心设计的用户-项交互数据，根据攻击者的要求提出建议。具体来说，攻击者可以欺骗推荐系统，向尽可能多的普通用户推荐目标项目。我们关注基于矩阵分解的推荐系统，因为它们在工业中得到了广泛的应用。考虑到攻击者可以注入的假用户的数量，我们将对假用户的评分
【论文阅读笔记】Data Poisoning Attacks Against Federated Learning Systems
leticia_m的博客
04-18 1655
个人阅读笔记，如有错误欢迎指正。
【多模态攻击】Data Poisoning Attacks Against Multimodal Encoders
最新发布
nbwjszd的博客
12-15 1398
原文标题： Data Poisoning Attacks Against Multimodal Encoders 原文代码： https://github.com/zqypku/mm_poison/ 发布年度： 2023 发布期刊： ICMLRecently, the newly emerged multimodal models, which leverage both visual and linguistic modalities to train powerful encoders, have ga
certified-defenses-for-data-poisoning-attacks
柯同学要谦虚
09-26 1359
数据中毒攻击的认证防御 出发点： 问题的重要性； 以用户提供的数据为训练对象的机器学习系统容易受到数据中毒攻击，恶意用户注入错误的训练数据，目的是破坏所学习的模型。虽然最近的工作提出了一些攻击和防御。在面对意志坚定的攻击者时，最坏的情况是失去防御，对此我们知之甚少 以前工作有何不足： 我们注意到，尽管生成对抗网络是安全的，但它们并不关注安全性，而是为训练生成模型提供了一个博弈论目标。// 在均值和...
图隐私论文速递：Privacy-Preserving Global Structural Balance Computation in Signed Networks
hfding
11-28 476
作者：gufe_hfding 文章目录论文概况论文创新论文启示 论文概况 今天要分享的论文是深圳大学林秋镇老师团队发表在IEEE Trans. Comput. Soc. Syst.上的“Privacy-Preserving Global Structural Balance Computation in Signed Networks”。林老师在机器学习、演化算法方面造诣颇深，近年来发表了很多高水平的论文，隐私和安全不是他们团队的主要研究方向，这篇论文是发现的第一篇。 Lijia Ma, Xiaopen
机器学习之投毒攻击
Yale的博客
05-21 2万+
1.投毒攻击 如果机器学习模型是根据潜在不可信来源的数据（例如Yelp、Twitter等）进行训练的话,攻击者很容易通过将精心制作的样本插入训练集中来操纵训练数据分布,以达到改变模型行为和降低模型性能的目的.这种类型的攻击被称为“数据投毒”（Data Poisoning）攻击,它不仅在学术界受到广泛关注,在工业界也带来了严重危害.例如微软Tay,一个旨在与Twitter用户交谈的聊天机器人,仅在16个小时后被关闭,只因为它在受到投毒攻击后开始提出种族主义相关的评论.这种攻击令我们不得不重新思考机器学习模型的
AI Security2-投毒攻击(Poisoning Attacks)
热门推荐
学渣的博客
12-25 2万+
接着上一章写的：https://blog.youkuaiyun.com/weixin_42468475/article/details/111684668 这是目录1 数据投毒攻击是什么？2 数据中毒的根本原因3 数据投毒攻击分类和解决方案3.1 模型偏斜(Model skewing)3.2 反馈武器化(Feedback weaponization)：3.3 后门攻击（backdoor attacks）参考文献 1 数据投毒攻击是什么？ 数据投毒/中毒攻击（Data Poisoning Attack）是什么？这里我们用
Poisoning Attack in Adversarial Machine Learning
ColdWindHA的博客
03-05 2315
Poisoning Attack in Adversarial Machine Learning Data Poisoning攻击区别于Evasion攻击，是攻击者通过对模型的训练数据做手脚来达到控制模型输出的目的，是一种在训练过程中产生的对模型安全性的威胁。Data Poisoning，即对训练数据“下毒”或“污染”。这种攻击手段常见于外包模型训练工作的场景，例如我们常常将模型训练任务委托给第三方云平台（如Google Colab等等），此时第三方平台就掌握了我们的所有训练数据，很容易在训练数据上做手脚，
图隐私论文速递：PGAS: Privacy-preserving graph encryption for accurate constrained shortest distance querie
hfding
11-18 816
作者：gufe_hfding 文章目录论文概要论文主要创新启发与个人想法 论文概要 今天分享的是北理工朱烈煌老师团队2020年最新的图数据隐私保护论文，该论文发表在Information Sciences上，题目是“PGAS: Privacy-preserving graph encryption for accurate constrained shortest distance queries”，这篇论文利用Paillier同态加密算法设计了一个精确的约束最短路径查询隐私保护算法，以实现具有隐私保护的
Manipulation Attacks in LDP
weixin_43641509的博客
12-29 3058
Manipulation Attacks in Local Differential Privacy 有史以来读过的最艰难的一篇论文，截至目前仍未完全明白，该论文十分具有创新性，揭示了LDP的巨大缺陷，并通过数学分析给予了详细证明 链接: Manipulation Attacks in Local Differential Privacy. 概要： 文章提出 针对非交互式的 本地的差分隐私机制十分容易受到manipulate attack 当 隐私预算较低、 或输入域较大时，manipulate 攻击可以
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值