面向差分隐私保护下联邦学习系统的梯度攻击研究

最新推荐文章于 2025-11-16 12:47:30 发布
原创 最新推荐文章于 2025-11-16 12:47:30 发布 · 882 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#安全 #人工智能

博客作者表示先占坑，后续会整理并撰写相关内容，涉及安全与人工智能领域，但目前暂无具体信息。

先占个坑，等整理完之后就来写

联邦学习模型攻防研究:隐私保护后门攻击与鲁棒性提升
AI天才研究院
08-18 1252
1. 背景介绍 1.1 人工智能与数据隐私 近年来，人工智能 (AI) 技术取得了显著的进步，并在各个领域得到广泛应用。然而，AI 的发展离不开大量的训练数据，而这些数据往往包含用户的敏感信息，例如个人身份信息、医疗记录、金融交易记录等。直接使用这些数据进行模型训练可能会导致严重的隐私泄露风险。
联邦学习隐私保护相关知识总结
我的个人博客
08-16 4880
针对隐私保护的法律法规相继出台，数据孤岛现象已成为阻碍大数据和人工智能技术发展的主要瓶颈，联邦学习作为隐私计算的重要技术被广泛关注，主要对联邦学习相关知识进行了总结
论文 ❀《评价联邦学习中梯度泄漏攻击的框架》- A Framework for Evaluating Gradient Leakage Attacks in Federated Learning
imomoe的博客
08-13 1767
评价联合学习中梯度泄漏攻击的框架 论文简析
联邦学习真香警告：跨机构医疗数据协作中的梯度投毒攻防
weixin_65409651的博客
05-05 1157
联邦学习（Federated Learning, FL）作为医疗数据协作的核心技术，允许医院在不共享原始数据的前提下联合训练AI模型。3. PySyft梯度防御示例(https://github.com/OpenMined/PySyft/tree/dev/examples/federated_learning)• 数据孤岛：医院A有MRI影像，医院B有病理切片，但数据无法直接共享（合规要求：HIPAA/GDPR）。• 后门攻击：在梯度中植入触发器（如特定像素模式），使模型对恶意样本误判。
【论文阅读】联邦学习DLG攻击_NeurIPS2019_Deep Leakage from Gradients_深度梯度泄露，模型逆向攻击
weixin_49946504的博客
05-29 1917
DLG攻击_NeurIPS2019_Deep Leakage from Gradients_深度梯度泄露，发现了梯度可以倒推参数的问题
联邦学习的隐忧：来自梯度的深度泄露
AI科技大本营
04-12 5273
作者|LigengZhu and Song Han编译 | 对外经济贸易大学金融科技实验室头图 | 下载于视觉中国【编者按】数据交易流通是数据要素市场建立的关键环节。为了在推动数据...
联邦学习--数据攻击(1)
爱学习爱运动的专栏
12-18 2120
参考论文：Deep Leakage from Gradients
联邦学习系统攻击与防御技术
小白的博客
09-22 1462
联邦学习是一种以分布式方式训练模型的机器学习技术，其主要思想是确保参与方的数据保留在本地，而将训练的模型进一步上传和聚合到服务器。后续学习过程仅使用模型进行训练，保护了参与方的数据隐私，从而保护了数据安全。在用户数据集中的训练样本包含多个特征数据，其中选择一个或多个能够将不同训练样本区分开来的特征作为样本的标识符，即样本 ID。在联邦学习场景下，每个数据集的组织和使用形式存在差异，其特征和样本 ID 可能存在差异。
虚拟专题：联邦学习 | 联邦学习隐私保护研究进展
weixin_45585364的博客
02-24 1839
来源：大数据期刊联邦学习隐私保护研究进展王健宗,孔令炜,黄章成,陈霖捷,刘懿,卢春曦,肖京平安科技（深圳）有限公司，广东 深圳 518063摘要：针对隐私保护的法律法规相继出...
联邦学习：隐私与效率
09-17
差分隐私技术在联邦学习中扮演着保护个体隐私的角色。通过在模型更新中加入一定量的噪声，即使攻击者获得了模型参数更新，也无法确定这些更新是否来源于某一个特定用户的输入。这种技术能有效地保护用户隐私，即使是...
联邦学习安全防御之差分隐私
武天旭的博客
04-11 6389
一、集中式差分隐私 集中式差分隐私是建立在两个相邻数据集D和D′之上的，相邻数据集是指D和D′之间仅有一条数据不相同，差分隐私技术使得用户无法从获取的输出数据中区分数据是来源于数据集D，还是数据集D′，从而达到保护数据隐私的目的。 基于差分隐私的随机梯度下降算法（DPSGD）与传统的随机梯度下降算法（SGD）的主要不同点在于DPSGD算法在每一轮迭代过程中都会进行梯度裁剪和添加高斯噪声。 基于差分隐私的深度学习训练算法如下： -----------------------------------
探索隐私保护的新纪元：基于差分隐私的联邦学习框架
最新发布
gitblog_00074的博客
11-16 622
在数据驱动的世界里，保持用户信息的安全性和隐私成为了我们不可忽视的责任。为此，我们很高兴向您推荐一款创新的开源项目——一个基于差分隐私的联邦学习框架。这款框架不仅提供了强大的隐私保护功能，还允许数据在不离开本地的情况下进行高效的学习和协作。让我们一起深入了解它的魅力所在。 ## 项目介绍 该项目致力于收集与实施基于差分隐私的联邦学习相关技术，以确保在分布式环境中进行机器学习时的信息安全。通过引
论文汇报10.25Partially Encrypted Multi-Party Computation for Federated Learning
qq_53950993的博客
10-28 1195
组会汇报
【联邦学习】2022年CCF-A会议论文整理
qq_43691733的博客
04-18 2870
会议/期刊 论文 kdd2022 Collaboration Equilibrium in Federated Learning. kdd2022 Connecting Low-Loss Subspace for Personalized Federated Learning. kdd2022 Communication-Efficient Robust Federated Learning with Noisy Labels. kdd2022 FLDetector: Defen
[学习笔记]重新评估生产联邦学习中的梯度泄漏攻击
m0_71291382的博客
08-20 673
对论文中重新评估生产联邦学习中的梯度泄露攻击的危害进行学习整理
【学习笔记】适可而止：生产联邦学习中针对梯度泄漏的自适应防御
m0_71291382的博客
08-19 548
零基础小白对《More than Enough is Too Much: Adaptive Defenses against Gradient Leakage in Production Federated Learning》一文的学习与理解
联邦学习（FL）可以在不需要原始数据暴露的情况下，在多个客户之间进行协作模型训练。然而，最近的研究表明，客户的私人训练数据可以从他们在FL中共享的梯度中重建，称为梯度反演攻击（GIAs）。虽然GIAs
qq_39472939的博客
04-22 601
联邦学习（FL）可以在不需要原始数据暴露的情况下，在多个客户之间进行协作模型训练。然而，最近的研究表明，客户的私人训练数据可以从他们在FL中共享的梯度中重建，称为梯度反演攻击（GIAs）。虽然GIAs在理想设置和辅助假设下证明了有效性，但它们对实际FL系统的实际有效性仍未得到充分探索。为了解决这一差距，我们在本研究中对GIAs进行了全面的研究。我们从对GIAs的调查开始，它建立了一个里程碑来追踪它们的进化，并发展了一种系统化的方法来揭示它们固有的威胁。具体来说，我们根据现有GIAs对潜在对手的实际可访问性，
POI Recommendation with Federated Learning and Privacy Preserving in Cross Domain Recommendation
Guozyan的博客
04-03 347
商圈、LDA模型，用于为文档生成主题分布，是一个词袋模型。同态加密（用来保护用户隐私，并且支持加密数据的运算而无需解密）。
6种典型攻击
qq_61694719的博客
10-15 1753
梯度反演攻击的主要思想是利用模型训练过程中交换的梯度信息，通过优化技术重建出参与训练的原始数据。是一种针对人工智能（AI）系统的训练数据进行恶意篡改的行为，其目的是让训练出的AI模型在预测时产生错误的输出，从而影响模型的决策和性能。模型内存泄漏是指在模型训练过程中，由于不正确的内存管理，导致内存无法释放，进而影响训练效率和模型性能的问题。尽管已有一些防御方法被提出，但梯度反演攻击的研究仍然在不断进展，攻击者可能会开发出新的攻击技术来绕过现有的防御措施。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值