联邦学习-

原创 已于 2022-11-02 16:02:09 修改 · 704 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

于 2022-10-26 20:38:21 首次发布
博客介绍了联邦学习，它是分布式机器学习技术，目的是在保障数据隐私等基础上合作训练模型。提到横向、纵向、迁移联邦学习，着重阐述了梯度泄露，包括 Generator、DLG 等攻击类型，还介绍了梯度干扰、数据扰动等防御类型。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

联邦学习：本质上是一种分布式机器学习技术，或机器学习框架
目的：确保数据隐私、安全和合法合规的基础上，实现合作训练模型，提高人工智能模型的效果

  • 横向联邦学习
  • 纵向联邦学习
  • 迁移联邦学习
    在这里插入图片描述

梯度泄露

攻击手段：
在这里插入图片描述
攻击类型：
在这里插入图片描述

Generator：生成器
Discrimination：判别器
DLG ： deep leakage from gredients 梯度泄露
GRNN： generative regression neural network 生成回归神经网络

防御类型：
在这里插入图片描述
梯度干扰：加噪音、降低计算精度、剪枝
数据扰动：混淆、净化

联邦学习攻击与防御综述
weixin_45585364的博客
10-24 4893
联邦学习攻击与防御综述吴建汉1,2,司世景1,王健宗1,肖京11.平安科技（深圳）有限公司，广东深圳5180632.中国科学技术大学，安徽合肥230026摘要：随着机器学习技术的广泛应用，数据安全问题时有发生，人们对数据隐私保护的需求日渐显现，这无疑降低了不同实体间共享数据的可能性，导致数据难以共享，形成“数据孤岛”。联邦学习可以有效解决“数据孤岛”问题。联邦学习本质上是一种分布式的...
人工智能安全——联邦学习的安全攻击与防护
jazzbin的博客
01-03 1145
将多目标优化与联邦学习结合，是一种非常实用的方法。它不但能够具有理论保障地改善联邦学习的公平性，使得联邦学习在non-IID的场景下表现更佳，同时还能很好地抵御联邦学习的安全攻击。本文分享了一篇AAAI-2023的论文，它通过计算公平的模型更新方向，在一定程度上能够很好地抵御联邦学习的安全攻击，具有较高的鲁棒性和实用性。
联邦学习--数据攻击(1)
爱学习爱运动的专栏
12-18 1784
参考论文：Deep Leakage from Gradients
深入解析大语言模型的联邦学习技术
加入“Super Entity”，与全能开发团队共探AI智能体与数字人项目，开启前沿技术之旅。
05-06 1064
联邦学习是一种分布式机器学习方法，允许多个客户端（如设备或机构）在本地训练模型，并通过安全的通信协议将模型更新汇总到一个中心服务器上。中心服务器再将这些更新聚合，生成全局模型，并将其分发回各个客户端。这一过程重复进行，直到模型收敛。联邦学习是大语言模型训练中的重要技术之一，它通过分布式训练和数据隐私保护，解决了数据分散和隐私问题。本文详细介绍了联邦学习的基本概念、应用场景、实现方法、代码示例以及注意事项，并通过架构图和流程图帮助读者更好地理解整个过程。希望本文对您有所帮助！
联邦学习的推断攻击
学渣的博客
04-18 6201
什么是联邦学习 联邦学习是在多参与方或多计算结点之间开展高效率的机器学习框架，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私。 我们用一张图来描述联邦学习的流程： ...
联邦学习（FL）安全威胁
我的个人博客
08-11 5556
联邦学习（FL）安全威胁
联邦学习安全么？（数据攻击）
chen695539389的博客
08-30 2462
联邦学习的数据攻击方式 .整理有关联邦学习中数据攻击的几种方式
联邦学习-杨强1
08-04
联邦学习（Federated Learning）是一种分布式机器学习方法，由谷歌在2016年首次提出，主要为了解决数据孤岛问题和保护用户隐私。在传统的机器学习中，大量的数据需要集中在一个中心节点进行处理和建模，这在许多领域...
数据要素与联邦学习-数据安全
02-17
数据要素和联邦学习
联邦学习
喜欢打酱油的老鸟
01-23 3171
联邦学习的概念最初由谷歌在2016年提出，在中国，香港科技大学讲席教授、微众银行首席人工智能官（CAIO）杨强教授算是联邦学习研究第一人。之后包括微众银行、腾讯、平安科技、华为、京东等在内的国内企业和机构推动联邦学习进入了学术研究与行业落地新阶段。 联邦学习之所以能够在如此短的时间里迅速由一个构想变为一门学科，主要因为它可以让参与各方在不披露底层数据的前提下共建模型，之后利用整个数据联邦内...
ucb-cs联邦学习
最新发布
05-29
### UCB-CS在联邦学习中的应用与资料 加州大学伯克利分校（UCB）作为全球顶尖的研究机构之一，在计算机科学领域（CS）尤其是机器学习和分布式系统方面有着深厚的研究积累。尽管提供的引用中并未直接提及联邦学习（Federated Learning），但可以结合UCB-CS的研究方向、开源贡献以及相关领域的知识进行探讨。 #### 1. 联邦学习的背景 联邦学习是一种新兴的机器学习范式，旨在通过保护数据隐私的方式训练模型。其核心思想是让数据保留在本地设备上，仅将模型更新上传至中心服务器进行聚合[^5]。这种方法特别适合处理敏感数据，例如医疗记录或用户行为数据。 #### 2. UCB-CS在联邦学习中的研究 虽然引用未明确提到联邦学习，但UCB-CS在以下领域的工作为联邦学习提供了重要支持： - **分布式系统与优化**：UCB-CS在分布式计算和优化算法方面的研究成果可以直接应用于联邦学习中的模型训练过程。例如，UCB-CS对随机梯度下降（SGD）及其变体的研究有助于提高联邦学习的效率[^6]。 - **隐私保护技术**：联邦学习的一个关键挑战是确保数据隐私。UCB-CS在差分隐私（Differential Privacy）方面的研究为联邦学习提供了理论基础[^7]。 - **开源工具与框架**：UCB-CS积极参与开源社区，提供了多种工具和框架，这些工具可以被用于实现联邦学习系统。例如，基于RISC-V架构的开源仿真器Spike和QEMU可以用于模拟联邦学习环境中的设备行为[^2]。 #### 3. 实现联邦学习的技术要点 以下是联邦学习实现的关键技术要点： - **通信效率**：由于联邦学习涉及大量设备之间的通信，减少通信开销是一个重要问题。UCB-CS在压缩技术和量化方法上的研究可以有效降低通信成本[^8]。 - **模型聚合**：联邦学习需要在中心服务器上聚合来自多个设备的模型更新。UCB-CS在平均聚合算法（FedAvg）及其改进版本上的研究提供了高效解决方案[^9]。 - **隐私保护**：为了防止信息泄露，UCB-CS提出的差分隐私技术和加密算法可以确保模型更新的安全性[^7]。 #### 4. 教程与资源推荐 虽然引用中没有直接提及联邦学习教程，但以下资源可以帮助深入了解该领域： - **UCB-CS课程**：UCB-CS开设了多门关于机器学习和分布式系统的课程，这些课程的内容可以为联邦学习的学习提供基础[^10]。 - **开源项目**：TensorFlow Federated和PySyft等开源框架提供了联邦学习的实现示例，可以结合UCB-CS的研究成果进行实践[^11]。 ```python # 示例代码：使用TensorFlow Federated实现简单的联邦学习 import tensorflow_federated as tff import tensorflow as tf # 定义模型 def create_keras_model(): return tf.keras.models.Sequential([ tf.keras.layers.Input(shape=(784,)), tf.keras.layers.Dense(10, kernel_initializer='zeros'), tf.keras.layers.Softmax() ]) # 将Keras模型转换为TFF模型 def model_fn(): keras_model = create_keras_model() return tff.learning.from_keras_model( keras_model, input_spec=input_spec, loss=tf.keras.losses.SparseCategoricalCrossentropy(), metrics=[tf.keras.metrics.SparseCategoricalAccuracy()] ) ``` ###
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值