《联邦学习实战》杨强 读书笔记二——联邦学习概述

最新推荐文章于 2025-10-16 07:05:57 发布
原创 最新推荐文章于 2025-10-16 07:05:57 发布 · 1.8k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #人工智能 #深度学习 #神经网络 #pytorch

本文探讨了联邦学习的基本定义，包括其分类依据数据样本和特征空间的关系，以及按协调方式划分的集中式和对等网络。重点介绍了横向、纵向和迁移联邦学习的应用场景，并深入解析了联邦学习的性能损失定义，以及其在数据隐私保护方面的优势。

目录

 

联邦学习的定义

联邦学习的分类

按照数据样本空间以及特征空间的关系

根据协调方式

联邦学习的定义

联邦学习是利用分散在各参与方的数据集，通过隐私保护技术融合多方数据信息，协同构建全局模型的一种分布式训练方式。

在Federated Learning中概述的、关于联邦学习描述的一些共同特征，可以概括为：

  1. 有两个(或以上)的联邦学习参与方协作构建一个共享的机器学习模型。 每一个参与方都拥有若干各自希望能够用来训练模型的训练数据。
  2. 在联邦学习模型训练过程中，每一个参与方拥有的数据都不会离开该参与方,即数据不离开数据拥有者。
  3. 与模型相关的信息(如模型参数、模型结构、参数梯度等)能够以加密方式在各方之间传输和交换，并且需要任何一个参与方在接收到这些信息时都不能推测出其本地的原始数据。
  4. 联邦学习模型的性能要能够充分逼近理想模型(理想模型是指通过将所有训练数据集中在一起并训练获得的机器学习模型)的性能。
  5. 联邦学习模型的构建不影响客户端设备的正常使用，即客户端在本地训练的过程中，应能够保证该设备其他进程的正常运行(如控制CPU占用率、内存使用率等)。

下面给出联邦学习的定义。设当前有N位数据拥有者共同参与训练，记为\{\mathcal{F}_i\}^N_{i=1}，他们各自拥有的数据集分为\{\mathcal{D}_i\}^N_{i=1}。传统的训练方法是将所有参与方的数据\{\mathcal{D}_i\}^N_{i=1}收集起来，存储在中心服务器中，并在该服务器上使用集中后的数据集训练一个机器学习模型\mathcal{M}_{SUM}。这种训练范式也被称为

最低0.47元/天 解锁文章
联邦学习与联邦数据库的结合：AI原生应用的数据治理
AI天才研究院
07-13 738
随着《个人信息保护法》《数据安全法》等法规落地，以及医疗、金融等敏感行业对数据本地化的强制要求，“数据不能出域”成为AI训练的新约束。传统“数据搬家”的集中式训练模式（把分散数据拉到中心服务器训练）已无法满足合规要求，而AI原生应用（如智能医疗诊断、银行反欺诈模型）又亟需跨机构、跨设备的协同数据能力。本文将聚焦“联邦学习”与“联邦数据库”的技术融合，探讨如何在不移动原始数据的前提下，实现AI模型的协同训练与数据的高效治理。
联邦学习在金融风控中的应用：3个真实案例与效果分析
AIGC应用创新大全的博客
07-11 1031
联邦学习如何解决传统风控中的"数据孤岛"与"隐私泄露"矛盾？真实业务中，联邦学习能带来哪些具体的风控能力提升？覆盖场景包括：联合反欺诈、跨机构信用评分、异常交易检测，适用于金融科技从业者、风控模型工程师及对隐私计算感兴趣的技术爱好者。核心概念：用"私房菜交流会"类比联邦学习技术原理：用Python伪代码拆解联邦平均算法3个真实案例：银行、消金、保险的风控实战效果对比：模型准确率、训练成本等量化数据联合反欺诈（横向联邦）：跨机构识别"一人多贷""设备群控"等团伙欺诈；联合信用评分。
干货|杨强教授联邦学习公开课视频及问答整理
FedAI联邦学习的博客
04-21 3971
​4月13日，咱们微众银行首席人工智能官杨强教授也做客雷锋网，结合最新发布的《联邦学习白皮书v2.0》，对联邦学习研究与应用价值展开了最前沿的讨论和分享。这是雷锋网《金融联邦学习公开课》第一期。这一系列课程将为金融界和人工智能界，输出最前沿、最具实用价值的联邦学习线上系列课。 作为当前人工智能尤其是AI金融领域，最受工业界和学术界关注的研究方向之一。联邦学习有哪些前沿研究与应用？欢迎戳下方视...
联邦学习项目实战：Data-Science-Gen-AI-Playlist-2024隐私保护方案
最新发布
gitblog_00835的博客
10-16 244
当医疗数据、教育记录等敏感信息在模型训练中直接使用时，87%的企业正面临合规风险与数据泄露威胁。联邦学习（Federated Learning）作为分布式AI训练范式，让数据"只训练不共享"，在保护隐私的同时实现模型共建。本文将基于[student_score_prediction.md](https://link.gitcode.com/i/2c4f8253d532970d6bb5330c61e...
CCF-微众银行-杨强-AI向善，数据孤岛和联邦学习.pdf
02-09
微众银行-杨强-AI向善，数据孤岛和联邦学习。转自CCF，网址：https://dl.ccf.org.cn/lecture/lectureDetail?id=4340567999891456
联邦学习-杨强
freya0112的博客
03-24 1148
数据不动模型动 按样本分割（参数的沟通）（横向）特征相同，样本不同 在各自本地建模:wi 在本地对模型Wi加密·[Wi] 上传本地加密的模型[[Wi]] 在服务器端整合上传的加密的模型:W=F(IIWi]], i=1,})2,... 下传W到各个终端 在各自本地，利用W对Wi更新 同态加密 纵向：特征不同，样本重叠 发送公钥 交换中间结果 计算梯度和损失 更新模型 联邦学习:数据不动，模型参数动（加密）。
【阅读记录】《联邦学习》杨强
furoto_的博客
11-27 1726
《联邦学习》作者：杨强。阅读笔记
领域偏见缓解创新：AI原生应用中的联邦学习应用
SuperAGI2025
09-28 321
在AI原生应用（以AI为核心设计的软件）中，模型效果常因"领域偏见"（不同数据源特征分布差异）大幅下降：医院A的肿瘤检测模型在医院B可能误诊，电商平台的用户推荐系统换个城市就"水土不服"。本文聚焦这一痛点，深入解析联邦学习（Federated Learning）如何通过"数据不动模型动"的创新模式，在保护隐私的同时缓解领域偏见，推动AI原生应用从"单域专用"向"多域通用"进化。用奶茶店的故事引出领域偏见痛点；拆解联邦学习核心概念与运行原理；通过跨医院肿瘤检测实战演示技术落地；
联邦学习+GPT：隐私保护的AI原生应用开发
AI大模型应用之禅
05-11 923
随着《个人信息保护法》《GDPR》等法规的普及，直接收集用户数据训练AI模型已“举步维艰”。但以GPT为代表的大语言模型需要海量数据才能“变聪明”，这对矛盾如何解决？本文将聚焦“联邦学习+GPT”的技术组合，讲解其核心原理、实现方法及在隐私保护AI应用中的实战价值，覆盖技术原理、代码实现、场景落地全链路。本文将从“生活故事”切入，用“社区图书馆”比喻联邦学习，用“超级知识管家”比喻GPT，讲解两者如何合作；接着用代码+数学公式拆解核心原理；最后通过“智能客服”“医疗问诊”等实战场景，带您看到技术如何落地。
【联邦学习】杨强教授联邦学习公开课视频及问答整理
热门推荐
一定要站在自己热爱的生活里闪闪发光
11-09 2万+
​4月13日，咱们微众银行首席人工智能官杨强教授也做客雷锋网，结合最新发布的《联邦学习白皮书v2.0》，对联邦学习研究与应用价值展开了最前沿的讨论和分享。这是雷锋网《金融联邦学习公开课》第一期。这一系列课程将为金融界和人工智能界，输出最前沿、最具实用价值的联邦学习线上系列课。 作为当前人工智能尤其是AI金融领域，最受工业界和学术界关注的研究方向之一。联邦学习有哪些前沿研究与应用？欢迎戳下方视频回顾精彩回放，同时直播PPT内容也上传到了我们公众号【FATE开源社区】（戳我前往查看PPT课件） 视频链接h.
联邦学习-杨强1
08-04
背景回顾2016 年是人工智能在世界范围内真正星光闪耀的一年。伴随着 AlphaGo 接连战胜两位人类顶尖围棋职业选手，我们看到了人工智能迸发出的真正的巨大潜力
联邦学习白皮书_v1.0.pdf
04-27
如何在满足数据隐私、安全和监管要求的前提下，设计一个机器学习框架，让人工智能 系统能够更加高效、准确的共同使用各自的数据，是当前人工智能发展的一个重要课题。我们倡议把研究的重点转移到如何解决数据孤岛的问题。我们提出一个满足隐私保护和数据安 全的一个可行的解决方案，叫做联邦学习。
联邦学习与人工智能.pdf
07-11
联邦学习与人工智能.pdf
《联邦学习实战》杨强 读书笔记一——前言
IEEE802_11的博客
05-28 815
AI的力量来自大数据，在现实中能获取的往往是少量数据，例如： 在法律领域，获取一个完整的案例样本往往需要很多的时间和资源 在金融领域，在风控建模中，如果把反洗钱案例看成正样例，那么这也的正样例数据非常珍贵。 在医疗领域，对于罕见疾病，能获得的病例数据少之又少。 而在相关技术使用的过程中，一方面人工智能和大数据技术为人类的发展提供了光明的前景和技术保障；另一方面，人类自身的权益保护又限制了数据按照粗放方式进行简单的汇聚。 在这种背景下，联邦学习应运而生。联邦学习的目的是，不管在面对单个消费者的to C
教授专栏51 | 杨强: 联邦学习的隐私保护与模型的知识产权保护 (机器智能研究MIR)...
HKUSTchinaoffice的博客
03-16 510
杨强教授简介杨强教授，加拿大皇家科学院及加拿大工程院两院院士，微众银行首席人工智能官，香港科技大学计算机与工程系讲座教授和前系主任，AAAI-2021大会主席，国际人工智能联合会（IJCAI）理事会前主席，香港人工智能与机器人学会（HKSAIR）理事长，智能投研技术联盟（ITL）主席，ACM TIST 和IEEE TRANS on BIG DATA创始主编，CAAI，AAAI，ACM，IEEE，A...
对话杨强：联邦学习的落地，沟通协调和模型训练一样重要
BigDataDigest的博客
07-31 551
大数据文摘出品 编辑：曹培信 7月20日上午，上海市北·GMIS峰会迎来了第一位演讲嘉宾——微众银行首席人工智能官，国际人工智能学会理事长，香港科技大学教授杨强。杨强教授是国际人工智能界“迁移学习”技术的开创者”，同时提出“联邦学习”的研究新方向。 杨强教授演讲的主题是：“用户隐私、数据孤岛和联邦迁移学习”。 杨教授首先介绍了目前AI面临的两大挑战：数据孤岛和隐私保...
[CCF-GAIR 2020]联邦学习下的数据价值与模型安全-杨强
feng_zhiyu的博客
08-12 1160
文章首发于 https://yu-feng.top/archives/6/，转载请复制此条。 写在前面 很高兴有机会去到了现场参加CCF-GAIR 2020 全球人工智能和机器人峰会， ​ 先简单贴下介绍，8月7日-8月9日，2020年全球人工智能和机器人峰会（简称“CCF-GAIR 2020”）在深圳举办！CCF-GAIR由中国计算机学会（CCF）主办，香港中文大学（深圳）、雷锋网联合承办，鹏城实验室、深圳市人工智能与机器人研究院协办，以“AI新基建 产业新机遇”为大会主题，致力打造国内人工智能和
《联邦学习实战》杨强 读书笔记八——联邦学习在金融保险领域的应用案例
IEEE802_11的博客
07-08 1908
本章将介绍两个案例，分别是基于纵向联邦的保险个性化定价案例和基于横向联邦的银行间反洗钱模型案例。 基于纵向联邦学习的保险个性化定价案例 案例描述 保险个性化定价，与其他个性化服务一样，需要平衡保险公司和客户之间的关系。一方面，消费者会根据自身的需求选择符合个人的产品；而另一方面，为了提高客户满意度，保险公司也需要具备扎实的数据洞察力基础。 但保险业的个性化定价却受到很多因素的制约，导致其模型的构建往往不准确，其中主要的难点在于数据层面。对保险进行个性化定价，需要结合每一位客户的特征属性，但是客户的数
《联邦学习实战》杨强 读书笔记完整版
03-18
### 关于《联邦学习实战》一书的详细解读 #### 联邦学习的核心概念 联邦学习是一种分布式机器学习技术，能够在保护数据隐私的前提下实现模型训练。书中提到，当多个参与者的数据特征相同时，可以通过横向联邦学习来增加训练样本的数量[^2]。这种模式被称为特征对齐的联邦学习（Feature-Aligned Federated Learning）。而纵向联邦学习则适用于不同参与者拥有不同的数据特征但部分重叠的情况。 #### 书籍结构概述 虽然未提供具体章节内容，但从已知资料可以推测，《联邦学习实战》可能涵盖了以下几个方面： 1. **基础理论**：介绍联邦学习的基本原理及其与其他分布式学习方法的区别。 2. **应用场景**：探讨联邦学习在金融、医疗、广告等多个行业的实际应用案例。 3. **算法设计**：深入讲解如何构建高效的联邦学习算法以及优化策略。 4. **安全机制**：分析保障数据隐私的技术手段，如差分隐私和同态加密等。 以下是基于上述理解的一个简化版总结： ```python class FederatedLearning: def __init__(self, type="horizontal"): self.type = type def train(self, data): if self.type == "horizontal": # 增加样本量的方式进行联合建模 result = sum(data.values()) / len(data) elif self.type == "vertical": # 结合不同维度的信息完成预测任务 features = list(set().union(*data.values())) result = {feature:0 for feature in features} return result ``` 此代码片段仅作为示意用途，并不代表真实实现逻辑。 #### 数据特性与实践技巧 对于希望深入了解该领域的人来说，除了掌握基本定义外还需要注意一些实用建议。例如，在执行过程中要特别关注通信成本控制问题；另外就是针对特定行业需求定制解决方案的重要性不可忽视。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

超威橘猫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值