- 博客(5)
- 收藏
- 关注
原创 【论文阅读】Towards Fair Graph Federated Learning via Incentive Mechanisms
本文介绍了一种用于图联邦学习的公平激励机制,针对参与者自利性问题,通过综合模型梯度和回报分配,引入“模体原型”来优化本地模型,提高全局模型质量。代理的贡献通过梯度对齐和图多样性来衡量,并采用基于价值的全局模型聚合方法,确保各代理在联邦学习中的公平性和隐私保护。该方法激励代理朝全局目标优化,提升整体学习性能和公平性。
2024-09-11 16:44:11
2007
1
原创 【论文阅读】基于适配器的多语言神经机器翻译通信高效的联邦学习
联邦多语言神经机器翻译Fed-MNMT对于那些语言资源有限的机构已经成为了一种有前途的范式。
2024-08-20 22:20:14
1963
3
原创 【论文笔记】FedDAT:一种用于多模态异构联邦学习中基础模型微调的方法
引出背景:基础模型发展得很迅速,但是由于不同的法律法规,收集基础模型的训练数据还是具有一定的难度和挑战性通过联邦学习,可以在各个客户端协作训练神经网络,而不需要集中本地数据。来减轻客户端的计算负担和通信开销新出现的问题:以往的研究大多集中在单一模态上,而忽略了跨客户端的数据异构性的存在,为了解决这个新出现的问题,这篇论文提出了一个新的框架——联邦双适配器教师双适配器教师DAT通过正则化客户端本地更新和应用互相知识蒸馏来解决数据异构性问题经过实验证明,FedDAT的性能优于PEFT。
2024-08-03 18:40:55
2496
1
原创 【论文笔记】基础模型与联邦学习的协同:综述
Foundation Models的发展对很多行业已经产生了很多影响,Foundation Models包括大语言模型 Large Language Model多通道模型Multimodal models在预训练阶段,Foundation Models对于大容量数据的需求是很大的相比一般的Foundation Models,特定领域的Foundation Models需要专有的数据,但是由于隐私问题,在可用数据量问题方面提出了实际挑战。
2024-08-01 20:48:41
920
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人