联邦推荐系统相关论文创新点总结

最新推荐文章于 2025-05-09 22:50:39 发布

原创

最新推荐文章于 2025-05-09 22:50:39 发布 · 3.1k 阅读

50 ·

CC 4.0 BY-SA版权

文章标签：

#联邦学习 #深度学习 #推荐系统 #联邦推荐系统

FD-GATDR: A Federated-Decentralized-Learning Graph Attention Network for Doctor Recommendation Using EHR

本文的主要内容是基于电子健康记录（EHR）构建了一个医生推荐系统。该系统通过分析患者的EHR历史，提供个性化的医生推荐，以改善医疗系统的运行效率和发展远程医疗服务。为了解决数据异构性和数据隐私的挑战，文中提出了一个基于图注意力网络的分布式学习算法。该算法通过构建一个包含不同类型节点和边的异构图，从EHR数据中提取结构化信息，并在保护数据隐私的前提下进行模型训练和推荐。

本文最主要的创新点是什么？

1.提出了一种联邦去中心化学习图注意网络（FD-GATDR），用于基于电子健康记录（EHR）的医生推荐，该网络能够提取EHR数据中的异构结构信息，以提高推荐性能。
2.在FD-GATDR中，提出了一种异构图注意网络（HGAT），考虑了时间敏感性和节点异构性，以更好地表示患者、医生和服务。
3.针对医院之间数据共享的隐私问题，提出了一种联邦去中心化学习算法，以满足隐私要求，同时提高客户端模型的性能。
4.通过实验证明，所提出的图模型可以比其他基线模型实现更好的性能。同时，联邦去中心化学习算法可以实现与全局训练相当的性能。

FedRule: Federated Rule Recommendation System with Graph Neural Networks

本文主要介绍了一种基于图神经网络的联邦规则推荐系统，针对智能物联网系统中规则推荐问题提出了一种新的解决方案。文章首先介绍了传统的规则推荐系统存在的问题，包括隐私和安全问题，以及传统推荐系统无法充分考虑实体结构的局限性。然后提出了基于图结构的规则推荐系统，并介绍了联邦学习在规则推荐中的应用。最后，对提出的方法进行了实验评估，展示了其在智能家居规则数据集上的有效性。

本文最主要的创新点是什么？

提出了一种新的基于图结构的规则推荐框架——GraphRule，使用图的形式表示用户的多个实体（例如智能设备）及其之间的关联规则，而不是传统的用户-项目矩阵。
提出了一种有效的联邦学习系统——FedRule，可以在保护用户数据隐私的情况下，从有限的非独立同分布（Non-IID）数据中快速收敛并学习到有用的规则推荐模型。
通过广泛的实证研究，证明了所提议的GraphRule结构和FedRule算法的有效性。FedRule算法能够达到与集中式版本（GraphRule）相同的性能，这归功于其减小方差的机制。

FedGR: Federated Graph Neural Network for Recommendation Systems

本文主要介绍了一种名为FedGR的推荐系统框架，该框架基于社交推荐、图神经网络和隐私保护推荐领域的研究，并提出了一种新的联邦学习算法来处理推荐系统中的隐私保护问题。该框架结合了用户行为数据和社交关系信息，利用图神经网络学习用户和物品的向量表示，并通过联邦学习算法实现模型参数的聚合和更新。作者还介绍了FedGR中的一些关键算法和模块，以及对一些超参数进行了分析和实验验证。

本文最主要的创新点：

提出了一种联邦图神经网络推荐系统（FedGR），将图神经网络（GNN）、联邦学习和隐私保护技术相结合，提高了推荐性能。
在用户模型中，引入了图注意网络（GAT）辅助用户从社交关系图和历史项目图中学习隐式向量表示。
为了保护数据隐私，采用了灵活的数据隐私保护方法，结合了传统密码加密技术和所提出的“噪声注入”策略，使FedGR在确保数据隐私的同时最大程度地减少了推荐性能的损失。
展示了一种在联邦学习范式下的推荐模型不同学习范式。

这些创新点使得FedGR在两个公开可用的流行数据集上验证，实验结果表明，与以前的工作相比，FedGR减少了MAE和RMSE，证明了其合理性和有效性。

FedRecAttack: Model Poisoning Attack to Federated Recommendation

本文介绍了一种针对联邦推荐系统的模型污染攻击——FedRecAttack，该攻击利用公共交互信息来近似用户特征向量，进而生成恶意梯度并控制恶意用户上传到中央服务器。攻击旨在提高目标项目的曝光率，本文在三个真实数据集上进行了广泛的实验来评估FedRecAttack的有效性和副作用，结果表明FedRecAttack取得了最先进的有效性，副作用可以忽略。

本文最主要的创新点：

提出了FedRecAttack，这是一种针对联邦推荐（FR）的模型投毒攻击，旨在提高目标项目的曝光率。通过利用公共交互来近似用户的特征向量，从而生成投毒梯度并控制恶意用户上传投毒梯度。
通过在三个来自两个完全不同场景的真实世界数据集上进行大量实验，评估了FedRecAttack的有效性和副作用。实验结果表明，所提出的FedRecAttack具有最先进的有效性，而其副作用可以忽略不计。
即使恶意用户比例（3%）和公共交互比例（1%）较小，FedRecAttack仍然非常有效，这表明FR比通常认为的更容易受到攻击。

FedCT: Federated Collaborative Transfer for Recommendation

CCF-A SIGIR 21

本文的主要内容是介绍了一种名为FedCT的推荐系统模型，该模型通过联邦学习和迁移学习的方式解决了分布式推荐系统中的问题。文章首先介绍了边缘协作推荐（Edge-CDR）问题及其相关领域，然后提出了一种基于用户嵌入迁移学习的模型，并详细说明了其限制。接着，文章介绍了DUE模型及其优化框架，并在实验部分展示了模型的性能结果。最后，文章总结了研究的主要发现并讨论了未来的研究方向。

本文最主要的创新点：

提出了一种新的跨域推荐问题（Edge-CDR），它在去中心化边缘/移动计算环境中重新定义了跨域推荐问题，同时包括用户和域在跨域控制中。
通过维持边缘设备上的去中心化用户编码（DUE），解决了间接跨域传输和异构跨域用户表示的挑战。
将解决方案描述为一个联邦变分推断框架，并在大规模实际数据集上证明其有效性。
证明该框架在与域对域传输方法相比时具有较高的效率，并且对域卸载/插入具有很好的灵活性。

Fine-Grained Preference-Aware Personalized Federated POI Recommendation with Data Sparsity

本文主要介绍了一种细粒度偏好感知的个性化联邦POI推荐框架PrefFedPOI。该框架旨在解决POI推荐中的数据稀疏性、用户偏好的时效性和隐私保护等挑战。具体包括在每个客户端提取细粒度偏好、设计性能增强的聚类机制以及个性化更新本地参数等步骤。在实验中，PrefFedPOI在两个真实世界数据集上表现优异，比现有方法取得了更好的性能。

CCF-A SIGIR23

本文最主要的创新点

提出了一种细粒度偏好感知的个性化联邦POI推荐框架（PrefFedPOI），以解决时间敏感偏好、异构性和数据稀疏性问题。
在每个客户端提取细粒度时间槽偏好，通过结合历史近期偏好和周期偏好来推荐下一个POI，同时考虑数据稀疏性。
设计了一种数据量感知的选择策略，只允许具有足够数据的客户端上传参数和偏好。
基于融合偏好表示对客户端进行聚类，以减轻异构性并增强正向知识传递。
采用了一种增强聚类机制，利用强化学习来提高基于聚类的POI推荐性能。
提供了一种高效的聚类方法，通过教师网络引导策略网络进行聚类，以加速训练过程。

Efficient-FedRec: Efficient Federated Learning Framework for Privacy-Preserving News Recommendation

本文主要介绍了一种名为Efficient-FedRec的隐私保护新闻推荐的有效联邦学习框架。该框架将新闻推荐模型分解为由服务器维护的大型新闻模型和轻量级用户模型。用户通过请求新闻表示和用户模型并使用本地数据计算梯度来参与模型训练，服务器对梯度进行聚合以更新用户模型和新闻模型，从而实现模型更新和新闻表示的推理。作者还介绍了在数据集中的用户信息保护，以及对框架进行的实验和分析。

EMNLP-2021 CCF-B

本文最主要的创新点

提出了一种有效且高效的安全聚合协议，以保护模型训练中用户隐私。
在两个真实世界数据集上进行了详尽的实验，以验证方法的有效性和效率。
提出了一种高效的联邦学习框架，用于保护隐私的新闻推荐，可以有效降低用户端的计算和通信成本。

PipAttack: Poisoning Federated Recommender Systems for Manipulating Item Promotion

WSDM-2022 CCF-B
本文主要介绍了一种名为PipAttack的新型毒化攻击模型，针对去中心化的联邦推荐系统进行攻击。作者首先阐述了联邦推荐的基本设置，并正式定义了研究问题。然后详细介绍了他们提出的PipAttack方法，并使用两个真实世界的数据集进行了实验评估。作者通过实验回答了五个研究问题，包括PipAttack能否有效地在联邦推荐系统上进行毒化攻击、PipAttack是否显著损害了联邦推荐系统的推荐性能、PipAttack如何从每个关键组件中获益、超参数对PipAttack的影响以及PipAttack能否绕过服务器端部署的防御策略。此外，作者还介绍了PipAttack的关键组件，并总结了他们的主要贡献，包括设计了三个学习目标来实现攻击目标，提出了一种新颖的攻击框架，填补了联邦推荐系统中对促进项目的攻击方法研究的空白。

本文最主要的创新

提出了PipAttack（Poisoning Federated Recommender Systems for Manipulating Item Promotion），这是首个针对联邦推荐系统的系统性投毒攻击方法，其中攻击者仅具有有限的先验知识。
设计了三个创新的攻击目标：显式推广、受欢迎度混淆和距离约束，使攻击模型能够通过更少的模型更新实现攻击目标，同时避免对联邦推荐器的用户体验造成损害。
通过实验证明了PipAttack在两个真实世界数据集上的优越性和实用性，即使在服务器端部署了防御策略，PipAttack仍然具有优越的性能。
揭示了联邦推荐系统中存在的安全漏洞，引起了对联邦推荐器安全性的关注，并为设计更先进的防御策略提供了依据。

Federated Unlearning for On-Device Recommendation

WSDM-2023 CCF-B

本文主要介绍了一个名为FRU的方法，用于在联邦学习框架下的推荐系统中实现用户数据的删除。FRU方法的核心思想是通过回滚历史参数更新并对其进行校准来消除用户的贡献，然后使用这些更新来加速联邦推荐器的重建。为了在资源受限的个人设备上存储所有历史参数更新，作者提出了一种基于重要性的更新选择策略和一种新颖的负采样方法。实验结果表明，FRU可以有效地消除被攻击用户的影响，并以7倍的速度加快了重建联邦推荐器的过程。

本文主要的创新点：

首次研究了联邦推荐系统中的机器忘记，使联邦推荐系统能够有效地删除特定用户/客户端的影响，并在恢复过程中实现高效恢复。
提出了一种高效的联邦推荐忘记方法（FRU），受到数据库管理系统事务中基于日志的回滚机制的启发，通过回滚和校准历史参数更新移除目标用户的贡献，然后使用这些更新加速联邦推荐器重建。
针对在资源受限的个人设备上存储所有历史参数更新的挑战，提出了一种小尺寸负采样方法来减少项目嵌入更新的数量，以及一种基于重要性的更新选择机制来仅存储重要的模型更新。
通过一个攻击方法，使用一组受损用户来干扰联邦推荐器，然后使用FRU恢复推荐器，消除这些用户的影响。
在两个真实世界的推荐数据集（即MovieLens-100k和Steam-200k）上进行了大量实验，使用两种广泛使用的联邦推荐器来展示所提出方法的效率和有效性。

UA-FedRec: Untargeted Attack on Federated News Recommendation

KDD-23 CCF-A
本文主要研究了联邦学习下的新闻推荐系统的安全性问题。作者提出了一种名为UA-FedRec的攻击方法，通过对新闻相似度和用户模型进行扰动，有效地破坏了模型的性能。作者在两个真实数据集上进行了实验，并证明了UA-FedRec的有效性。此外，作者还讨论了一些可能的防御方法，并探讨了潜在的研究方向。

本文最主要的创新点

首次研究了针对联邦新闻推荐的非定向攻击。
提出了一种高效的非定向攻击方法UA-FedRec，只需要少量恶意客户就能显著降低模型性能，从而更具实际性。
通过设计新闻相似性扰动、用户模型扰动和数量扰动等方法，全面干扰新闻相似性建模、用户建模和放大恶意更新的影响。
在两个真实世界数据集上的大量实验证明了 UA-FedRec 的有效性，即使在防御措施应用时也能降低现有联邦新闻推荐方法的准确性。
本研究揭示了现有联邦新闻推荐系统中的关键安全问题，并呼吁研究者在这一问题上做出努力。

Vertical Federated Linear Contextual Bandits

本文主要研究了在垂直联邦设置中构建在线泛学术类文献阅读助手的问题。文章首先介绍了垂直联邦设置中的隐私保护挑战，并提出了一种名为O3M的隐私增强技术来解决这个问题。然后，文章详细介绍了垂直联邦线性上下文推荐算法的设计和实现过程。最后，文章通过实验验证了该算法在保护隐私的同时提供了良好的推荐性能。

本文最主要的创新点

提出了一种新的问题设定：垂直联邦上下文赌博机（Vertical Federated Contextual Bandits,
VFCB），用于在垂直联邦设置下解决上下文赌博机问题。
设计了一种名为O3M（Orthogonal Matrix based MaskMechanism）的隐私保护机制，该机制通过使用正交矩阵对用户上下文信息进行加密，实现了在保护隐私的同时进行有效推荐的目标。
将O3M应用于两种常用的上下文赌博机算法（LinUCB和LinTS），实现了两种实用的协议（VFUCB和VFTS），适用于现实世界的推荐任务。
通过对合成数据集和真实世界数据集的综合实证研究，证明了所提出的协议在保证理论隐私保护的同时，具有与集中式赌博机相似的运行效率和推荐性能。
总之，本文通过引入O3M隐私保护机制，实现了在垂直联邦设置下的上下文赌博机问题，为保护隐私的推荐系统提供了一种有效的解决方案。

Vertical Federated Graph Neural Network for Recommender System

CCF-A ICML-2023
本文主要介绍了一种称为VerFedGNN的垂直联邦图神经网络推荐系统。传统的推荐系统需要使用集中式数据库来训练推荐模型，但是由于数据隐私的问题，在涉及多方的推荐系统训练中，这种方法通常是不可行的。联邦学习成为了解决数据隔离和隐私问题的一个很好的解决方案。最近，图神经网络（GNN）在联邦推荐系统中变得越来越有前景。然而，一个关键的挑战是在保护图结构的隐私的同时进行嵌入传播。目前关于联邦GNN推荐系统的研究还很少。本研究提出了第一个垂直联邦GNN推荐系统VerFedGNN。我们设计了一个框架来传输：（i）使用随机投影对邻居嵌入的求和，以及（ii）通过三元量化机制扰动的公共参数的梯度。实证研究表明，VerFedGNN在保护用户互动信息的隐私方面具有竞争力的预测准确性，同时增强了隐私保护。