On the User Behavior Leakage from Recommender System Exposure

ACM TOIS 2023
代码链接
系统暴露：用户的当前推荐项目列表。

对推荐系统进行攻击也就是说根据用户当前推荐项目列表输出用户的历史行为。

论文试图解决什么问题？

本文试图解决的问题是：在推荐系统中，用户历史行为隐私是否可以从系统暴露数据中推断出来？为了回答这个问题，作者提出了一个攻击模型来执行用户隐私推断。实验结果表明，隐私泄露的危险非常大。为了降低隐私风险，作者提出了一种保护机制。实证评估表明，推荐准确性与隐私泄露风险之间存在权衡效应。

这篇论文最主要的创新在什么地方？

• 提出了一种新的攻击模型，通过系统暴露数据推断用户历史行为隐私。该模型采用了编码器-解码器架构，使用了三种不同的编码策略（平均池化、最大池化和自注意力编码），并提出了两种解码策略（点对点解码和序列解码）来推断用户过去行为的隐私。
• 实验结果显示，在两个真实世界数据集上，用户行为隐私泄露的危险非常大。这说明推荐系统中确实存在用户行为隐私泄露的风险。
• 提出了一种保护机制，通过在暴露的项目集合中加入随机项目来降低隐私泄露风险。该机制分为两个阶段：位置选择和项目替换。首先，根据随机或项目相似性选择暴露位置；然后，在相应的位置上用均匀或受欢迎的项目替换暴露的项目。实验证明，推荐准确性与隐私泄露风险之间存在权衡效应。
• 本文提供了一个新的视角，关注推荐系统行为数据的攻击和保护，而不仅仅是关注用户角度。相较于稀疏的用户历史行为，大量的系统暴露数据受到的关注较少。通过本文的研究，希望引起更多关于保护推荐系统行为数据的社区关注。

这篇论文的主要研究方法是什么？

这篇文章的主要研究方法包括以下几点：