PTUPCDR

最新推荐文章于 2025-01-10 15:56:29 发布

双子syl

最新推荐文章于 2025-01-10 15:56:29 发布

阅读量987

点赞数

CC 4.0 BY-SA版权

分类专栏：跨域推荐文章标签： python 人工智能

本文链接：https://blog.youkuaiyun.com/qq_42859088/article/details/125496817

跨域推荐专栏收录该内容

1 篇文章

订阅专栏

摘要

冷启动问题在推荐系统中仍然是一个非常具有挑战性的问题。幸运的是，辅助源域中的冷启动用户之间的交互可以帮助目标域中的冷启动建议。如何将用户的偏好从源域转移到目标域，是跨域推荐(CDR)中的关键问题，这是一个很有前途的解决冷启动问题的解决方案。大多数现有的方法都为所有用户传输首选项。直观地说，由于不同用户的偏好不同，所以不同用户的偏好桥应该是不同的。沿着这条线，我们提出了一个新的框架，名为跨域推荐用户偏好的个性化转移(ptupcdr)。具体来说，学习使用用户特征嵌入的元网络来生成个性化的桥接功能，以实现每个用户的个性化偏好转移。为了稳定地学习元网络，我们采用了一个面向任务的优化过程。通过元生成的个性化桥接功能，可以将用户在源域中的偏好嵌入转换为目标域，并将转换后的用户偏好嵌入作为冷启动用户在目标域中的初始嵌入。利用大型的真实数据集，我们进行了广泛的实验来评估ptupcdr在冷启动和热启动阶段的有效性。该代码可以在https://github.com/easezyc/WSDM2022-PTUPCDR上找到。

引言

跨域推荐(CDR)[25]旨在将知识从信息源域转移到目标域，是缓解冷启动问题的一种很有前途的解决方案。CDR的核心任务是连接用户在源域和目标域中的偏好，也称为偏好转移[37]。为了实现偏好转移，许多现有的CDR方法[4,9,16,39]假设所有用户在源域和目标域的用户偏好之间共享相同的关系，并学习所有用户共享的公共偏好桥，如图1(a)所示
在这里插入图片描述
在实践中，由于个体差异，源域和目标域的用户偏好之间的复杂关系因用户而异。因此，单个桥很难捕获如此复杂和不同的关系，这可能会降低这些CDR方法的性能。为了缓解这一缺点，有必要使用个性化的桥来建模不同领域的用户偏好之间的各种关系。换句话说，偏好转移的过程应该是个性化的。
沿着这条线，我们提出了一个新的框架，名为跨域推荐用户偏好的个性化转移(ptupcdr)。ptupcdr学习一个元网络，接收用户的源域中的特征嵌入作为输入，并为每个用户生成个性化的桥接，如图1(b).所示生成的桥函数可以看作是由学习元网络参数化的模型。需要注意的是，依赖于用户特征的个性化桥接功能因用户而异，因此偏好转移的过程是个性化的，它比现有的方法可以更好地捕获不同域之间的偏好关系。经过训练后，我们将源域中的用户嵌入输入到元生成的个性化桥接函数中，并得到转换后的用户嵌入。转换后的用户嵌入被用作目标域中的初始嵌入。通过初始嵌入，我们的方法对于在目标域中没有交互的冷启动用户是有效的。
在这里插入图片描述
在实践中，高级元网络很难优化[18,24]，而如何优化元网络是另一个挑战。为了学习桥的功能，现有的基于桥的方法[4,9,16,39]采用了面向映射的优化过程，直接最小化转换后的用户从信息源域的嵌入与用户在目标域的嵌入之间的距离。换句话说，通过这样的优化过程，桥接功能对用户嵌入的质量很敏感。在实际的推荐系统中，所有用户都很难学习合理的嵌入[21,42]，这限制了面向映射优化学习的桥函数的性能。此外，我们发现很难学习元网络具有面向映射的优化方法。因此，为了训练元网络，我们采用了一个面向任务的优化过程，它跳过了用户在目标域中的嵌入，并直接利用评级任务作为优化目标。文献[4,9,16,37,39]中现有的工作大多只是通过在极端冷启动阶段（用户在目标域没有交互）上应用于简单的基模型（矩阵分解）来证明其有效性。由于这些设置与现实世界的场景远远不同，我们进一步探索如何在更实际的场景中使用ptupcdr来验证ptupcdr在现实世界的推荐中的兼容性和实用性，例如，暖启动场景，更复杂的基础模型。实验结果表明，我们提出的ptupcdr在实际推荐中具有良好的兼容性和实用性。
我们的工作的主要贡献总结为三个方面：为了解决CDR中的冷启动问题，我们提出了一种名为ptupcdr的新方法，利用元网络，根据编码用户的特征，为每个用户生成个性化的桥函数。•为了稳定地学习元网络，我们采用了一个面向任务的优化程序来缓解不合理的用户嵌入的副作用。•我们使用Amazon审查数据集对三个跨域任务进行了广泛的实验，以证明ptupcdr不仅对冷启动场景和热启动场景的有效性和稳健性，而现有的方法仅证明了它们在冷启动场景中的有效性。

模型

在这里插入图片描述

问题设置

在CDR中，我们有一个源域和一个目标域。每个域都有一个用户集U={𝑢1，𝑢2，…}，一个项目集V={𝑣1，𝑣2，…}，和一个评级矩阵R。𝑟𝑖𝑗∈R表示用户𝑢𝑖和项目𝑣𝑗之间的交互。为了区分这两个域，我们将源域的用户、项目集和评级矩阵表示为U𝑠、V𝑠、R𝑠，而目标域表示为U𝑡、V𝑡、R𝑡。我们将这两个域之间的重叠用户定义为U𝑜=U𝑠∩U𝑡。相比之下，V𝑠和V𝑡是不相交的，这意味着这两个域之间没有共享项。
在潜在因子模型中，用户和项目被转换为密集的向量，也称为因子或嵌入。在本文中，，𝒖𝑑𝑖∈R𝑘和𝒗𝑑𝑗∈R𝑘分别表示用户𝑢𝑑𝑖和项目𝑣𝑑𝑗的嵌入，其中𝑘表示嵌入的维数，𝑑∈{𝑠，𝑡}表示域标签。对于每个用户𝑢𝑖，我们表示她的顺序交互项的列表源域由S𝑢𝑖={𝑣𝑠𝑡1，𝑣𝑠𝑡2，···，𝑣𝑠𝑡𝑛}，其中𝑛表示交互项的数量，𝑣𝑠𝑡𝑛表示时间戳𝑡𝑛下源域中交互的项。

特征编码器

生成个性化桥接功能的第一步是从交互的项目中获取用户的个性化可转移特征。但是，冷启动用户在目标域中没有交互项。因此，利用源域中的交互项S是非常必要的。请注意，我们需要找到有助于知识转移的可转移特征。直观地看，不同的项目对知识转移有不同的贡献。注意机制[33,38]允许不同的部分在压缩为单一表示时做出不同的贡献。因此，我们建议采用注意机制，进行加权和：
在这里插入图片描述

其中，𝒑𝑢𝑖∈R𝑘为用户𝑢𝑖的可转移特征嵌入，𝑎𝑗为𝑣𝑗项的注意力得分，可以解释为𝑣𝑗在预测个性化桥接功能中的重要性。对于目标域，一个不相关的项目对所有用户的个性化桥接功能几乎没有什么帮助。因此，我们通过注意力网络从项目的嵌入中学习注意得分。注意网络的形式定义为：在这里插入图片描述
其中，ℎ（·）为注意网络，𝜃为ℎ（·）的参数。本文认为，ℎ（·）是一种两层的前馈网络。请注意，标准化的注意力评分𝑎𝑗有助于为特定的用户找到有用的交互项目。之后，我们就可以利用每个用户的特征作为输入，来指导个性化桥接功能的生成。

元网络

我们已经提到，不同域的用户偏好之间的关系因用户而异。换句话说，偏好转移的过程需要是个性化的。直观上，偏好关系和用户特征之间存在一定的联系。基于这种直觉，我们提出了一个元网络，它以用户的可转移特征作为输入，然后在用户在源域和目标域中的嵌入之间生成一个个性化的桥接函数。所提出的元网络的表述为：在这里插入图片描述
其中，𝑔（·）为元网络，它是由𝜙参数化的元网络。本文认为，元网络是一种两层的前馈网络。𝒘𝑢𝑖是一个向量，其大小取决于桥接函数的结构。个性化的桥梁功能表述为：
它利用𝒘𝑢𝑖作为桥接函数𝑓（·）的参数。桥接功能可以定义为任何结构。在本文中，为了简单起见，我们在EMCDR[9,16]之后使用一个线性层作为𝑓（·）。因此，为了拟合桥参数的大小，我们将向量𝒘𝑢𝑖∈R𝑘2重塑为matrix𝒘𝑢𝑖∈R𝑘×𝑘。请注意，𝒘𝑢𝑖被用作桥接函数的参数，而不是输入。生成的桥功能取决于用户的特点，并因用户而异，我们称之为个性化桥功能。
通过个性化桥功能，我们可以获得个性化转换的用户嵌入：在这里插入图片描述
其中，𝒖𝑠𝑖表示用户𝑢𝑖在源域中的嵌入，ˆ𝒖𝑖𝑡表示转换后的嵌入。最后，我们可以利用转换后的嵌入ˆ𝒖𝑖𝑡进行预测

面向任务的优化

为了训练元网络和特征编码器，我们可以使用面向映射的优化来最小化距离过程遵循现有的基于桥接的方法[4,9,16,39]：
在这里插入图片描述
其中，ˆ𝒖𝑖𝑡表示从𝒖𝑠𝑖在源域中转换后的用户嵌入，𝒖𝑖𝑡表示在目标域中的用户嵌入。面向映射的优化过程将使转换后的嵌入ˆ𝒖𝑖𝑡接近目标嵌入𝒖𝑖𝑡。
但是，由于一些用户的交互作用有限，用户嵌入的𝒖𝑖𝑡可能不够不合理和准确。学习到相对不合理的嵌入方式将会对模型产生负面影响。因此，我们提出了一种面向任务的优化方法来训练元网络和特征编码器。面向任务的训练过程直接利用最终推荐任务的性能作为优化目标。在本文中，我们关注评级任务，因此任务导向的损失可以表述为：在这里插入图片描述
其中，R𝑡𝑜={𝑟𝑖𝑗|𝑢𝑖∈U𝑜，𝑣𝑗∈V𝑡}表示目标域中重叠用户的交互与面向映射的过程相比，面向任务的优化有两个优势：（1）面向任务的优化可以减轻不合理嵌入的影响。它直接使用评级数据，这是一个基本的事实，而不是近似的中间结果。（2）以任务导向的学习过程有更多的训练样本，可以避免过拟合。例如，对于𝑁重叠的用户，每个用户都有𝑀评级。面向映射的过程使用|U𝑜=𝑁|样本作为方程（6）来学习映射函数，而面向任务的学习过程使用|R𝑡𝑜|=𝑀×𝑁用户项评分作为方程（7）。

整体程序

ptupcdr的整体结构如图2所示。训练过程可分为三个步骤：预训练阶段、元化阶段和初始化阶段，详见算法1。经过训练，该方法可以适用于冷启动和热启动阶段。在这里插入图片描述
训练前阶段：这一步是分别学习每个领域的潜在空间。损失函数表示为：
其中，|R|表示评级数。经过预训练步骤后，我们可以得到预训练的嵌入数据𝒖𝑠、𝒖𝑡、𝒗𝑠、𝒗𝑡。
元阶段：现有的方法直接训练一个共同的桥接函数，而ptupcdr训练特征编码器和元网络。利用公式（7）对特征编码器和元网络进行了优化。

初始化阶段：当一个新用户出现时(CDR假设这个新用户在源域中有一些交互)，我们使用转换后的嵌入ˆ𝒖𝑖𝑡=𝑓𝑢𝑖（𝒖𝑠𝑖；𝒘𝑢𝑖）来初始化新用户在目标域中的嵌入。

测试阶段：对于在目标域中没有交互作用的极端冷启动用户，直接使用初始嵌入的ˆ𝒖𝑖𝑡=𝑓𝑢𝑖（𝒖𝑠𝑖；𝒘𝑢𝑖）进行预测。对于在目标域中有一定交互的暖启动用户，可以使用新的交互对初始嵌入进行微调，并利用微调后的嵌入进行预测。

实验

我们进行了实验来回答以下研究问题：RQ1为什么我们需要一个辅助领域，为什么我们需要引入CDR？与具有CDR视角的最先进模型相比，ptupcdr在极端冷启动场景中的表现如何？RQ2ptupcdr在现实世界的推荐场景中表现如何？RQ3为什么ptupcdr能表现得更好？

实验设置

数据集。按照大多数现有的方法[9,37,40]，实验采用了一个真实世界的公共数据集，即Amazon审查数据集1。具体来说，我们使用Amazon-5核心数据集，其中每个用户或项目至少有5个评级。在[9,37]之后，我们从24个流行类别中选择了3个类别：movies_and_tv（电影）、cds_and_vinyl（音乐）和书籍（书籍）。我们将3个CDR任务定义为任务1：电影→音乐，任务2：书→电影，和任务3：书→音乐。如表1所示，源域的评级数量明显大于目标域中的评级数量。虽然许多现有的工作只选择了数据集的一部分来进行评估，但我们直接使用所有数据来模拟真实世界的应用程序。
评估指标。Amazon审查数据集包含评级数据（0-5分）。在[16,37]之后，我们采用平均绝对误差(MAE)和均方根误差(RMSE)作为指标。基线由于ptupcdr属于基于桥的CDR方法，我们主要将ptupcdr与基于桥的方法进行比较。因此，我们选择以下方法作为比较的基线。1)TGT为目标MF模型，仅使用目标域数据进行训练。2)CMF[25]是MF的延伸。在CMF中，用户的嵌入可以跨源域和目标域进行共享。3)EMCDR[16]是一种常用的冷启动CDR方法。首先采用矩阵分解(MF)学习嵌入，然后利用网络将用户嵌入从辅助域连接到目标域。4)DCDCSR[39]属于基于桥的方法，它考虑了个体用户在不同领域的评级稀疏程度。5)SSCDR[9]是一种基于半监督的桥接的方法。
实施细节。我们使用PyTorch实现了我们的框架和基线。对于每个任务和方法，Adam[10]优化器的初始学习率通过在{0.001、0.005、0.01、0.02、0.1}范围内的网格搜索进行调整。另外，我们将嵌入的维度设置为10。对于所有的方法，我们将小批量大小设置为512。我们采用了相同的全连接层，以方便比较EMCDR、DCDCSR、SSCDR和ptupcdr的跨域桥接函数。请注意，ptupcdr的个性化桥接功能是由元网络生成的。该元网络是一个隐藏单元为2个×𝑘的两层网络，其中𝑘表示嵌入维数，该元网络的输出维数为𝑘×𝑘。注意网络是一个具有𝑘隐藏单元的两层网络。
[16]后，评估提出的有效性ptupcdr跨域的建议，我们随机删除所有的评级的一部分重叠用户在目标域，把他们作为测试用户，和其他重叠用户的样本用于训练桥函数。在我们的实验中，我们将测试（冷启动）用户𝛽的比例分别设置为总重叠用户的80%、50%和20%。对于表2和图3中的冷启动实验，使用所有测试用户的评分作为测试集。对于图4中的暖启动实验，我们将每个测试用户的评分分成两部分，比例为1：1。请注意，我们考虑了顺序时间戳，以避免信息泄漏。我们使用第一部分作为冷启动集，而另一部分作为暖启动集。模型评价的过程可分为三个步骤：1)在训练集上对模型进行训练。2)在冷启动装置上测试极冷启动性能。3)使用冷启动集对目标模型进行微调，并评估热启动集上的热启动性能。对于每个任务，我们报告了5次随机运行的平均结果。

在这里插入图片描述

Cold-start Experiments (RQ1)

本节介绍了ptupcdr在冷启动场景下的实验结果和深入讨论。根据现有的基于桥的方法[4,9,16,37,39,40]，我们评估了ptupcdr在冷启动场景下的性能。我们证明了ptupcdr在不同𝛽值下对3个CDR任务的有效性。实验结果如表2所示，最佳性能以黑体表示，∗表示ptupcdr与最佳基线的0.05水平配对t检验，𝐼𝑚𝑝𝑟𝑜𝑣𝑒表示相对于最佳基线的相对改善。从实验结果来看，我们有几个发现：（1）TGT是一个只使用目标域数据的单域模型，其性能并不令人满意。与TGT相比，所有其他跨域方法都可以利用来自源域的数据，从而获得更好的效果。因此，利用来自辅助域的数据是缓解数据稀疏性、提高目标域推荐性能的有效方法。（2）CMF通过将来自不同域的数据组合到单个域中来使用辅助数据，而CDR方法则是专门设计来桥接这些域的。我们发现CDR方法在大多数任务中都可以优于CMF。这是因为CMF通过将来自两个域的数据看作是相同的，从而忽略了潜在的域转移。相反，桥接函数可以将源嵌入转换到目标特征空间中，有效地减轻了域位移的影响。因此，通过更有效地利用辅助域来研究CDR是非常必要的。（3）我们发现，ptupcdr在大多数情况下都可以显著优于最佳基线，这表明ptupcdr对于冷启动推荐是有效的。

More Practical Scenarios (RQ2)

推广实验：
需要注意的是，基于桥的CDR方法[16,39]侧重于桥的功能本身，文献中的工作主要是将其方法应用于MF上进行实验评价。然而，MF是一个非神经模型，在大规模的现实世界的推荐中，它可能太容易达到令人满意的性能。因此，为了证明ptupcdr和其他基于桥的方法的兼容性，我们将EMCDR和我们的ppupcdr应用到两个更复杂的神经模型上。换句话说，我们使用其他模型来取代MF：GMF[7]和YouTube DNN[1]。GMF在点积预测函数中为不同的维度分配不同的权值，这可以看作是普通MF的一种推广。YouTube DNN是一个双塔模型。对于GMF，桥接函数可以直接转换用户嵌入。对于YouTube DNN，桥接功能将转换用户塔的输出。对于GMF和YouTube DNN，我们用来自这两个领域的数据来训练模型。使用𝛽=0.2，我们在非神经模型(MF)和神经模型(GMF，YouTube DNN)上进行了泛化实验。其他实验设置与第4.1节相一致。从图3(a)(b)©所示的结果来看，我们有几个深刻的观察：（1）基于桥的CDR方法可以应用于各种基础模型。对于不同的基础模型，EMCDR和ptupcdr都有效地提高了推荐性能对于目标域中的冷启动用户。由于GMF和YouTube DNN是两种在大规模的现实世界推荐中流行且设计良好的模型，它们实现了比普通MF的更好的性能。（2）广义的ptupcdr可以达到令人满意的性能。一方面，通过各种基础模型，广义的ptupcdr可以不断地取得最好的结果。另一方面，由于冷启动问题具有很高的挑战性，所实现的𝑀𝐴𝐸足以证明广义ptupcdr在现实场景中的有效性。
暖启动实验。
文献[4,9,16,37,39]中现有的基于桥接的CDR工作只在极端冷启动阶段进行了实验。实际上，基于桥的CDR方法通过使用映射嵌入初始化冷启动用户的嵌入TGT以进行进一步的训练，也非常有帮助。在现实世界的建议中，这种热身场景[21,42]具有很大的应用价值。我们在TGT、CMF、EMCDR和我们提出的ptupcdr上进行了实验。在暖启动训练阶段，即热身过程中，CMF、EMCDR和ptupcdr可以被视为初始化的预训练模型。对于CMF，我们使用集体训练的嵌入来初始化TGT的用户嵌入和项目嵌入。对于EMCDR和ptupcdr，我们使用映射用户的嵌入来初始化冷启动用户的嵌入。从图4所示的结果中，我们有以下观察结果：冷启动vs。暖启动。更多的交互可以提高推荐系统的性能。我们发现所有的模型。
在热启动阶段可以获得比冷启动阶段更好的性能，这表明更多的交互可以帮助推荐模型更好地理解用户。
公用事业。
在热启动阶段，以预先训练好的嵌入作为初始嵌入，CMF、EMCDR、ptupcdr比使用随机初始化嵌入的TGT具有更好的性能。ptupcdr和EMCDR优于CMF，证明了通过基于桥的CDR方法预训练的嵌入可以更好地利用源域。这种CDR方法在现实世界的热启动场景中的实用性具有巨大的实用价值。
表现
在热启动阶段，我们的ptupcdr在不同的𝛽测试比例下仍然可以取得最好的结果。因此，我们的ptupcdr在冷启动阶段和热启动阶段都是有用和有效的。

Explanation of the Improvement (RQ3)

在本节中，我们对ptupcdr的三个模块进行广泛的实验并进行深刻的讨论，以解释ppupcdr带来的改进和回答𝑅𝑄3。潜在的因素的可视化。我们分析了目标域特征空间上的嵌入，以进一步研究ptupcdr优于EMCDR的原因，并显示了元网络生成个性化桥接函数的能力。我们在Scikit中使用t-SNE[2]的默认设置来可视化EMCDR和ptupcdr在Task3上学习到的用户嵌入。图5(a)和(b)表示的嵌入通过EMCDR训练和测试用户，而图5©和(d)中的可视化嵌入则由ptupcdr学习。蓝色点表示从训练用户和测试用户学习到的目标模型中获得的目标嵌入，并被视为地面事实，而橙色点表示转换后的嵌入。为了清晰起见，我们分别随机抽取100名训练用户和测试用户进行绘制。请注意，ptupcdr和EMCDR共享源模型和目标模型，唯一的区别是桥接功能是由我们的ptupcdr个性化的还是由EMCDR学习到的。
在这里插入图片描述
理想情况下，转换后的嵌入的分布与目标嵌入相同。从图5(a)和(b)中，我们观察到目标嵌入（地面真相）是分散的，而由EMCDR转换的嵌入则非常集中。主要原因是单桥函数很难捕获源域和目标域中用户偏好之间的复杂关系。如图5©和(d)所示，ptupcdr取得了较好的效果。首先，ppupcdr转换的嵌入分散在目标域特征空间中，而不是聚为EMCDR，这展示了元网络和ptupcdr的个性化能力。更重要的是，由ppupcdr转换的嵌入分布可以更好地拟合目标嵌入分布，这可能是ptupcdr能够获得更好的整体性能的根本原因。
案例研究。我们以一个案例研究来讨论基于注意的特征编码器的必要性和有效性。如图6所示，我们的目标是通过该用户的互动电影，向以前没有购买过任何CD的用户推荐CD。请注意，一个电影下面的较深的颜色块代表了比该电影的更高程度的预测注意力，并成功地推荐了所显示的3张cd给该用户。
在这里插入图片描述
那些成功推荐的硬摇滚唱片多少与互动的科幻电影有关，因为它们都令人兴奋。然而，硬摇滚唱片几乎与戏剧和喜剧无关。因此，很明显，源域中不同交互项的重要性应该进行适当的建模。因此，有必要采用注意机制来自动评价各项目对知识转移的不同贡献。同时，虽然消费的cd只与历史互动电影的一部分有关，但无论戏剧和喜剧噪声的影响如何，所提出的模型仍然可以提供相对准确的建议，这证明了基于注意力的特征编码器的有效性。综上所述，基于注意力的特征编码器可以捕获可转移的个体特征，而现有的基于桥接的CDR方法忽略了这一点。

结论

在本文中，我们研究了旨在将用户偏好从辅助域转移到目标域的跨域推荐(CDR)。许多现有的CDR方法学习了一个转移偏好的共同偏好桥。然而，所有用户共享的单个桥接功能很难捕获源域和目标域中的用户首选项之间的各种关系。因此，我们提出了一个新的框架，称为CDR用户偏好的个性化转移(ptupcdr)。具体来说，学习一个包含用户特征嵌入的元网络，生成个性化的桥接功能，实现用户偏好的个性化传递。我们在真实数据集上进行了广泛的实验来评估所提出的ptupcdr，结果验证了ptupcdr在冷启动和热启动阶段的有效性。