DCRec：Debiased Contrastive Learning for Sequential Recommendation

最新推荐文章于 2025-12-15 12:15:10 发布
原创 最新推荐文章于 2025-12-15 12:15:10 发布 · 1.4k 阅读 · 11 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#笔记 #学习 #推荐算法

DCRec是为解决顺序推荐中对比学习的偏见问题而提出的框架，通过自适应一致性感知增强，捕获序列模式和用户依赖。它使用多通道一致性加权网络来减轻数据增强中的流行偏见，同时结合Transformer和图神经网络，实现统一的顺序视图和全局协作关系建模。

Debiased Contrastive Learning for Sequential Recommendation

ACM-Yuhao Yang，Chao Huang，Lianghao Xia，Chunzhen Huang，Da Luo，Kangyi Lin-2023

摘要

目前的顺序推荐系统被提出来解决动态用户偏好学习的各种神经技术，如Transformer和图神经网络（GNNs）。然而，从高度稀疏的用户行为数据的推断可能阻碍顺序模式编码的表示能力。为了解决标签短缺问题，最近提出了对比学习（CL）方法以两种方式执行数据增强：（i）随机破坏序列数据（例如，随机掩蔽、重新排序）;（ii）跨预定义的对比视图对齐表示。
在解决流行的偏见和用户的一致性和真实的兴趣时，CL为基础的方法有局限性。
本文模型：统一的顺序模式编码与全局协作关系建模，通过自适应一致性感知增强。我们的去偏对比学习框架有效地捕捉了序列内项目转换的模式和序列中用户之间的依赖关系。

介绍

使用RNN或基于注意力的模型来捕获用户随时间推移而变化的兴趣，严重依赖于足够的交互数据和语义丰富的序列，使得它们不足以解决推荐中的稀疏性，短序列和噪声等问题。
我们认为，各种研究领域的现有方法还没有充分解决数据增强中固有的流行性偏差。
在一些模型中，会由于对数据的认知不正确，导致错误的数据增强，从而误导用户偏好学习。我们通过对三个模型（DCRec, DuoRec, CL4SRec）的分析得知，有效地捕获用户意图的兴趣和一致性组件并以分离的方式对其进行建模，对于增强序列推荐的性能以对抗数据增强中普遍存在的流行偏见至关重要。
本文提出了一个用于顺序推荐的无偏对比学习框架DCRec，以解决上述局限性。
DCRec使用基于三个语义通道的多通道一致性加权网络将用户一致性从嘈杂的项目交互中解脱出来。这种新方法的目的是解决在推荐系统中的对比学习范式的偏

最低0.47元/天 解锁文章
论文速读——Debiased Contrastive Learning for Sequential Recommendation
weixin_43954673的博客
03-14 1396
当前的顺序推荐系统被提出来利用各种神经技术（例如 Transformer 和图神经网络（GNN））来解决动态用户偏好学习问题。然而，从高度稀疏的用户行为数据中进行推断可能会阻碍顺序模式编码的表示能力。为了解决标签短缺问题，最近提出了对比学习（CL）方法，以两种方式执行数据增强：（i）随机破坏序列数据（例如，随机屏蔽、重新排序）；(ii) 跨预定义的对比视图对齐表示。尽管有效，但我们认为当前基于 CL 的方法在解决流行偏见以及区分用户一致性和真实兴趣方面存在局限性。
【对比学习】DuoRec：Contrastive Learning for Representation Degeneration Problem in Sequential Recommenda
CRW__DREAM的博客
03-11 3574
Transformer 和 BERT 等顺序深度学习模型的最新进展极大地促进了顺序推荐。然而，根据我们的研究，这些模型生成的项目嵌入的分布倾向于退化为各向异性的形状，这可能导致嵌入之间的语义相似性很高。在本文中，首先提供了对该表示退化问题的实证和理论研究，在此基础上提出了一种新颖的推荐模型 DuoRec 来改善项目嵌入分布。具体来说，鉴于对比学习的均匀性，为 DuoRec 设计了对比正则化来重塑序列表示的分布。鉴于推荐任务是通过点积测量同一空间中序列表示和项目嵌入之间的相似性来执行的，正则化可以隐式应用于项
IJCAI2022推荐系统论文集锦
张小磊的博客
05-20 1671
嘿，记得给“机器学习与推荐算法”添加星标第31届国际人工智能联合会议（International Joint Conference on Artificial Intelligence, 简称为IJCAI）是人工智能领域最顶级的国际学术会议之一，也是CCF-A类会议。今年的IJCAI将于2022年7月23-29日在奥地利维也纳举办。在今年的4535篇投稿论文中，有大约15...
【论文阅读】Equivariant Contrastive Learning for Sequential Recommendation
Danger的博客
11-03 1651
【论文阅读】Equivariant Contrastive Learning for Sequential Recommendation
论文《Contrastive Learning for Sequential Recommendation》
whgyxy的博客
04-10 6135
论文地址：https://arxiv.org/abs/2010.14395 摘要 序列推荐经常因为数据稀疏性问题，导致很难学习到高质量的用户向量表示。论文引入对比学习，提出Contrastive Learning for Sequential Recommendation(CL4SRec).，不仅有下一个序列预测的优势，还利用对比学习框架从原始用户行为序列中获取自监督信号。另外论文提出3种构造自监督信号的数据增强方法，在4个公开数据集上面大量实验表明得到的用户表示更好。 简介 序列推荐任务能捕捉用户动态的兴
论文解读《Intent Contrastive Learning for Sequential Recommendation》
ybjlucky的博客
05-25 891
固定长度T，序列长了就裁剪，短了就补全。
DcRec:Disentangled Contrastive Learning for Social Recommendation
m0_56321960的博客
12-04 1414
本文提出的用于社交推荐的解耦对比学习框架（DcRec），它遵循通过最大化同一实例上不同视图之间的表示一致性来进行自监督对比学习的一般范式[2, 21, 39]。所提出模型的架构如图2所示。具体而言，该模型包括三个主要组件：（1）领域解耦（Domain Disentangling），用于将输入数据解耦为两个子领域；（2）编码器（Encoder），在两个领域上使用不同的编码器从两个不同的视图学习表示；
CCF A类会议或期刊----近两年对比学习相关论文
Thincor的博客
03-20 6062
会议/期刊 论文 sigmod2021 Explaining Black-Box Algorithms Using Probabilistic Contrastive Counterfactuals. neurips2020 Adversarial Self-Supervised Contrastive Learning. neurips2020 Demystifying Contrastive Self-Supervised Learning: Invariances, Augme....
800 篇顶会论文纵览推荐系统的前沿进展
abcdefg90876的博客
12-04 2894
©作者｜张君杰机构｜中国人民大学高瓴人工智能学院引言：推荐系统作为人工智能领域最具有应用前景的方向之一，在学术界和工业界一直占据着重要地位。本文聚焦于推荐系统在学术研究方面的前沿进展，在之前整理的 Awesome-RSPapers 基础上扩展了近两年顶会中推荐系统相关的论文，涵盖 SIGIR、SIGKDD、RecSys、CIKM、AAAI、WSDM、WWW 的 20 次会议。本次整理以长文和研究...
NIPS2020——Debiased Contrastive Learning 详细解读
qq_40680309的博客
05-03 3152
论文及补充材料链接 ：Debiased Contrastive Learning 代码：https://github.com/chingyaoc/DCL 摘要： 自监督表示学习的一个突出技术是对比语义上相似和不同的样本对。在没有访问标签的情况下，不同的（负的）点通常被认为是随机抽样的数据点，隐含地接受这些点实际上可能具有相同的标签。也许并不令人意外，我们观察到，在有标签的合成设置中，从真正不同的标签中采样负的例子可以提高性能。基于这一观察结果，我们开发了一个去偏对比目标，以校正相同标签数据点...
Dynamic Soft Contrastive Learning for Time Series Anomaly Detection 解读
qq_44944580的博客
03-24 1502
ICASSP好文！值得学习！
时间序列异常检测14篇顶会论文合集，附必备工具和数据集
热门推荐
学姐带你玩AI的博客
11-30 1万+
时间序列异常检测是一种在时间序列数据中识别和标识与预期模式、趋势或行为不符的异常点或事件的技术。鉴于它如此广泛的应用范围，不难看出时序异常检测也是当前数据科学和机器学习领域的一个热门研究方向。在最近几年中，时序异常检测的发展非常活跃，例如Transformers在时间序列预测中的兴起，以及时间序列嵌入方法的进步，这些都为异常检测和分类方面带来了新的突破。我这次也帮大家整理了今年最新以及一些非常经典的时序异常检测论文，另外还有时序异常检测必备的工具和数据集，需要的同学看文末。
推荐系统领域对比学习和数据增强论文及代码集锦
KingGugu的博客
01-01 2521
推荐系统领域对比学习和数据增强论文及代码集锦
RC与DC的介绍与使用
playStudy的专栏
01-09 3683
OpenGL的绘图方式与Windows一般的绘图方式是不同的，主要区别如下： 1、Windows采用的是GDI在设备描述表DC上进行绘图。 2、OpenGL采用的是OpenGL相关的函数在渲染描述表RC上进行绘图。 3、OpenGL使用的是特殊的像素格式。 在Windows中使用GDI绘图时必须指定在哪个设备环境DC中绘制，同同样的在使用OpenGL函数时也必须指定一个所谓的渲染环境。正如
运放学习笔记
Z97371539的博客
12-13 563
单电源运放是指仅使用单一电源电压（例如，+5V）和地（0V）作为电源供给的运放。也就是说，它只需要一个正电压和地作为参考电压，而不需要负电压。
先立后破：Linux 下“新建管理员 → 验证 → 禁用 root 远程 SSH”的零翻车笔记
weixin_45626288的博客
12-12 533
本文提供了一套零风险的Linux服务器安全加固流程，重点解决等保2.0要求的"禁用root远程SSH"需求。通过"先立后破"原则，先创建并验证新管理员账号的sudo权限，再禁用root远程登录，全程保持root会话不断开作为应急通道。关键步骤包括：创建新管理员账号、配置sudo权限、严格测试新账号功能、安全修改sshd配置、保留本地root登录权限等。文章特别强调验证环节的重要性，并提供了快速回滚方案，确保运维人员不会因配置失误导致服务器失联。这套方法适用于Kylin
Android学Dart学习笔记第十四节 库和导库
最新发布
weixin_44656996的博客
12-15 696
其他语言中的访问修饰符关键字提供了更细粒度的控制，而Dart使用下划线和基于库的隐私提供了直接的配置机制，有助于高效实现动态访问，并改进了树抖动（死代码消除）。库不仅提供api，还是隐私的单位：以下划线（_）开头的标识符只在库内部可见。当你导入的多个库中，使用了相同的类名时，可以为库起个别名，使用 别名.类名 明确指定所引用的类。使用import来指定如何在另一个库的作用域中使用来自一个库的命名空间。带有通配符_的导入前缀是不绑定的，但可以访问该库中的非私有扩展。
AD学习笔记-36 gerber文件输出
2401_83451707的博客
12-14 292
今天，我们学习如何导出gerber文件，这是我们给板厂的最终文件。
C++基础笔记（二）队列deque,queue和堆priority_queue
qq_43869689的博客
12-12 318
由于deque不完全连续的实现思想，在插入/删除时，如果涉及到新块扩容（增加一个新的block）有可能导致迭代器失效，建议稳妥的做法时涉及到频繁的删除就用list链表，别用的队列实现，或者分两边操作，第一遍只遍历检查，确定要删除的数据，第二遍开始从后往前删除（一般情况不建议删除，加个标记表示这个数据失效就行，比如用一个set或者数组记录哪些元素失效）。关于priority_queue也是差不多。
Contrastive Learning for Recommendation（CLR）模型
03-29
<think>好的，用户想了解对比学习在推荐系统中的应用，特别是CLR模型的原理、实现和应用场景。首先，我需要回忆对比学习的基本概念，以及它如何与推荐系统结合。对比学习的核心是通过拉近相似样本的距离，推开不相似样本，这在推荐中可以用来增强用户和物品的表征。 接下来，CLR模型的原理部分需要解释对比学习如何应用于推荐，可能涉及数据增强构建正负样本，比如对用户行为序列进行随机掩码或重排。然后，模型结构可能包括编码器（如Transformer）、对比损失函数（如InfoNCE）。需要确认这些技术点是否正确，是否有相关论文支持，比如SimCLR在推荐中的改编。 在实现方法方面，用户可能关心具体的技术细节，比如数据预处理、编码器设计、损失函数的选择，以及负样本的采样策略。这里需要提到双塔结构、温度系数τ的作用，以及如何避免过拟合，比如使用Dropout或正则化。 应用场景部分，应该涵盖冷启动、长尾推荐、多行为推荐和跨域推荐。需要确保这些场景确实适用对比学习，是否有实际案例或研究支持。例如，对比学习可以通过增强稀疏数据的表征来改善冷启动问题。 另外，用户可能对CLR的优势和挑战感兴趣。优势包括更好的表征学习和缓解数据稀疏，挑战可能涉及计算开销和负样本质量。需要准确区分这些点，并引用相关文献，比如何向南团队的工作。 最后，生成相关问题时要考虑用户可能的后续疑问，比如具体实现代码、与其他模型的对比、评估指标等。确保问题有针对性，能够引导用户深入理解CLR模型。 需要检查是否所有技术细节准确，比如InfoNCE损失函数的公式是否正确，双塔结构是否适用于推荐场景。同时，确保引用标识正确，尽管用户提供的引用没有具体来源，但需保持格式一致。整个回答要保持结构清晰，语言简洁，符合用户要求的格式，特别是数学表达式用$...$，独立公式用$$...$$，并正确使用中文回答。</think>### Contrastive Learning for Recommendation (CLR) 模型 #### 一、原理 对比学习（Contrastive Learning）通过拉近相似样本（正样本对）的表示距离，同时推开不相似样本（负样本对）的表示距离，从而学习更具判别性的特征。在推荐系统中，CLR 的核心思想是通过对比用户-物品交互的不同视角（如数据增强后的视图）来优化表征，缓解数据稀疏性问题[^1]。 **关键技术点**： 1. **数据增强**：对用户行为序列进行随机掩码、重排或添加噪声，生成正样本对。 2. **对比损失**：使用 InfoNCE 损失函数： $$ \mathcal{L} = -\log \frac{\exp(s(u_i, v_i^+)/\tau)}{\sum_{j=1}^N \exp(s(u_i, v_j^-)/\tau)} $$ 其中 $s(\cdot)$ 是相似度函数，$\tau$ 为温度系数[^2]。 --- #### 二、实现方法 1. **数据预处理** - 用户行为序列划分为历史交互和当前目标。 - 对序列进行随机掩码或重排生成增强视图。 2. **模型架构** - **编码器**：常用 Transformer 或 GRU 编码用户行为序列。 - **投影头**：将表征映射到低维空间以计算相似度。 - **双塔结构**：用户塔和物品塔独立编码，通过对比学习对齐语义空间。 3. **损失函数与训练** - 采用跨视图对比（如用户增强视图 vs 物品增强视图）。 - 负样本通过批次内随机采样或对抗生成。 **代码片段（PyTorch 伪代码）**： ```python class CLR(nn.Module): def __init__(self, user_encoder, item_encoder): super().__init__() self.user_encoder = user_encoder # 用户行为编码器 self.item_encoder = item_encoder # 物品特征编码器 def forward(self, user_seq, item_seq): user_rep = self.user_encoder(user_seq) # 用户表征 item_rep = self.item_encoder(item_seq) # 物品表征 logits = torch.matmul(user_rep, item_rep.T) # 相似度矩阵 loss = F.cross_entropy(logits / self.tau, labels=torch.arange(logits.size(0))) return loss ``` --- #### 三、应用场景 1. **冷启动推荐**：通过对比学习增强稀疏用户/物品的表征[^3]。 2. **长尾推荐**：提升低频物品的曝光率。 3. **多行为推荐**：融合点击、购买、收藏等多行为信号。 4. **跨域推荐**：对齐不同域的用户表示（如视频与电商）。 --- #### 四、优势与挑战 | **优势** | **挑战** | |-------------------------|--------------------------| | 增强表征的判别性 | 计算开销大（需大量负样本）| | 缓解数据稀疏性 | 数据增强策略依赖领域知识 | | 兼容多模态数据 | 负样本质量影响效果 | ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值