【Notes】Multi-Behavior Sequential Recommendation with Temporal Graph Transformer（2022）

norah要努力

已于 2022-08-24 01:59:48 修改

阅读量922

点赞数

分类专栏：论文阅读文章标签： transformer 深度学习人工智能

于 2022-08-20 00:15:40 首次发布

本文链接：https://blog.youkuaiyun.com/cepc_hr/article/details/126433734

版权

该研究提出了时空图变换器（Temporal Graph Transformer, TGT），旨在处理多行为序列推荐中的交叉行为关系和时序融合。TGT通过区分行为重要性，捕捉短期信息，并利用注意力机制处理长期动态用户兴趣，实现对多类型用户行为的综合建模。实验表明，TGT在捕获行为动态依赖和多行为重要性方面优于其他方法。" 78734358,5515843,PyTorch自动求导机制详解,"['深度学习', 'PyTorch', '自动梯度', '神经网络']

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

【Notes】Multi-Behavior Sequential Recommendation with Temporal Graph Transformer（2022）

Xia L, Huang C, Xu Y, et al. Multi-Behavior Sequential Recommendation with Temporal Graph Transformer[J]. IEEE Transactions on Knowledge and Data Engineering, 2022.

Key challenge:

(1)如何处理交叉行为之间的关系（不同行为可能传递互补的信号）

(2) 时序多行为的融合

1-1

问题定义：

给定用户 $u_i\in U$ ，其行为序列 $S_i\in S$ 由三元组构成： $v_{k,i},b,t)$ ，其中行为 $b\in B$

给定序列 $s_i$ ，预测经过 $t_{K,i}$ 后可能进行交互的商品

1.对于用户 $u_i$ 分为几个sub-users，对应sub-sequence $S_i^k$ （如何进行切分是一项调整的参数）（划分sub-sequence的我认为目的是分别对short-item和long-item两方面进行处理）

2.利用transformer的结构捕捉short-term的信息：首先分割为sub-sequence（short-term）；（a）Behavior-Aware Context Embedding: 然后对于sub-sequence，time的embedding采用正余弦函数；与item和behavior的embedding相加构成使用的embedding（使得embedding可以包含时间信息和行为信息）（b）Item-Wise Sequential Dependency: 利用transformer的结构捕捉（ $\overline{E}_k^r=\Vert_{h=1}^H\sum^K_{k'=1}\alpha_{k,k'}V^hE_{k'}^r$