实战34:SASRec Transformer 算法实战：进行基于Transformer的商品推荐 详细教程

已于 2023-01-08 13:23:51 修改
阅读量760 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： 机器学习实战100例 文章标签： python 深度学习 自然语言处理 人工智能 信息抽取
于 2022-11-26 11:25:37 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_55771290/article/details/128049666
本教程详细介绍了如何利用SASRec Transformer算法进行商品推荐。内容包括数据加载与预处理、模型构建及优化思路。模型基于用户历史点击记录，采用Transformer结构，利用多头注意力机制进行训练，并探讨了self-attention和多头注意力的实现细节。优化方向包括反馈层替代、增强模型以及loss函数调整。

案例简介

(1)方法概述: 本教程包含如下内容：

  • 从原始的数据文件中加载数据，进行训练集和测试集的切分，并对测试集进行负采样。

  • 对数据分batch, 利用用户历史点击记录进行模型训练

  • 结果展示

(2)宏观流程图

2.准备工作

(1) 对应库的安装(以下是运行环境)

tqdm==4.51.0

numpy==1.19.2

torch==1.7.0

(2) 其他环境

python=3.8

数据集：https://download.youkuaiyun.com/download/qq_38735017/87164686

[1]

import argparse
import os
imp
了解本专栏 订阅专栏 解锁全文 超级会员免费看
通过SASRec算法进行基于Transformer的商品推荐
11-26 1557
通过SASRec算法进行基于Transformer的商品推荐
SASRec Transformer 算法：基于Transformer的商品推荐详细教程
PlHtml的博客
09-21 715
本教程详细介绍了SASRec Transformer算法的原理，并提供了基于Python和TensorFlow框架的实现代码。通过使用SASRec算法，可以构建基于Transformer的商品推荐系统，提高电子商务平台的个性化推荐效果。最后，给定用户的历史行为序列，使用模型进行商品推荐，并输出推荐得分最高的前10个商品。Transformer编码器：使用多层的Transformer编码器来捕捉序列中的长期依赖关系。通过计算每个商品与序列中其他商品的注意力权重，可以获得更有信息量的商品表示。
【亲测免费】 探索SASRec: 高效的序列到序列推荐系统框架
gitblog_00020的博客
11-13 1148
在数据驱动的时代，个性化推荐系统已经成为提高用户体验和商业价值的重要工具。今天我们要关注的是一个名为SASRec（Sequential Attention-based Self-attentive Recommendation）的开源项目，它是一种基于自注意力机制的序列推荐模型。SASRec由GitHub用户[kang205](https://github.com/kang205)开发并维护，旨在
基于Transformer的个性化推荐重排序模型解析
m0_63345182的博客
02-05 1522
PRM模型通过Transformer的自注意力机制和个性化向量，有效解决了传统排序方法忽略物品关系与用户偏好的问题。实验证明其在离线和在线场景中均具有显著优势。
BST：Transformer在推荐领域的应用
Kaiyuan_sjtu的博客
03-21 3281
作者| 知乎博主@青枫拂岸整理|NewBeeNLP阿里的搜索团队在2019 DLP-KDD上发表的《Behavior Sequence Transformer for E-comme...
通过SASRec算法进行基于Transformer的商品推荐-数据集
11-26
通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集通过SASRec算法进行基于Transformer的商品推荐_数据集
Transformer在推荐系统中的应用
Tak-Wah Blog
07-21 3489
本文主要介绍一下Behavior sequence transformer for e-commerce recommendation in Alibaba文章和美团基于此文章所改进的算...
深度学习在推荐系统中的应用：Transformer架构详解
Golang编程笔记的博客
09-06 770
本文旨在为读者提供Transformer架构在推荐系统中应用的全面技术指南。深入解析Transformer的核心原理和技术细节展示如何将Transformer应用于推荐系统场景提供完整的代码实现和优化技巧分析实际应用中的挑战和解决方案本文覆盖的范围包括从基础理论到高级应用的完整知识体系，适合不同层次的读者学习参考。背景介绍：建立基本概念和知识框架核心概念：深入解析Transformer架构算法原理：详细讲解技术实现细节数学模型：提供严谨的理论基础。
【数据挖掘实战】：专家教你如何从零开始构建推荐系统
例如，根据用户历史行为数据进行推荐的商品推荐系统、基于地理位置的餐厅推荐、基于用户社交网络的个性化新闻推荐等。这些系统不但能够提高用户的满意度，还能为商家带来显著的效益增长。 ## 推荐系统的商业价值 一...
【专栏大纲】【2025算法面试通关全攻略】
商务合作|问题讨论|交流学习 请联系作者微信，加微信请务必注明来意，博客主页有联系方式
04-08 913
【2025算法面试通关全攻略】专栏大纲，涵盖数学、机器学习、深度学习、计算机视觉等12个核心领域，并针对不同水平的面试者设计了基础、进阶、高级三个难度层次。每个章节包含理论题、算法题、编程题和项目经验题，结合最新行业趋势和经典考点，帮助读者系统化准备面试。
基于深度学习的音乐推荐系统实现与项目代码
基于深度学习的音乐推荐系统实现是一个融合了人工智能、机器学习、数据科学与用户行为分析的综合性项目，其核心目标是通过构建高效的神经网络模型，对用户的听歌历史、偏好特征、上下文环境等多维度信息进行建模，...
阿里首次将Transformer用于淘宝电商推荐
01-27
推荐系统（RSs）已经在工业界流行了十来年，在过去五年里，基于深度学习的方法在工业界得到了广泛应用，例如，Google的wide&deep模型和Airbnb的《Real-timepersonalizationusingembeddingsforsearchranking》。在阿里电商平台，RSs已经成为GMV和收入的关键引擎，并在丰富的电子商务场景中部署各种基于深度学习的推荐方法。RSs在阿里巴巴分为两个阶段：匹配（match）和排名（rank）。在匹配阶段，根据用户和商品的交互，一些相似的商品被选择出来作为候选集，然后学习一个fine-tuned预测模型
推荐算法炼丹笔记：序列化推荐算法SASRec
炼丹笔记
11-14 1975
作者：一元 ，公众号：炼丹笔记背景本文介绍一篇较早使用Self-Attention进行序列化推荐的文章,也是目前大多数序列化推荐算法非常重要的Baseline，最典型的场景可以参见标题，该篇文章的思路也是现在推荐系统岗位经常考的一篇，还不速速学习一波。序列动态是许多当代推荐系统的一个重要特征，它试图根据用户最近执行的操作来捕捉用户活动的“上下文“。本文提出了一个基于self-attention的...
【序列推荐、Transformer】SASRec：Self-Attentive Sequential Recommendation
CRW__DREAM的博客
04-12 9585
《SASRec：基于自注意力机制的序列推荐》transformer最早提出是用在NLP领域做机器翻译的，本文将transformer中的注意力机制用在序列推荐上，**对于给定的物品序列来预测下一个最可能出现的物品是什么**（采用自注意力机制来对用户的历史行为信息建模，提取更为有价值的信息。最后将得到的信息分别与所有的物品embedding内容做内积，根据相关性的大小排序、筛选，得到Top-k个推荐。）。该方法在稀疏和密集数据集上都优于各种先进的序列模型。
transformer算法嵌入到产品，预测客户评论
百态老人的博客
02-11 191
训练 Transformer 模型：使用预处理后的数据来训练 Transformer 模型，可以使用现成的 Transformer 库，例如 Hugging Face 的 Transformers，或者使用 TensorFlow 或 PyTorch 等深度学习框架搭建自己的 Transformer 模型。在具体实现时，需要根据产品的需求进行相应的修改。集成到产品中：将训练好的 Transformer 模型集成到产品中，可以通过编写程序或者使用现成的 API 将模型嵌入到聊天框中。
AI大模型 | 应用Transformer模型提升推荐系统效果
2401_86154640的博客
07-22 1209
Transformer最初在2017年由Google的研究人员提出，用于解决机器翻译问题。其核心是自注意力机制（Self-Attention），能够在处理序列数据时，动态地关注序列中不同部分的重要性。这种机制使得Transformer非常适合处理与顺序相关的推荐任务。AI大模型入门基础教程学习指南，带你从入门到进阶2024最新版全套大模型学习路线图（完整版）AI大模型时代下，初学者该怎么才能快速入门？
【ccf2021训练赛】图书推荐算法赛道（SASRec序列推荐模型 | 序列推荐模型分类）
发现问题，并解决问题，批判性思维
09-25 1872
- SASRec（召回）提出基于自注意力机制的序列推荐，考虑用户序列行为中不同交互的重要程度。 - SASRec和以下算法进行比较： - 不考虑序列的传统推荐：PopRec、BPR； - 基于马尔可夫链的序列推荐：FMC、FPMC、TransRec； - 基于深度学习的序列推荐：GRU4Rec、GRU4Rec+、Caser
SASRec: 自注意力序列推荐系统
最新发布
gitblog_01283的博客
11-16 728
SASRec（Self-Attentive Sequential Recommendation）是一个基于TensorFlow的开源项目，主要用于实现自注意力机制的序列推荐系统。该项目由Wang-Cheng Kang和Julian McAuley在2018年提出，并在IEEE国际数据挖掘会议（ICDM'18）上发表。SASRec项目的主要编程语言是Python，并且依赖于TensorFlow框架进
SASRec: Self-Attentive Sequential Recommendation阅读笔记
pocket_eight的博客
06-30 1951
Self-Attentive Sequential Recommendation 2018年的经典文章时序动态是许多现代推荐系统的一个关键特征，它们试图根据用户最近执行的操作来捕捉用户活动的“背景”。为了捕捉这种模式，出现了两种方法：马尔可夫链(MC)和递归神经网络(RNN)。马尔科夫链假设用户的下一个动作可以根据他们的最后(或最后几个)动作来预测，而RNN原则上允许发现更长期的语义。一般而言，基于MC的方法在模型简约性至关重要的极稀疏数据集中执行得最好，而RNN在较密集的数据集中执行得更好，因为较高的模型
Sasrec
07-12
SASRec（Self-Attentive Sequential Recommendation）是一种基于Transformer架构的序列推荐系统模型，它被设计用于解决电子商务平台中的商品推荐问题。该模型利用了Transformer的核心组件——自注意力机制（self-attention），以捕捉用户行为序列中的长期依赖关系[^3]。 通过这种机制，SASRec能够根据用户的先前交互来预测下一个可能感兴趣的项目。与传统的基于马尔可夫链（MC）、卷积神经网络（CNN）或循环神经网络（RNN）的方法相比，SASRec在多个基准数据集上展示了更优的表现，尤其是在处理稀疏数据集时，其性能优势更为明显[^4]。 此外，由于采用了自注意力机制，SASRec能够在密集数据集中考虑长期依赖，在稀疏数据集中则更加关注最近的活动，这对于适应不同密度的数据集至关重要[^4]。 ### SASRec 的实现 要实现SASRec模型，通常需要构建一个包含位置嵌入（position embedding）、自注意力层以及其他可能的残差连接等元素的Transformer结构。下面是一个简化的Python伪代码示例，展示了一个基本的SASRec模型框架： ```python import torch from torch import nn class SASRec(nn.Module): def __init__(self, num_items, embedding_dim=50, nhead=1, num_layers=1): super(SASRec, self).__init__() # 商品嵌入层 self.item_embeddings = nn.Embedding(num_items + 1, embedding_dim) # 位置编码 self.positional_encoding = PositionalEncoding(embedding_dim) # Transformer 编码器 encoder_layer = nn.TransformerEncoderLayer(d_model=embedding_dim, nhead=nhead) self.transformer_encoder = nn.TransformerEncoder(encoder_layer, num_layers=num_layers) # 输出线性层 self.linear = nn.Linear(embedding_dim, num_items) def forward(self, input_sequence): # 获取输入序列的商品嵌入 item_emb = self.item_embeddings(input_sequence) # 添加位置信息 item_emb = self.positional_encoding(item_emb) # 应用Transformer编码器 output = self.transformer_encoder(item_emb) # 线性变换得到输出 logits = self.linear(output) return logits # 注意：PositionalEncoding 类需要自行定义或者使用其他方式添加位置信息 ``` 这段代码提供了一个非常基础的SASRec模型构造思路。实际应用中，还需要对模型进行适当的调整，并且加入训练过程中的细节如负采样、损失函数的选择等。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

计算机毕设论文

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值