【推荐系统】ESMM Entire Space Multi-Task Model 论文阅读&思维导图&代码

最新推荐文章于 2025-01-06 17:41:40 发布
最新推荐文章于 2025-01-06 17:41:40 发布
阅读量519 收藏 1
点赞数 1
分类专栏： 推荐系统 文章标签： CTR ESMM entire entire space multi-taskmodel
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_31622015/article/details/109574915
版权
这篇博客介绍了Entire Space Multi-Task Model（ESMM）在推荐系统中的作用，主要解决样本选择偏差和数据稀疏问题。ESMM通过共享CTR和CVR的Embedding Layer，利用用户行为序列数据在全样本空间建模，通过多任务学习提高CVR预测的准确性。文章详细阐述了模型的算法原理、训练过程、结构及优缺点，并提供了相关代码。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Xmind 笔记

在这里插入图片描述

ESMM

概述

Entire Space Multi-Task Model:

An Effective Approach for Estimating Post-Click Conversion Rate

背景

  • 传统的CVR方法存在两个方面的缺陷

    • SSB

      • 样本选择偏差(sample selection bias)

        • 在这里插入图片描述

          • 传统的「CVR」模型训练的时候用的是被点击的曝光数据（clicked impressions）

            • 传统cvr模型训练样本（点击->转化）

          • 预测的时候却是针对曝光的数据

            • 线上预测时时 （曝光->转化）

        • 训练使用的数据只是预测数据的一部分，只是样本空间的一个很小的子集

          • 构建的训练样本集相当于是从一个与真实分布不一致的分布中采样得到的，违背了独立同分布的假设
          • 这种训练样本从整体样本空间的一个较小子集中提取，而训练得到的模型却需要对整个样本空间中的样本做推断预测的现象称之为「样本选择偏差」

        • 有损模型的泛化性能

    • DS

      • 数据稀疏(data sparsity)

        • 相对于CTR用的数据，CVR更少

          • 展现给用户的商品数量要远远大于被用户点击的商品数量
          • 有点击行为的用户也仅仅只占所有用户的一小部分

    • 其他

      • 延迟反馈（Delayed Feedback）

        • 点击后的conversion很可能延时发生

          • 看过一个商品，但并没有马上去买，过了几天才去购买

贡献

  • 利用「用户行为序列」数据在「完整样本空间」建模
  • 首次提出了利用学习「CTR」和「CTCVR」的辅助任务迂回学习「CVR」的思路

算法原理

思路

  • 假设观察到的数据形式是

    • 在这里插入图片描述

      • x

        • 代表商品曝光时的特征向量，通常用multi-field高维特征表示

      • y

        • 代表点击的label

      • z

        • 代表购买的label

  • CVR的概率可以表示成

    • 在这里插入图片描述

  • CTR的概率可以表示成

    • 在这里插入图片描述

  • CTCVR的概率可以表示成

    • 在这里插入图片描述

      • 因为CTR数字很小，用乘法代替除法

  • CVR可以转换成

    • 在这里插入图片描述

      • 引入两个辅助任务「CTR」和「CTCVR」
      • 不是直接基于点击样本子集进行 CVR 模型训练

全空间建模

  • pCTCVR 和 pCTR 是在全空间中以所有展现样本估计的，因此衍生的 pCVR 也适用于全空间

迁移学习

  • CVR 的特征表示网络与 CTR 共享，后者用更丰富的样本进行训练。这种参数共享遵循特征表示迁移学习范式

训练

构造训练数据集

  • CTR 任务

    • y = 1

      • 单击的展现被标记为1

    • y = 0

  • CTCVR 任务

    • y & z = 1

      • 同时发生点击和转化事件的展现被标记为1

    • y & z = 0

  • y 和 y & z ，这实际上是利用点击和转化标签的序列依赖性

    • impression->click->conversion

模型结构

图例

  • 在这里插入图片描述

    • Embedding parameters of CTR and CVR network are shared.

      • 通过 Embedding Layer 共享
        把曝光没点击的样本共享给 CVR 模型

    • CTCVR takes the product of outputs from CTR and CVR network as the output.

「base model 」Embedding&MLP

  • Embedding Layer

    • 都使用了user跟item的高纬度feature
    • 利用embedding把高维特征映射到低维特征
    • 共享 embedding table

  • Field-wise Pooling Layer

    • 多种特征需要多个embedding table
    • user和item域做element-wise +操作得到两个长度为n的embedding
    • concat得到2n的embedding

  • MultiLayer Perception

    • 经过多层感知机
    • 通过sigmoid或者soft-max得到CVR、CTR的概率

损失函数

思路

  • 由CTR和CTCVR任务的两个损失项组成
  • 这些损失项是根据所有展示的样本计算得出的
  • 没有使用CVR任务的损失
最低0.47元/天 解锁文章
【工业界推荐算法】Entire Space Multi-Task Model: An Approach for Estimating Post-Click Conversion Rate
qq_36643449的博客
01-16 1035
一、背景 本文是阿里的一篇对于cvr(转化率)预测建模时遇到的两个主要问题给出了相应的解决方案。论文中解决了两个问题： 样本选择偏差(Sample Selection Bias，SSB)： 传统的cvr模型训练的时候用的是被点击的曝光数据(clicked impressions)，而预测的时候却是针对曝光的数据(impressions)，即：传统cvr模型训练样本（点击->转化），线上预测时时 （曝光->转化）。训练使用的数据只是预测数据的一部分，这种数据分布不一致会影响模型的泛化能力。 训练
CTR预估 论文精读(十七)--ESMM: Entire Space Multi-Task Model
Dby_freedom的博客
01-11 1791
ESMM: Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate 论文总结 本文介绍 阿里妈妈团队 发表在 SIGIR’2018 的论文《Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate》。文章基于 Multi-Task Learning
论文｜完整空间多任务模型（Entire Space Multi-Task Model）
Thinkgamer博客
07-07 2858
转载请注明出处：http://blog.youkuaiyun.com/gamer_gyt 博主微博：http://weibo.com/234654758 Github：https://github.com/thinkgamer 公众号：搜索与推荐Wiki 个人网站：http://thinkgamer.github.io 论文：Entire Space Multi-Task Model: An Effect...
Entire Space Multi-Task Model: An E ective Approach for Estimating Post-Click Conversion Rate
march_on的专栏
01-19 847
ABSTRACT 传统的CVR预估有一些问题，比如训练是在被点击的曝光上进行，而预估是在所有曝光上。这就是sample selection bias 问题。另外，还有一个数据稀疏问题，使得训练比较困难。文中作者从一个全新的角度对CVR建模，利用用户行为的顺序模式，曝光->点击->转化，进而提出了**Entire Space Multi-task Model (ESMM) ** 模型，并...
论文笔记《Entire Space Multi-Task Model An Effective Approach for Estimating Post-Click Conversion Rate》
zuolixiangfisher的博客
04-13 553
原文链接
【推荐系统】ESMM笔记
littlemichelle
01-12 2052
无
Entire Space Multi-Task Model（ESMM）阅读
xuanshuang的博客
04-26 472
论文地址：https://arxiv.org/pdf/1804.07931.pdf 论文还公开了数据集：数据集-阿里云天池 阿里开源的git地址：x-deeplearning/xdl-algorithm-solution/ESMM/script at master · alibaba/x-deeplearning · GitHub ABSTRACT 介绍了传统的CVR模型的两个缺点： 样本选择偏差，训练集的样本是产生点击的样本，但是我们线上用的却是在整个空间的推断，这会影响模型的泛化能力。t.
短文阅读1:Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate
cqy33333的博客
03-13 2254
ESMM摘要INTRODUCTION全样本多任务模型对比实验 ESMM 摘要 用户行为的顺序模式：impression → click → conversion 准确估计点击后post-click 的转换率（conversion rate：CVR）对于工业应用中的排名系统，如推荐和广告，至关重要。传统的CVR建模它在实践中遇到了几个问题。 1） 传统的CVR模型是通过click的样本来训练的，用点击样本空间对全量impression的样本来对整个空间进行推理，这就造成了一个样本选择偏差的问题。（样本空间应该
ESMM模型
探索人工智能革命，深入算法原理与创新应用，未来科技无限可能。
01-15 796
ESMM 在 “曝光 -> 点击 -> 转化” 链路上，CTR 预估任务预估每个曝光被用户点击的概率，CVR 预估任务预估每个点击被转化的概率。和 CTR 相比，CVR 更关注预测用户有没有商品购买、游戏注册、表单登记等转化行为。 常规的 CVR 预估模型采用和 CTR 预估模型类似的深度学习方法，但是在具体应用中面临几个特殊的问题： 样本选择偏差 sample selection bias:SSB 问题：传统的 CVR 模型是在点击样本上训练的，但是推断是在曝光样本上进行的。这导致
《推荐系统实践》要点思维导图
医疗影像检索
10-27 2395
推荐系统实践 1 好的推荐系统 1.1 基本任务：联系用户和物品 与分类目录、搜索引擎一样解决信息过载问题。 解决无明确目的的物品需求，并能发掘物品长尾。 1.2 推荐应用 应用于电子商务、视频网站、音乐电台、社交网络、个性化阅读、LBS、个性化邮件、定向广告投放。 前端页面、后台日志和推荐算法三功能。 1.3 系统评
推荐模型之多任务模型：ESMM、MMOE
热门推荐
A496608119的博客
06-23 1万+
的全称是Entire Space Multi-task Model (ESMM)，是阿里巴巴算法团队提出的多任务训练方法。其在信息检索、推荐系统、在线广告投放系统的CTR、CVR预估中广泛使用。以电商推荐系统为例，最大化场景商品交易总额（GMV）是平台的重要目标之一，而GMV可以拆解为流量×点击率×转化率×客单价，因此转化率是优化目标的重要因子之一； 从用户体验的角度来说转换率可以用来平衡用户的点击偏好与购买偏好。，其存在如下问题：ESMM模型利用用户行为序列数据在完整样本空间建模，避免了传统CVR模型经常
全空间多任务模型(ESMM)
拾遗
11-05 775
今天分享的论文是ESSM，https://arxiv.org/pdf/1804.07931.pdf
深度学习推荐系统-多目标-ESMM模型
qq_33221657的博客
09-24 677
通过共享embeding+多目标框架，充分利用大量训练样本，完美解决ds+bbs问题，最终达到当时sota效果。
ESMM模型学习
AcceptedLin的博客
08-26 879
ESMM模型学习 基于阿里的ESMM模型， 待补充 参考：
【推荐系统】ESMM：一种有效估算后点击转换率的方法
bqw的博客
08-15 748
​CVR\text{CVR}CVR预测是在线广告、推荐系统等工业应用中排名系统的一项重要任务。例如，在OCPCOCPC广告中使用的pCVRpCVR来调整每次点击的bid价格，从而实现平台和广告主的双赢。这也是推荐系统中平衡用户点击偏好和购买偏好的重要因素。​ 在本文中，主要专注在估计中。为了简化讨论，这里使用电商推荐系统中的CVR\text{CVR}CVR作为例子。给定推荐的物品，用户可能会点击感兴趣的其中一个，并进一步买其中的一个。...
ESMM模型详解
qq_45722156的博客
01-06 1197
CTR展示次数点击次数​×100CVR点击次数转化次数​×100CTCVR展示次数转化次数​×100。
ESMM：一个智能的搜索引擎增强模型
gitblog_00089的博客
04-22 424
ESMM：一个智能的搜索引擎增强模型 去发现同类优质开源项目:https://gitcode.com/ 是一个基于深度学习的搜索引擎匹配和排序模型。该项目旨在提升搜索引擎的精准度，通过理解用户的查询意图和网页的内容相关性，提供更加精确的搜索结果。 项目简介 ESMM（Enhanced Search Model with Memory Mechanism）结合了记忆网络（Memory Network...
ESMM - 完整空间多任务模型（阿里）
weixin_43646592的博客
05-18 721
ESMM - 完整空间多任务模型（阿里）
深度模型（十）：ESMM
Jony0917的专栏
08-30 7458
摘要 准确的估计CVR(点击后转化率)对于推荐和广告这类排序系统来说非常关键。传统的CVR模型采用流行的深度学习方法达到目前最好的效果。但是也遇到了一些问题。比如，传统的CVR模型采用点击后的数据训练，但是要在整体数据上做预测。这导致样本选择偏差问题。另外，还存在比较严重的数据稀疏问题。本文我们从一个全新的角度建模CVR预估问题，充份利用用户行为序列：曝光 -> 点击 -> 转化。ES...
esmm代码
最新发布
03-17
### ESMM模型简介 ESMM（Entire Space Multi-Task Model）是一种多任务学习框架，主要用于解决推荐系统中的CTR预估问题。它通过联合建模点击率（CTR）、转化率（CVR）以及最终目标——购买率（CTCVR），从而提升整体预测效果[^1]。 以下是基于TensorFlow实现的一个简单版本的ESMM代码示例： ```python import tensorflow as tf class ESMM(tf.keras.Model): def __init__(self, user_feature_dim, item_feature_dim, hidden_units=64): super(ESMM, self).__init__() # 定义共享层 self.shared_dense = tf.keras.layers.Dense(hidden_units, activation='relu') # CTR分支 self.ctr_dense_1 = tf.keras.layers.Dense(hidden_units, activation='relu') self.ctr_output = tf.keras.layers.Dense(1, activation='sigmoid') # CVR分支 self.cvr_dense_1 = tf.keras.layers.Dense(hidden_units, activation='relu') self.cvr_output = tf.keras.layers.Dense(1, activation='sigmoid') def call(self, inputs): user_features, item_features = inputs # 特征拼接 concat_features = tf.concat([user_features, item_features], axis=-1) # 共享表示 shared_representation = self.shared_dense(concat_features) # CTR 预测 ctr_hidden = self.ctr_dense_1(shared_representation) ctr_pred = self.ctr_output(ctr_hidden) # CVR 预测 cvr_hidden = self.cvr_dense_1(shared_representation) cvr_pred = self.cvr_output(cvr_hidden) # 计算CTCVR (CTR * CVR) ctcvr_pred = tf.multiply(ctr_pred, cvr_pred) return ctr_pred, cvr_pred, ctcvr_pred # 创建模型实例 model = ESMM(user_feature_dim=10, item_feature_dim=20) # 构造虚拟输入数据 user_input = tf.random.normal(shape=(32, 10)) # 假设有32个样本，每个用户的特征维度为10 item_input = tf.random.normal(shape=(32, 20)) # 每个物品的特征维度为20 # 调用模型并获取输出 ctr_predictions, cvr_predictions, ctcvr_predictions = model((user_input, item_input)) print(f"CTR Predictions Shape: {ctr_predictions.shape}") print(f"CVR Predictions Shape: {cvr_predictions.shape}") print(f"CTCVR Predictions Shape: {ctcvr_predictions.shape}") ``` 上述代码定义了一个简单的ESMM架构，其中包含了两个主要的任务分支：CTR和CVR，并通过两者的乘积计算得到最终的目标指标CTCVR[^2]。 ### 关于ESMM的关键点说明 1. **共享底层网络** ESMM的核心在于其共享部分参数的设计，使得不同任务之间能够相互促进训练过程，减少过拟合风险的同时提高泛化能力[^3]。 2. **多任务优化目标函数** 在实际应用中，通常会设计一个多任务损失函数来综合考虑各个子任务的表现。例如可以采用加权求和的方式组合CTR、CVR等任务的交叉熵损失[^4]。 3. **应用场景扩展** 尽管最初被应用于电商场景下的广告投放决策支持领域，但随着研究深入和技术发展，该方法已被广泛移植到其他多种业务场景之中，比如短视频平台的信息流推荐服务等等[^5]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值