2021-09-03Dien

最新推荐文章于 2024-12-27 12:50:22 发布
最新推荐文章于 2024-12-27 12:50:22 发布
阅读量283 收藏
点赞数
分类专栏： 推荐系统RecSys 文章标签： 神经网络 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sinat_37574187/article/details/120079840
版权
本文介绍了Din模型在广告点击率预估中的应用，该模型通过结合Wide模型的线性特征和Deep模型的非线性特征，提升了模型的准确性和拓展性。Din模型引入局部激活机制，关注用户历史行为与候选商品的关联性，而Dien模型进一步考虑了用户兴趣的动态演化，通过GRU单元捕捉兴趣的时序依赖性，以提高预测精度。实验结果显示，这些模型在广告点击率预测上表现出色。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

AUC 值被定义为 ROC 曲线先下方的面积，取之范围在(0,1)之间，ROC 曲线越靠近左上方 AUC 的值越大，预估模型的结果越好。

该模型框架是将两种模型进行联合训练，综合利用浅 层模型的记忆能力和深层模型的泛化能力，既能学习到线性特征又能学习到非线性特 征，实现单模型可以兼顾准确性和拓展性。 （1）Wide 模型 Wide 模型是广义线性模型，计算公式如式（3-1࿰

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI上推荐 之 DIEN模型(序列模型与推荐系统的花火碰撞)
Miracle8070
03-06 8034
1. 前言 随着信息技术和互联网的发展， 我们已经步入了一个信息过载的时代，这个时代，无论是信息消费者还是信息生产者都遇到了很大的挑战： 信息消费者：如何从大量的信息中找到自己感兴趣的信息？ 信息生产者：如何让自己生产的信息脱颖而出， 受到广大用户的关注？ 为了解决这个矛盾， 推荐系统应时而生， 并飞速前进，在用户和信息之间架起了一道桥梁，一方面帮助用户发现对自己有价值的信息， 一方面让信息能够展现在对它感兴趣的用户前面。 推荐系统近几年有了深度学习的助推发展之势迅猛， 从前深度学习的传统推荐模型(协
2021-09-03DIEN分成两步去抓取用户的兴趣演化：1兴趣抽取层 去抽取基于用户行为序列的兴趣序列2兴趣演化层 跟target item相关
强化学习曾小健
09-03 285
DIEN分成两步去抓取用户的兴趣演化： 1兴趣抽取层 去抽取基于用户行为序列的兴趣序列 2兴趣演化层 跟target item相关 然后把 最终的兴趣表示和 ad, user profile, context 的嵌入表示concat一下，再输入MLP中。 2.1 兴趣抽取层 如上图所示，淡黄色的部分其实就是兴趣抽取层。这一层是将用户的时间序列嵌入向量e(t)给输入该层。 这层的输入数据规模是 N*T, N是用户数量，T是序列长度，如上图所示。根据论文所说，他们制作了N个行为序列对，这个对（pai
推荐系统（十二）阿里深度兴趣网络（二）：DIEN模型（Deep Interest Evolution Network）
天泽28的专栏
02-26 9463
目前的CTR预估模型都直接把用户行为当做用户兴趣，简单的做个embedding后就进入到MLP中，并没有挖掘潜藏在这些行为之后用户的兴趣。DIEN则通过用户行为序列挖掘背后隐藏的用户兴趣及进化过程。
CTR之行为序列建模用户兴趣：DIEN
sgyuanshi的博客
03-12 1752
在CTR模型中，**通过用户的行为数据捕获用户的潜在兴趣是非常重要的**。另外，考虑到外在环境和内在认知的变化，**用户的兴趣是随着时间在动态演变的**。
DIEN模型
futurewq的博客
02-15 414
DIEN
[CTR模型] DIEN（Deep Interest Evolution Network）模型解读与Deepctr实现
zhong_ddbb的博客
10-10 2386
文章目录背景基本原理1. 模型的输入2. Interest Extractor Layer3. Interest Evolving LayerDeepctr实现 背景 DIEN（Deep Interest Evolution Network）是DIN的改进版，先回顾一下DIN模型： DIN模型的核心思想是：在用户兴趣多样性的推荐背景下，利用用户的历史行为数据，通过Attention机制来捕捉被推荐物品的相对兴趣。DIN模型没有考虑到用户的兴趣的动态变化，如何在CTR中捕捉到用户兴趣的发展变化，就是DIEN
2021-09-03din 与dien
强化学习曾小健
09-03 281
背景每点击付费(CPC) 是广告系统中最常见的计费形式之一，广告商对广告的每次点击进行收费。在CPC广告系统中，点击率(CTR)预测的效果不仅影响整个平台的最终收益，还会影响用户体验和满意度。 在大多数非搜索的电子商务场景中，用户不主动表达自己当前的意愿。因此设计能够捕捉用户动态兴趣的模型是提高CTR预测性能的关键。 DIN[4]引入了一个attention机制来激活具有意义的历史行为，从而获取目标物品的相关兴趣，以得到自适应的兴趣表示。但： DIN将用户行为直接视作兴趣，然而潜在的兴趣很难通过显.
DIEN模型介绍
舟
04-05 2430
文章目录DIEN介绍兴趣抽取层辅助loss兴趣演化层整体模型结构图实验对比参考 DIEN介绍 在CTR预估中，捕捉用户行为背后隐式的兴趣是非常重要的，而且因为外部环境和用户心智的变化，用户的兴趣会随着时间不断演化。 传统的CTR预估把用户行为直接表示为兴趣，缺少在具体行为背后的隐式兴趣，而且很少有工作考虑兴趣的演化。 DIEN设计了一个兴趣抽取层捕捉了用户历史行为的兴趣，在这层中提出了一个辅助lo...
[搜广推]深度学习推荐模型（9）——序列模型在推荐系统中的应用：DIEN
最新发布
m0_69281817的博客
12-27 1112
DIEN是DIN模型的进化版本，在MLP的基础上引入先验知识（用户对目标广告的感兴趣程度）来提高模型准确性，因此要考虑如何对兴趣建模。
推荐系统 之 DIEN
Francis_s的博客
11-19 1693
1. DIEN的由来 其实，之前我们讨论的所有模型都是基于用户的过往历史进行物品的推荐，但是这个想法往往缺少了一个很重要的维度去模拟我们日常挑选商品的行为，那就是时间序列信息。为什么说时间序列信息对推荐来说是有价值的呢？一个典型的电商用户的现象可以说明这一点，我们在日常消费，或者日常逛淘宝的时候，其实发现自己的兴趣迁移是非常快的，例如用户在挑选一双篮球鞋的时候，这位用户上周的行为序列都会集中在篮球鞋整个品类的商品上，但在他完成购买后，本周他的购物兴趣可能变成买一个机械键盘了。但是用以往的模...
论文阅读之DIEN模型
ibelieveyouonly的博客
09-09 1451
目录总体介绍模型介绍兴趣提取层兴趣演化层GRU with attentional input (AIGRU)Attention based GRU(AGRU)GRU with attentional update gate (AUGRU)实验 总体介绍 提升点击率（CTR），毋庸置疑，现已经成为广告系统中的核心任务之一，而提高点击率就离不开商品个性化推荐。但目前的大多数模型都直接将行为表示为兴趣，缺乏针对具体行为背后潜在兴趣进行建模，比如已经有的DIN模型，它强调用户兴趣是多样的，并使用基于注意力模型来捕获
精通推荐算法25：行为序列建模之DIEN -- GRU建模用户行为序列
谢杨易的博客
08-20 1231
DIN通过AttentionPooling的精巧设计，解决了行为序列与候选商品的充分交叉、行为序列针对不同候选物品的自适应建模、以及各历史行为重要性的有效区分等问题，引起了业界对用户行为序列建模的热情。但其序列中各历史行为之间没有关联，时序信息也是缺失的，无法表达用户兴趣的演化过程，导致行为序列建模的表达能力不足。进一步理解，类似于自然语言处理中的文本序列，用户行为序列本质上也是一个序列，用户当前是否点击与之前的历史行为息息相关。比如用户购买手机后，大概率接下来会买手机壳和贴膜。
【推荐算法】单目标精排模型——DIEN
weixin_51908696的博客
12-11 836
阿里巴巴广告点击率预测截至2018年，还没有相关的推荐算法考虑到用户兴趣的趋势。作者认为大多数的模型是直接将行为视为兴趣，无法直接提取用户真正的潜在兴趣特征。因此，作者提出了DIEN模型，利用通过用户历史行为序列捕捉用户的兴趣序列特征，通过处理目标的兴趣演变过程。： 笔者认为这篇文章的模型创新关键点在于关注了RNN的隐藏状态，通过一个辅助损失训练每一个隐藏状态，每一个隐藏状态对应一个行为序列的子兴趣，并基于这些子兴趣结合注意力机制进一步学习兴趣的演化发展。
DIEN-序列模型与推荐系统的结合
qq_39691463的博客
11-12 1472
一：DIEN的进化动机 1，序列信息加强了最近行为对下次行为预测的影响。 2，序列模型能够学习到购买趋势的信息 如果放弃了序列信息，则模型学习时间和趋势这类信息的能力就会变弱，推荐模型就仍是基于用户所有购买历史的综合推荐，而不是针对下一次购买的推荐，显然从业务角度讲，后者才是推荐系统真正的目标。 二：DIEN的模型结构 从整体上看，模型仍然是输入层+embedding层+链接层+全链接神经网络层+输出层。 ...
每周一文（七）阿里DIEN模型
更木的博客
04-04 424
契机 对用户兴趣进行进一步的抽象建模，从而更加精确地提取用户兴趣。 模型结构 模型的核心结构如下所示： 模型阐述 模型的核心组件分为四个部分：用户行为层、兴趣提取层、辅助loss以及兴趣进化层，如下会分别对这四个部分进行讲述。 用户行为层 这一层比较简单，即将用户的item播放历史中的item转换为embedding，为后续步骤提供数据基础。 兴趣提取层 这一层的核心目标为将用户的播放历史以时间为基础抽象出用户的兴趣。具体调用的计算模块为GRU。个人用一个较为简单易懂的例子来解释该场景：一开始用户点击了一
推荐系统---深度兴趣网络DIN&DIEN
weixin_34234721的博客
01-14 468
深度学习在推荐系统、CTR预估领域已经有了广泛应用，如wide&deep、deepFM模型等，今天介绍一下由阿里算法团队提出的深度兴趣网络DIN和DIEN两种模型 paper DIN：https://arxiv.org/abs/1706.06978 DIEN：https://arxiv.org/abs/1809.03672 code DIN：https://github.com/zhoug...
DIEN在新闻推荐中的简化探索
yujianmin1990的专栏
07-11 1313
前言   阿里的DIEN的文章很有意思，用GRU对用户行为作兴趣状态描述，再用target与各个兴趣状态计算次attention，再交给AUGRU来捕捉兴趣演化。最近尝试着将其思路应用到实际新闻推荐中，鉴于原本DIEN模型稍微复杂，想做下简化工作，能够在捕捉用户历史兴趣不同权重的同时，保证预测效果稳定。 兴趣表达层   我们将用户的历史行为所代表的兴趣状态，分为长期兴趣和短期兴趣，在Ari...
深度兴趣网络模型探索——DIN+DIEN+DSIN
热门推荐
baymax_007的博客
06-10 1万+
目录 DIN 背景 din模型结构提出 自适应正则提出 相关延伸 系统概述 推荐流程介绍 特征工程 基本模型结构 DIN模型 自适应正则 DIEN 背景 DIEN模型提出 DIEN关键点 DIEN模型 兴趣提取层 兴趣演化层 DIEN模型结构 DSIN 背景 DSIN模型提出 DSIN改进点 DSIN模型 会话划分层 会话兴趣提取层 会话兴趣...
【论文导读】2019阿里CTR预估模型---DIEN（深度兴趣演化网络）
Blank_Space
07-07 1950
前言今天分享一篇阿里2019发表在AAAI上的CTR预估的论文《Deep Interest Evolution Network for Click-Through Rate Predic...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

强化学习曾小健

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值