深度神经网络在Youtube推荐中的应用--开篇作之一--含部分实用技巧

Deep Neural Networks for YouTube Recommendations

Paul Covington, Jay Adams, Emre Sargin 

Google

https://dl.acm.org/doi/pdf/10.1145/2959100.2959190

YouTube是规模最大的并且最成熟的工业界推荐系统之一。

这篇文章从比较高的层次来描述这个系统，并且主要集中在深度学习带来的突破性提升。这篇文章根据经典的二阶段信息检索二分法分成两部分，首先，详细介绍深层候选生成式模型，然后分开描述深层排序模型。

Youtube的推荐面临以下三个挑战

推荐系统架构图示如下

离在线指标区别如下

作者们将这种推荐转为多分类问题

作者们为了得到更高效的多分类模型，采用了负采样等技巧

线上服务中，作者们采用了最近邻搜索等技巧

模型结构图示如下

深度神经网络作为泛化矩阵分解的优势如下

"样本年龄"的处理技巧如下

"距今年龄"特征的重要性图示如下

关于label和上下文选取，作者们的经验如下

特征以及网络深度对模型效果影响如下

不同深度的网络结构含义如下

排序网络结构图示如下

特征层面，作者们做的部分分类如下

下面是部分比较有用的特征

类别特征embedding注意点有以下几个

数值型特征，部分处理技巧如下

关于建模期望观看时间，作者们使用了加权逻辑回归算法

不同的模型深度及宽度对模型效果影响如下

---

              我是分割线

---

您可能感兴趣

BERT深层双向Transformers预训练在语言理解中的应用

异构mini图网络在欺诈邀请检测中的应用(已开源)

社交表示在线学习算法DeepWalk(已开源)

聊聊常见的推荐系统演化过程

模型蒸馏在收益管理中的应用(如何进行可解释个性化定价)

密歇根州立大学联合京东提出深度强化学习算法DeepPage用于分页推荐

诺亚方舟实验室提出数值特征自动离散框架AutoDis用于CTR预估

乔治亚理工提出基于GAN的强化学习算法用于推荐系统

民宿平台airbnb是如何动态定价的

密歇根州立大学联合领英提出基于AutoML的Embedding框架AutoDim

密歇根州立大学联合字节提出AutoEmb用于流式推荐

深度学习在CTR预估中的应用

伊利诺伊大学联合中科院提出动态图协同过滤算法DGCF(已开源)

加州大学提出对偶注意力RNN用于时间序列预估

宾大微软联合提出深层强化学习框架用于新闻推荐

中科大等提出深度注意力网络DAM用于捆绑推荐

浙大中科院微软等提出分层注意力网络SHAN用于序列推荐系统

加州大学提出时间间隔自注意力模型用于序列推荐(已开源)

普渡大学提出轻量级特征交互算法deeplight大幅加速ctr预估在线服务(已开源)