深度学习

深度学习在推荐中发挥的作用：

• 能够直接从内容中提取特征，表征能力强

• 容易对噪声数据进行处理，抗噪能力强

• 可以使用循环神经网络对动态或者序列数据进行建模

• 可以更加准确的学习user和item的特征

基于DNN的推荐算法

推荐系统和通用搜索排序问题共有的一大挑战为同时具备记忆能力和泛化能力。

• 记忆能力可以解释为学习那些经常共同出现的特征，发现历史数据中存在的共现性（提升推荐的准确性）

• 泛化能力则基于迁移相关性，探索之前几乎没有出现过的新特征组合（提升推荐的多样性）

比如 YouTube 2006年提出的Wide & Deep模型

整个推荐系统可分为召回和排序两个阶段，召回阶段一般通过i2i/u2i/u2u/user profile等方式“粗糙”地召回候选物品，召回阶段的数量是百万级别的，排序阶段则是对召回阶段的数据使用更精细的特征进行计算user-item的排序分，作为最终输出推荐结果的依据。

召回阶段

在这种超大规模分类问题上，至少要有几百万个类别，实际训练采用的是Negative Sample（负采样），或是word2vec方法中提到的SkipGram方法。

整个模型包含三个隐含的DNN结构，如下图所示。输入是用户浏览历史、搜索历史、人口统计学信息和其余上下文信息concat成的输入向量，输出分为线上和离线训练两个部分。

离线训练阶段输出层为softmax层，输出为上述公式表达的概率。线上则是直接利用user向量查询相关商品，最重要问题在性能方面，则利用类似局部敏感哈希的算法提供最相关的个视频。

类似于word2vec算法，每个视频都会被embedding到固定维度的向量中，用户不同行为下的视频，通过加权平均等方式汇总得到固定维度的vector作为DNN输入。

特征一般从下面几个方面入手：

• 用户有行为的物品（点击、点赞、收藏、关注、分享、评论等，不同地方行为定义可能会有不同），将其进行embedding

• 人口统计学信息：性别、年龄、地域等

• 其他上下文信息：设备、登陆状态、时间等

• 交叉信息：用户xCate（cate可以是物品的类别、属性等）

在有监督学习问题中，最重要的是选择Label（目标变量），因为label决定了模型的训练目标，而模型和特征是为了逼近label。

训练模型时的小trick：

• 使用更广的数据源，即不局限于推荐场景的数据，也可以包括搜索等的数据

• 为每个用户生成固定数量的训练样本，即平等的对待每一个用户，避免loss被少数活跃用户代表，能明显提升线上效果

• 抛弃序列信息，即对过去用户有行为的query的embedding向量进行加权平均

• 不对称的共同浏览（asymmetric cowatch）问题：所谓的asymmetric cowatch指的是用户在浏览视频时候，往往都是序列式的，开始看一些比较流行的，逐渐找到细分的领域

下图(a)是heldout方式，利用上下文信息预估中间的一个视频，图(b)是predicting next watch的方式，则是利用上文信息，预估下一次浏览的视频。实验结果表示tu(b)的方式在线上A/B Test 中表现更佳，实际上，传统的协同过滤算法，都是隐含地采用图(a)的heldout方式，忽略了不对称的浏览模型。

排序阶段

在指定rank label的时候，单纯的CTR是有迷惑性的，比如某些靠关键词或者图片吸引用户进行高点击的视频、文章的跳出率是很高的，因此设定label的时候要与自己想要得到的期望KPI相一致（比如留存、时长等），同时通过线上的A/B Test进行调整。

特征工程中最难的是如何建模用户时序行为（temporal sequence of user actions），并且将这些行为和要排序的item进行关联。

下面列出来一些特征工程的小trick：

• 考虑用户在类别下的行为汇总，比如度量用户对视频的喜欢程度，可以考虑用户与视频在所在频道间的关系

• 数量特征（浏览某个类别的次数）和时间特征（最近一次浏览某个类别距今时间），这两类特征具有很强的泛化能力。除了这两类正向的特征，用户在某些类别的PV但不点击的行为，即负反馈sigmal同样非常重要

• 把召回阶段的信息（比如推荐的来源和所在的来源分数），传播到排序阶段也同样能够取得很好的提升效果

• 用NN处理连续特征，将稀疏的高基数空间的离散特征embedding到稠密的向量中（维度的选定一般遵循log法，假设有100维的无重复特征，可以embedding到10维）

• ID编码类特征并不需要对全部的id进行embedding编码，只需要对top N的物品进行embedding编码即可，其余置为0

• 同维度不同特征采用的相同ID的embedding是共享的（比如过去浏览的物品ID，点击的物品ID），这样可以大大加速训练过程，但要注意的是输入层要进行分别填充

• NN对输入特征的尺度和分布都是非常敏感的，基本除了树模型，大多数ML算法都是这样，一般会对特征进行归一化处理，加速模型收敛过程，一种推荐的归一化方法为：累计分位点，

• 特征构造时会讲归一化后的的平方根和平方作为网络输入，以期望网络更容易的学到特征的次线性（sub-linear）和超线性（super-linear）函数

基于DeepFM的推荐算法

DeepFm的设计思路来自于哈工大&华为诺亚方舟实验室，主要关注如何学习user behavior背后的组合特征（feature interactions），从而最大化推荐系统的CTR，论文提出构建一个端到端的可以同时突出低阶和高阶feature interactions的学习模型DeepFM

DeepFM由FM和NN组成，和Wide & Deep的结构类似，但弥补了W&D的一些不足，LR是TR中最常用的算法，但LR的前提是假设特征之间是相互独立的，没有考虑特征之间的相互关系，即忽略了feature pair等高阶信息。比如在某个场景下，男性和女性的点击率是不一样的，如果是LR这回分别考虑性别和点击次数两个特征，这显然是不合适的，当然也可以通过特征交叉解决这种情况，但是依赖强大的特征工程工作。

FM

上图为DeepFM的网络结构图，从图中可以看出，左侧部分是一个FM算法，右侧则是NN，他具有以下特点：

• 结合了广度和深度模型的优点，联合训练FM模型和DNN模型，同时学习低阶特征组合和高阶特征组合

• 端到端模型，无需特征工程

• DeepFM 共享相同的输入和 embedding vector，训练更高效

• 评估模型时，用到了一个新的指标“Gini Normalization”

上图中在FM和DNN之前引入了一层Dense Embedding层，其目的是对输入向量进行“压缩”，降低模型训练的特征维度。

有几点需要注意的：

• Sparse Featurs表示原始的经过onehot处理的特征

• Dense Embeddings为FM算法中的特征交叉项的隐向量矩阵铺平，Dense Embeddings的维度由field的个数和隐向量的长度相乘决定

• Sparse Features层和Dense Embeddings层进行特征交叉计算即为FM算法的特征交叉计算项

• 特征交叉项的隐向量矩阵铺平之后在FM和DNN之间是共享的

• Field i表示的是i特征，但是i特征经过编码之后可能会有多维，比如性别特征，onehot编码后为男、女、未知

更多关于DeepFM可以参考：

• 原始论文：https://arxiv.org/abs/1703.04247

• https://www.cnblogs.com/wkang/p/9881921.html

• https://zhuanlan.zhihu.com/p/41439552

基于矩阵分解和图像特征的推荐算法

近些年基于上下文环境的推荐系统引起了大家的广泛关注，这些上下文环境包括物品的属性、用户画像特征、物品的评论等。研究人员希望通过这些附加信息来缓解评分数据稀疏等问题，对于那些没有评分数据的物品，可以基于上下文环境来推荐，从而进一步提升推荐系统的质量。

图像在一定程度上也能表达物品的内容属性信息，比如两部电影的色调、布局等，因此如果将电影的图像信息也加到推荐系统中，必定能提升推荐系统的效果。为此，作者们提出了一种基于矩阵分解和图像特征的推荐算法（Matrix Factorization+，缩写为MF+）。

假设有用户和电影的偏好矩阵，其中代表用户的数量，代表电影的数量，矩阵里的每个元素代表用户对物品的偏好。如果加入图像特征，则用户对电影的偏好可以表示为：

其中：

• 表示用户的偏好向量

• 是电影的偏好向量

• 是总评分的偏置项

•  表示用户的偏置项

•  表示电影的偏置项

•  表示电影的视觉特征，可以写为：

其中：

•  表示电影 和的相似度

•  表示相似度大于的电影集合

•  是缩放因子，表示海报和静止帧图片的一致性

•  表示海报和多张静止图片的集合