19期推荐系统实践学习(五）

排序模型
通过召回的操作， 已经进行了问题规模的缩减， 对于每个用户， 选择出了N篇文章作为了候选集，并基于召回的候选集构建了与用户历史相关的特征，以及用户本身的属性特征，文章本身的属性特征，以及用户与文章之间的特征，下面就是使用机器学习模型来对构造好的特征进行学习，然后对测试集进行预测，得到测试集中的每个候选集用户点击的概率，返回点击概率最大的topk个文章，作为最终的结果。

排序阶段选择了三个比较有代表性的排序模型，它们分别是：

• LGB的排序模型
• LGB的分类模型
• 深度学习的分类模型DIN

得到了最终的排序模型输出的结果之后，还选择了两种比较经典的模型集成的方法：

• 输出结果加权融合
• Staking（将模型的输出结果再使用一个简单模型进行预测）

LGB的排序模型简介 ：
参考链接：
https://blog.youkuaiyun.com/demm868/article/details/103485658
https://mp.weixin.qq.com/s/jzsQqhkkYDY8Yiyu2VAwsg
下面是LGB的排序模型的主要介绍：

一、为什么需要使用机器学习的方法来进行排序
排序(Ranking)一直是信息检索的核心研究问题，有大量的成熟的方法，主要可以分为以下两类：相关度排序模型和重要性排序模型。

• 相关度排序模型(Relevance Ranking
  Model)：根据查询和文档之间的相似度来对文档进行排序。常用的模型包括：布尔模型(Boolean
  Model)，向量空间模型(Vector Space Model)，隐语义分析(Latent Semantic
  Analysis)，BM25，LMIR模型等等。

• 重要性排序模型(Importance Ranking Model)：不考虑查询，而仅仅根据网页(亦即文档)之间的图结构来判断文档的权威程度，典型的权威网站包括Google，Yahoo!等。常用的模型包括PageRank，HITS，HillTop，TrustRank等等。

  对于传统的排序模型，单个模型往往只能考虑某一个方面(相关度或者重要性)，所以只是用单个模型达不到要求。搜索引擎通常会组合多种排序模型来进行排序，但是，如何组合多个排序模型来形成一个新的排序模型，以及如何调节这些参数，都是一个很大的问题。

  使用机器学习的方法，我们可以把各个现有排序模型的输出作为特征，然后训练一个新的模型，并自动学得这个新的模型的参数，从而很方便的可以组合多个现有的排序模型来生成新的排序模型。
  Learning to Rank :用机器学习方法解决排序问题的方法称为LTR(Learning to Ranking)。与文本分类不同，L2R考虑的是给定查询的文档集合的排序。所以，L2R用到的特征不仅仅包含文档d本身的一些特征(比如是否是Spam)等，也包括文档d和给定查询q之间的相关度，以及文档在整个网络上的重要性(比如PageRank值等)，亦即我们可以使用相关性排序模型和重要性排序模型的输出来作为L2R的特征。
  二、L2R训练数据的获取
  L2R的训练数据可以有三种形式：对于每个查询，各个文档的绝对相关值(非常相关，比较相关，不相关，等等)；对于每个查询，两两文档之间的相对相关值(文档1比文档2相关，文档4比文档3相关，等等)；对于每个查询，所有文档的按相关度排序的列表(文档1>文档2>文档3)。这三种形式的训练数据之间可以相互转换。

训练数据的获取有两种主要方法：人工标注和从日志文件中挖掘。
三、L2R模型训练
L2R是一个有监督学习过程。对与每个给定的查询-文档对(query document pair)，抽取相应的特征(既包括查询和文档之间的各种相关度，也包括文档本身的特征以及重要性等)，另外通过或者人工标注或者从日志中挖掘的方法来得到给定查询下文档集合的真实序列。然后我们使用L2R的各种算法来学到一个排序模型，使其输出的文档序列和真实序列尽可能相似。
L2R算法主要包括三种类别：PointWise，PairWise，ListWise。
排序系统的工作示意图如下: