超级会员免费看
LambdaRank 提出了一种解决信息检索中排序问题的新方法，通过隐式损失函数来优化非平滑的目标损失。该方法避免了排序问题带来的困难，尤其在面对如NDCG这样的多级质量度量时。LambdaRank 通过定义文档得分的梯度规则，实现了对排序的调整，从而提高排序准确性和训练速度。在多个数据集上，LambdaRank 显示出了对比 SOTA 排序模型的显著优势。
Abstract
信息检索中的质量度量往往特别难优化，因为这些指标仅通过对应给定 query 返回的文档顺序间接地依赖于模型打分。 因此，损失函数对于模型参数的导数要么是 0，要么未定义。在本文中，我们提出一类简单、灵活的算法—— LambdaRank, 通过隐式损失函数避免了这些问题。
我们使用神经网络模型来描述 LambdaRank, 不过 LambdaRank 可以应用于任何可微函数。我们给出了隐式损失函数为凸的必要和充分条件，并且说明了这个通用方法具有简单的物理解释。
我们还展示了相对一个 SOTA 排序模型，在多个数据集上显著的 accuracy 提升。我们还说明了 LambdaRank 提供了一个显著加速这个 SOTA 模型训练过程的方法。虽然本文的目标是解决排序问题，但提出的方法可以应用于任何非平滑多变量损失函数。
Introduction
机器学习任务中的两类损失：
- target cost: the desired cost
- optimization cost: the cost used in the optimization process,
- make the optimization task tractable(smooth,convex,etc.)
- and It should approximate the target cost well
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
