pointwise更为常见,根据某个样本和答案的匹配关系进行展现。
pairwise是损失函数用了正负样本对的预测概率大小关系。更注重两者前后顺序。
重排常用到 listwise。
1 Pointwise
在pointwise中把排序问题当成一个二分类问题
训练样本 可以理解为三元组:
![]()
模型:二分类模型 h
损失函数:二分类交叉熵。训练方式分为 Y 为 soft_label 或者 hard_label 了。
预测时,二分类模型 用 预测概率 来排序候选答案。
2 Pairwise:qp对 (损失函数的不同)
在pairwise方法中排序模型 让正确的回答的得分 明显高于 错误的候选回答。给一个提问,pairwise给定一对候选回答学习并预测
这篇博客介绍了自然语言处理中的三种排序模型:Pointwise将排序问题视为二分类,Pairwise关注正负样本对的顺序,而Listwise则考虑整个候选列表。Pointwise常见但可能不准确,Pairwise通过比较得分改善排序,Listwise通过全答案空间建模更接近真实排序。研究表明,在某些数据集上,Listwise表现优于Pointwise。
订阅专栏 解锁全文
2106

被折叠的 条评论
为什么被折叠?



