贝叶斯个性化排序(BPR)算法小结

本文深入探讨了贝叶斯个性化排序(BPR)算法,一种基于矩阵分解的推荐算法,旨在优化用户对商品的个性化排序,而非全局评分。文章详细介绍了BPR的背景、建模思路、算法优化流程及其实现细节,对比了BPR与funkSVD等传统推荐算法的不同。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

我只是一名搬运工,以下内容来自:刘建平Pinard https://www.cnblogs.com/pinard/p/9128682.html


前言

  在矩阵分解在协同过滤推荐算法中的应用中,我们讨论过像funkSVD之类的矩阵分解方法如何用于推荐。今天我们讲另一种在实际产品中用的比较多的推荐算法:贝叶斯个性化排序(Bayesian Personalized Ranking, 以下简称BPR),它也用到了矩阵分解,但是和funkSVD家族却有很多不同之处。下面我们来详细讨论。

1. BPR算法使用背景

  在很多推荐场景中,我们都是基于现有的用户和商品之间的一些数据,得到用户对所有商品的评分,选择高分的商品推荐给用户,这是funkSVD之类算法的做法,使用起来也很有效。但是在有些推荐场景中,我们是为了在千万级别的商品中推荐个位数的商品给用户,此时,我们更关心的是用户来说,哪些极少数商品在用户心中有更高的优先级,也就是排序更靠前。也就是说,我们需要一个排序算法,这个算法可以把每个用户对应的所有商品按喜好排序。BPR就是这样的一个我们需要的排序算法。

2. 排序推荐算法背景介绍

  排序推荐算法历史很悠久,早在做信息检索的各种产品中就已经在使用了。最早的第一类排序算法类别是点对方法(Pointwise Approach),这类算法将排序问题被转化为分类、回归之类的问题,并使用现有分类、回归等方法进行实现。第二类排序算法是成对方法(Pairwise Approach),在序列方法中,排序被转化为对序列分类或对序列回归。所谓的pair就是成对的排序,比如(a,b)一组表明a比b排的靠前。我们要讲到的BPR就属于这一类。第三类排序算法是列表方法(Listwise Approach),它采用更加直接的方法对排序问题进行了处理。它在学习和预测过程中都将排序列表作为一个样本。排序的组结构被保持。

  本文关注BPR,这里我们对排序推荐算法本身不多讲,如果大家感兴趣,可以阅读李航的A Short Introduction to Learning to Rank.

3. BPR建模思路

  在BPR算法中,我们将任意用户u对应的物品进行标记,如果用户u在同时有物品i和j的时候点击了i,那么我们就得到了一个三元组<u,i,>\lt u,i,\gt<u,i,>,它表示对用户u来说,i的排序要比j靠前。如果对于用户u来说我们有m组这样的反馈,那么我们就可以得到m组用户u对应的训练样本。

  既然是基于贝叶斯,那么我们也就有假设,这里的假设有两个:一是每个用户之间的偏好行为相互独立,即用户u在商品i和j之间的偏好和其他用户无关。二是同一用户对不同物品的偏序相互独立,也就是用户u在商品i和j之间的偏好和其他的商品无关。为了便于表述,我们用>u\gt _u>u符号表示用户u的偏好,上面的<u,i,j>\lt u,i,j\gt<u,i,j>可以表示为:i>uji\gt _uji>uj

  在BPR中,这个排序关系符号>u\gt _u>u满足完全性,反对称性和传递性,即对于用户集U和物品集I:
   完整性:∀i,j∈I:i≠j⇒i>uj  ∪  j>ui\forall i,j \in I: i \neq j \Rightarrow i \gt _u j\; \cup\; j \gt _u ii,jI:i=ji>ujj>ui
   反对称性:∀i,j∈I:i>uj  ∩  j>ui⇒i=j\forall i,j \in I:i \gt _u j\; \cap\; j \gt _u i \Rightarrow i=ji,jI:i>ujj>uii=j
   传递性:∀i,j,k∈I:i>uj  ∩  j>uk⇒i>uk\forall i,j,k \in I:i \gt _u j\; \cap\; j \gt _u k\Rightarrow i \gt _uki,j,kI:i>ujj>uki>uk

  同时,BPR也用了和funkSVD类似的矩阵分解模型,这里BPR对于用户集U和物品集I的对应的U×IU \times IU×I的预测排序矩阵X‾\overline{X}X,我们期望得到两个分解后的用户矩阵WWW(∣U∣×k|U| \times kU×k)和物品矩阵HHH(∣I∣×k|I| \times kI×k),满足X‾=WHT\overline{X} = WH^TX=WHT

  这里的k和funkSVD类似,也是自己定义的,一般远远小于∣U∣,∣I∣|U|,|I|U,I

  由于BPR是基于用户维度的,所以对于任意一个用户u,对应的任意一个物品i我们期望有:
x‾ui=wu∙hi=∑f=1kwufhif\overline{x}_{ui} = w_u \bullet h_i = \sum\limits_{f=1}^kw_{uf}h_{if}xui=wuhi=f=1kwufhif

  最终我们的目标,是希望寻找合适的矩阵W,HW,HW,H,让X‾\overline{X}XXXX最相似。读到这里,也许你会说,这和funkSVD之类的矩阵分解模型没有什么区别啊? 的确,现在还看不出,下面我们来看看BPR的算法优化思路,就会慢慢理解和funkSVD有什么不同了。

4. BPR的算法优化思路

  BPR 基于最大后验估计P(W,H∣>u)P(W,H| \gt _u)P(W,H>u)来求解模型参数W,HW,HW,H,这里我们用θ\thetaθ来表示参数WWWHHH, >u\gt _u>u代表用户u对应的所有商品的全序关系,则优化目标是P(θ∣>u)P(\theta| \gt _u)P(θ>u)。根据贝叶斯公式,我们有:
P(θ∣>u)=P(>u∣θ)P(θ)P(>u)P(\theta| \gt _u) = \frac{P( \gt _u|\theta)P(\theta)}{P( \gt _u)}P(θ>u)=P(>u)P(>uθ)P(θ)

  由于我们求解假设了用户的排序和其他用户无关,那么对于任意一个用户u来说,P(>u)P( \gt _u)P(>u)对所有的物品一样,所以有:
P(θ∣>u)∝P(>u∣θ)P(θ)P(\theta| \gt _u) \propto P( \gt _u|\theta)P(\theta)P(θ>u)P(>uθ)P(θ)

  这个优化目标转化为两部分。第一部分和样本数据集D有关,第二部分和样本数据集D无关。

  对于第一部分,由于我们假设每个用户之间的偏好行为相互独立,同一用户对不同物品的偏序相互独立,所以有:
∏u∈UP(>u∣θ)=∏(u,i,j)∈(U×I×I)P(i>uj∣θ)δ((u,i,j)∈D)(1−P(i>uj∣θ))δ((u,j,i)∉D)\prod_{u \in U}P( \gt _u|\theta) = \prod_{(u,i,j) \in (U \times I \times I)}P(i \gt _u j|\theta)^{\delta((u,i,j) \in D)}(1-P(i \gt _u j|\theta))^{\delta((u,j,i) \not\in D) }uUP(>uθ)=(u,i,j)(U×I×I)P(i>ujθ)δ((u,i,j)D)(1P(i>ujθ))δ((u,j,i)D)

其中,δ(b)={1if  b  is  true0else\delta(b)= \begin{cases} 1& {if\; b\; is \;true}\\ 0& {else} \end{cases}δ(b)={10ifbistrueelse

  根据上面讲到的完整性和反对称性,优化目标的第一部分可以简化为:
∏u∈UP(>u∣θ)=∏(u,i,j)∈DP(i>uj∣θ)\prod_{u \in U}P( \gt _u|\theta) = \prod_{(u,i,j) \in D}P(i \gt _u j|\theta)uUP(>uθ)=(u,i,j)DP(i>ujθ)

  而对于P(i>uj∣θ)P(i \gt _u j|\theta)P(i>ujθ)这个概率,我们可以使用下面这个式子来代替:
P(i>uj∣θ)=σ(x‾uij(θ))P(i \gt _u j|\theta) = \sigma(\overline{x}_{uij}(\theta))P(i>ujθ)=σ(xuij(θ))

  其中,σ(x)\sigma(x)σ(x)是sigmoid函数。这里你也许会问,为什么可以用这个sigmoid函数来代替呢? 其实这里的代替可以选择其他的函数,不过式子需要满足BPR的完整性,反对称性和传递性。原论文作者这么做除了是满足这三个性质外,另一个原因是为了方便优化计算。

  对于x‾uij(θ)\overline{x}_{uij}(\theta)xuij(θ)这个式子,我们要满足当i>uji \gt _u ji>uj时,x‾uij(θ)>0\overline{x}_{uij}(\theta) \gt 0xuij(θ)>0, 反之当j>uij \gt _u ij>ui时,x‾uij(θ)<0\overline{x}_{uij}(\theta) \lt 0xuij(θ)<0,最简单的表示这个性质的方法就是
x‾uij(θ)=x‾ui(θ)−x‾uj(θ)\overline{x}_{uij}(\theta) = \overline{x}_{ui}(\theta) - \overline{x}_{uj}(\theta)xuij(θ)=xui(θ)xuj(θ)

  而x‾ui(θ),x‾uj(θ)\overline{x}_{ui}(\theta) , \overline{x}_{uj}(\theta)xui(θ),xuj(θ),就是我们的矩阵X‾\overline{X}X对应位置的值。这里为了方便,我们不写θ\thetaθ,这样上式可以表示为:x‾uij=x‾ui−x‾uj\overline{x}_{uij} = \overline{x}_{ui} - \overline{x}_{uj}xuij=xuixuj

  注意上面的这个式子也不是唯一的,只要可以满足上面提到的当i>uji \gt _u ji>uj时,x‾uij(θ)>0\overline{x}_{uij}(\theta) \gt 0xuij(θ)>0,以及对应的相反条件即可。这里我们仍然按原论文的式子来。

  最终,我们的第一部分优化目标转化为:∏u∈UP(>u∣θ)=∏(u,i,j)∈Dσ(x‾ui−x‾uj)\prod_{u \in U}P( \gt _u|\theta) = \prod_{(u,i,j) \in D} \sigma(\overline{x}_{ui} - \overline{x}_{uj})uUP(>uθ)=(u,i,j)Dσ(xuixuj)
    
  对于第二部分P(θ)P(\theta)P(θ),原作者大胆使用了贝叶斯假设,即这个概率分布符合正太分布,且对应的均值是0,协方差矩阵是λθI\lambda_{\theta}IλθI,即
P(θ)∼N(0,λθI)P(\theta) \sim N(0, \lambda_{\theta}I)P(θ)N(0,λθI)

  原作者为什么这么假设呢?个人觉得还是为了优化方便,因为后面我们做优化时,需要计算lnP(θ)lnP(\theta)lnP(θ),而对于上面假设的这个多维正态分布,其对数和∣∣θ∣∣2||\theta||^2θ2成正比。即:lnP(θ)=λ∣∣θ∣∣2lnP(\theta) = \lambda||\theta||^2lnP(θ)=λθ2

  最终对于我们的最大对数后验估计函数ln  P(θ∣>u)∝ln  P(>u∣θ)P(θ)=ln  ∏(u,i,j)∈Dσ(x‾ui−x‾uj)+lnP(θ)=∑(u,i,j)∈Dlnσ(x‾ui−x‾uj)+λ∣∣θ∣∣2  ln\;P(\theta| \gt _u) \propto ln\;P( \gt _u|\theta)P(\theta) = ln\;\prod\limits_{(u,i,j) \in D} \sigma(\overline{x}_{ui} - \overline{x}_{uj}) + ln P(\theta) = \sum\limits_{(u,i,j) \in D}ln\sigma(\overline{x}_{ui} - \overline{x}_{uj}) + \lambda||\theta||^2\;lnP(θ>u)lnP(>uθ)P(θ)=ln(u,i,j)Dσ(xuixuj)+lnP(θ)=(u,i,j)Dlnσ(xuixuj)+λθ2

  这个式子可以用梯度上升法或者牛顿法等方法来优化求解模型参数。如果用梯度上升法,对θ\thetaθ求导,我们有: ∂ln  P(θ∣>u)∂θ∝∑(u,i,j)∈D11+ex‾ui−x‾uj∂(x‾ui−x‾uj)∂θ+λθ\frac{\partial ln\;P(\theta| \gt _u)}{\partial \theta} \propto \sum\limits_{(u,i,j) \in D} \frac{1}{1+e^{\overline{x}_{ui} - \overline{x}_{uj}}}\frac{\partial (\overline{x}_{ui} - \overline{x}_{uj})}{\partial \theta} + \lambda \thetaθlnP(θ>u)(u,i,j)D1+exuixuj1θ(xuixuj)+λθ

  由于x‾ui−x‾uj=∑f=1kwufhif−∑f=1kwufhjf\overline{x}_{ui} - \overline{x}_{uj} = \sum\limits_{f=1}^kw_{uf}h_{if} - \sum\limits_{f=1}^kw_{uf}h_{jf}xuixuj=f=1kwufhiff=1kwufhjf

  这样我们可以求出:∂(x‾ui−x‾uj)∂θ={(hif−hjf)amp;if  θ=wufwufamp;if  θ=hif−wufamp;if  θ=hjf\frac{\partial (\overline{x}_{ui} - \overline{x}_{uj})}{\partial \theta} = \begin{cases} (h_{if}-h_{jf})&amp; {if\; \theta = w_{uf}}\\ w_{uf}&amp; {if\;\theta = h_{if}} \\ -w_{uf}&amp; {if\;\theta = h_{jf}}\end{cases}θ(xuixuj)=(hifhjf)wufwufamp;ifθ=wufamp;ifθ=hifamp;ifθ=hjf
 
  有了梯度迭代式子,用梯度上升法求解模型参数就容易了。下面我们归纳下BPR的算法流程。

5. BPR算法流程

  下面简要总结下BPR的算法训练流程:

  输入:训练集D三元组,梯度步长α\alphaα, 正则化参数λ\lambdaλ,分解矩阵维度k。

  输出:模型参数,矩阵W,HW,HW,H
  1. 随机初始化矩阵W,HW,HW,H
  2. 迭代更新模型参数:

wuf=wuf+α(∑(u,i,j)∈D11+ex‾ui−x‾uj(hif−hjf)+λwuf)w_{uf} =w_{uf} + \alpha(\sum\limits_{(u,i,j) \in D} \frac{1}{1+e^{\overline{x}_{ui} - \overline{x}_{uj}}}(h_{if}-h_{jf}) + \lambda w_{uf}) wuf=wuf+α((u,i,j)D1+exuixuj1(hifhjf)+λwuf)hif=hif+α(∑(u,i,j)∈D11+ex‾ui−x‾ujwuf+λhif) h_{if} =h_{if} + \alpha(\sum\limits_{(u,i,j) \in D} \frac{1}{1+e^{\overline{x}_{ui} - \overline{x}_{uj}}}w_{uf} + \lambda h_{if}) hif=hif+α((u,i,j)D1+exuixuj1wuf+λhif)hjf=hjf+α(∑(u,i,j)∈D11+ex‾ui−x‾uj(−wuf)+λhjf) h_{jf} =h_{jf} + \alpha(\sum\limits_{(u,i,j) \in D} \frac{1}{1+e^{\overline{x}_{ui} - \overline{x}_{uj}}}(-w_{uf}) + \lambda h_{jf}) hjf=hjf+α((u,i,j)D1+exuixuj1(wuf)+λhjf)

  3. 如果W,HW,HW,H收敛,则算法结束,输出W,H,否则回到步骤2.

  当我们拿到W,HW,HW,H后,就可以计算出每一个用户u对应的任意一个商品的排序分:x‾ui=wu∙hi\overline{x}_{ui} = w_u \bullet h_ixui=wuhi,最终选择排序分最高的若干商品输出。

6. BPR小结

  BPR是基于矩阵分解的一种排序算法,但是和funkSVD之类的算法比,它不是做全局的评分优化,而是针对每一个用户自己的商品喜好分贝做排序优化。因此在迭代优化的思路上完全不同。同时对于训练集的要求也是不一样的,funkSVD只需要用户物品对应评分数据二元组做训练集,而BPR则需要用户对商品的喜好排序三元组做训练集。

  在实际产品中,BPR之类的推荐排序在海量数据中选择极少量数据做推荐的时候有优势,因此在某宝某东等大厂中应用也很广泛。由于BPR并不复杂,下一篇我会用tensorflow来做一个BPR的实践,敬请期待。


(欢迎转载,转载请注明出处 刘建平Pinard:https://www.cnblogs.com/pinard/p/9128682.html)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值