上周总结了一篇关于CPR_loss的文章,指导老师提出CPR_loss在采集正负样本标的标准和生成对抗学习方面有一些相似处,所以这周我就找到这一篇文章并加以总结。有趣的是,这一篇文章也是何向南老师组于2018年发表于SIGIR,下文我们简称为APR。
论文链接:https://arxiv.org/abs/1808.03908
代码链接:hexiangnan/adversarial_personalized_ranking(Tensorflow版)
https://github.com/nuonuoxiaopangdian/APR-PyTorch (Pytorch版)
问题:用 BPR 对广泛使用的 MF 模型进行优化会产生一个不健壮的推荐模型,尤其是模型非常容易有道模型参数的对抗扰动的影响。
贡献:提出了一种新的优化框架,即为APR。APR 通过进行对抗性训练来增强 BPR ,来提高模型的鲁棒性。
1. 准备工作
1.1.Matrix Factorization(矩阵分解)
MF 的核心思想就是将 user 和 item 分别表示成 embedding 向量, 通过 user 和 item 的内积当做 user 对 item 的喜好程度,其公式为:
1.2.Bayesian Personalized Ranking(贝叶斯个性化排名)
BPR模型的目标函数如下定义,(u,i,j)三元组作为一个样本,i 为正样本,j 为负样本,模型优化尽量希望(u,i)的打分 大于(u,j)的打分
,即让正样本和负样本之间的得分之差尽可能的大。具体公式如下:

其中, 表示全部三元组的数据集合,
表示模型参数,
表示sigmoid函数,
表示正则化参数。
1.3.MF-BPR is Vulnerable to Adversarial Noises(验证MF-BPR容易受对抗噪声干扰)
与图像分类中使用对抗性不同,BPR 的输入是离散的 ID 特征, 更改 ID 特征将改变输入的语义。例如,如果我们通过破坏用户 ID ,将输入(u,i,j)更改为(u`,i,j),则三元组的语义将完全不同,标签可能也会更改,所以作者提出在底层推荐模型的参数上引入扰动,来探索 BPR 的鲁棒性。首先通过随机梯度下降训练 MF-BPR 直到收敛,然后观察在 embedding 参数上加入随机和对抗的扰动的效果。对于对抗扰动,优化目标如下:
![]()
其中,ϵ 控制对抗性扰动的大小,| |·| |表示L2范数,ˆΘ是表示当前模型参数的常数集。
实验结果如下图,在 Pinterest 和 Gowalla 的两个数据集上,MF-BPR模型对随机噪声有较好得鲁棒性,但对精心设计的特定扰动则较为脆弱。虽然特定的扰动的量级很小,但是模型效果依旧下降明显,说明模型的泛化效果偏差,存在过拟合的可能。

2. APR模型
2.1APR模型的定义
针对BPR的不足,作者设计出了APR,使其在出现对抗性扰动时也能具有很好的鲁棒性。APR公式如下:

其中, 表示模型参数的扰动,
将其成为对抗正则化器,
用来控制它的强度。总的来说,就是先对
进行优化使得损失函数最小,在对
进行优化使得损失函数最大,其目的是识别针对当前模型的最坏情况的扰动,形式为:
![]()
2.2 APR + SGD
与BPR类似,APR是一个通用的学习框架,只要底层模型 是可微的,就可以在APR 框架下使用反向传播和基于梯度的优化算法学习。
1> 构造对抗性扰动
给定一个训练实例(u,i,j),构造对抗性扰动的问题 可以表示为最大化:
![]()
文章采用附录中提到的fast gradient method,对目标函数近似成一个线性函数,对 求导,然后往梯度方向移动,即有:

2> 学习模型参数
此时,只需要最小化下式:
![]()
参数更新:![]()
3. 实验
3.1 数据集
该实验使用的数据集有Yelp、Pinterest 和 Gowalla。

3.2 性能指标
HR(命中率)和NDCG
3.3 对比方法
ItemPop、MF-BPR、CDAE、NeuMF、IRGAN
3.4 对比结果

1>.我们的AMF在大多数情况下都能达到最佳效果。唯一的例外是Yelp,在Yelp中,IRGAN的表现略好于AMFNDCG@50与AMF相当NDCG@100.对于其他情况,AMF在统计学上显著优于其他比较方法,p值小于0.01。这意味着AMF在商品推荐方面达到了最先进的水平。
2>.具体而言,与NeuMF(最近提出的一种非常有表现力的深度学习模型)相比,AMF的平均改善率为2.9%。这是非常显著的,因为AMF使用的是参数少得多的浅层MF模型,这也意味着有可能用更好的训练算法改进传统的浅层方法。
3>.此外,与同样在MF上应用对抗性学习但方式不同的IRGAN相比,AMF平均提高了5.9%。这进一步验证了我们的APR方法的有效性。值得一提的是,APR比IRGAN更高效、更容易训练,需要仔细调整IRGAN以避免模式崩溃,而APR只需要从BPR初始化。
4>.在基线中,NeuMF表现最好,这验证了非线性神经网络在学习用户项交互函数方面的优势。另一种神经推荐模型CDAE的性能较弱,仅在Gowalla数据集上显示出比MF-BPR有显著改善。在大多数情况下,IRGAN的表现都优于MF-BPR,这可以归因于其改进的培训过程,因为基础模型也是MF。最后,所有个性化方法都比ItemPop有很大的优势,这表明个性化推荐任务的必要性。
761



被折叠的 条评论
为什么被折叠?



