Adversarial Personalized Ranking for Recommendation(个人笔记)

【RS-Defence】Adversarial Training on RS(附代码实现APR+LightGCN) Adversarial Recommendation Training 开源了一个小项目,将一些经典的RS模型整合到一套代码中,可以作为学习参考, GitHub地址:https://github.com/ChadsLee/RS_Zoos Adversarial Personalized Ranking for Recommendation (SIGIR’18) MF-BPR容易受对抗噪声影响 首先定义什么是噪声。因为推荐系统输入的是离散数据对(u,i,j)(u,i,j)(u,i,j),直接改数据是没有意义的 阅读详情

上周总结了一篇关于CPR_loss的文章,指导老师提出CPR_loss在采集正负样本标的标准和生成对抗学习方面有一些相似处,所以这周我就找到这一篇文章并加以总结。有趣的是,这一篇文章也是何向南老师组于2018年发表于SIGIR,下文我们简称为APR。

论文链接:https://arxiv.org/abs/1808.03908

代码链接:hexiangnan/adversarial_personalized_ranking(Tensorflow版)
                  https://github.com/nuonuoxiaopangdian/APR-PyTorch (Pytorch版)

问题:用 BPR 对广泛使用的 MF 模型进行优化会产生一个不健壮的推荐模型,尤其是模型非常容易有道模型参数的对抗扰动的影响。

贡献:提出了一种新的优化框架,即为APR。APR 通过进行对抗性训练来增强 BPR ,来提高模型的鲁棒性。


1. 准备工作

1.1.Matrix Factorization(矩阵分解)

MF 的核心思想就是将 user 和 item 分别表示成 embedding 向量, 通过 user 和 item 的内积当做 user 对 item 的喜好程度,其公式为:\widehat{y}_{ui}\left ( \Theta \right )= p_{u}^{T}q_{i}

1.2.Bayesian Personalized Ranking(贝叶斯个性化排名)

BPR模型的目标函数如下定义,(u,i,j)三元组作为一个样本,i 为正样本,j 为负样本,模型优化尽量希望(u,i)的打分 \widehat{y}_{ui} 大于(u,j)的打分 \widehat{y}_{uj},即让正样本和负样本之间的得分之差尽可能的大。具体公式如下:

其中,D 表示全部三元组的数据集合,\Theta 表示模型参数,\sigma \left ( \cdot \right ) 表示sigmoid函数,\lambda _{_{\Theta }}表示正则化参数。

1.3.MF-BPR is Vulnerable to Adversarial Noises(验证MF-BPR容易受对抗噪声干扰)

与图像分类中使用对抗性不同,BPR 的输入是离散的 ID 特征, 更改 ID 特征将改变输入的语义。例如,如果我们通过破坏用户 ID ,将输入(u,i,j)更改为(u`,i,j),则三元组的语义将完全不同,标签可能也会更改,所以作者提出在底层推荐模型的参数上引入扰动,来探索 BPR 的鲁棒性。首先通过随机梯度下降训练 MF-BPR 直到收敛,然后观察在 embedding 参数上加入随机和对抗的扰动的效果。对于对抗扰动,优化目标如下:

 其中,ϵ 控制对抗性扰动的大小,| |·| |表示L2范数,ˆΘ是表示当前模型参数的常数集。

实验结果如下图,在 Pinterest 和 Gowalla 的两个数据集上,MF-BPR模型对随机噪声有较好得鲁棒性,但对精心设计的特定扰动则较为脆弱。虽然特定的扰动的量级很小,但是模型效果依旧下降明显,说明模型的泛化效果偏差,存在过拟合的可能。


2. APR模型

2.1APR模型的定义

针对BPR的不足,作者设计出了APR,使其在出现对抗性扰动时也能具有很好的鲁棒性。APR公式如下:

 其中,\Delta 表示模型参数的扰动,\lambda L_{BPR}\left ( D| \Theta + \Delta _{adv}\right ) 将其成为对抗正则化器,\lambda 用来控制它的强度。总的来说,就是先对 \Theta 进行优化使得损失函数最小,在对 \Delta 进行优化使得损失函数最大,其目的是识别针对当前模型的最坏情况的扰动,形式为:

 2.2 APR + SGD

与BPR类似,APR是一个通用的学习框架,只要底层模型 \hat{y}_{ui}\left ( \Theta \right ) 是可微的,就可以在APR 框架下使用反向传播和基于梯度的优化算法学习。

1> 构造对抗性扰动

给定一个训练实例(u,i,j),构造对抗性扰动的问题 \Delta _{adv} 可以表示为最大化:

 文章采用附录中提到的fast gradient method,对目标函数近似成一个线性函数,对 \Delta 求导,然后往梯度方向移动,即有:

 2> 学习模型参数

此时,只需要最小化下式:

参数更新:

 3. 实验

3.1 数据集

该实验使用的数据集有Yelp、Pinterest 和 Gowalla。

 3.2 性能指标

HR(命中率)和NDCG

3.3 对比方法

ItemPop、MF-BPR、CDAE、NeuMF、IRGAN

3.4 对比结果

1>.我们的AMF在大多数情况下都能达到最佳效果。唯一的例外是Yelp,在Yelp中,IRGAN的表现略好于AMFNDCG@50与AMF相当NDCG@100.对于其他情况,AMF在统计学上显著优于其他比较方法,p值小于0.01。这意味着AMF在商品推荐方面达到了最先进的水平。

2>.具体而言,与NeuMF(最近提出的一种非常有表现力的深度学习模型)相比,AMF的平均改善率为2.9%。这是非常显著的,因为AMF使用的是参数少得多的浅层MF模型,这也意味着有可能用更好的训练算法改进传统的浅层方法。

3>.此外,与同样在MF上应用对抗性学习但方式不同的IRGAN相比,AMF平均提高了5.9%。这进一步验证了我们的APR方法的有效性。值得一提的是,APR比IRGAN更高效、更容易训练,需要仔细调整IRGAN以避免模式崩溃,而APR只需要从BPR初始化。

4>.在基线中,NeuMF表现最好,这验证了非线性神经网络在学习用户项交互函数方面的优势。另一种神经推荐模型CDAE的性能较弱,仅在Gowalla数据集上显示出比MF-BPR有显著改善。在大多数情况下,IRGAN的表现都优于MF-BPR,这可以归因于其改进的培训过程,因为基础模型也是MF。最后,所有个性化方法都比ItemPop有很大的优势,这表明个性化推荐任务的必要性。

Adversarial Personalized Ranking for Recommendation Sys 作者:禅与计算机程序设计艺术 1.简介 随着互联网的普及、电子商务的崛起以及电子消费品和服务的推出,在线购物、网上购物、手机支付、网络游戏以及各种社交媒体应用的蓬勃发展,让互联网经济的快速发展促进了新兴行业的崛起,比如食品、服装、电影票务等等。推荐系统(Recommendation System)作为电 阅读详情

相关推荐

【信息科学与工程学】【数据中心】 第十二篇 超大规模智算中心跨地域互联与协同架构方案-02

任务分配、路径规划、行为协调与冲突消解算法是构建智能自主系统的基石。​​任务分配​​是决策“谁做什么”,追求系统整体效能最优。​​路径规划​​是决策“怎么走去哪里”,保障个体移动的安全与效率。​​行为协调​​是设计“如何一起干”,确保群体协作的有序与高效。​​冲突消解​​则是制定“打架了怎么办”的规则,解决协作过程中的矛盾。这些算法广泛应用于​​无人机编队飞行​​、​​多机器人协同搜索与救援​​、​​智能仓储物流​​(AGV调度)、​​自动驾驶车队​​以及​​工业自动化​。

weixin_49199313的博客 761

论文总结《Adversarial Personalized Ranking for Recommendation(APR)》

这篇文章提出了一个在RS领域应用对抗训练提高模型的鲁棒性。在阅读文章过程中我有几点问题/想法目标函数是minmax game,那么是否可以用GAN的方法来同时更新扰动Δ\DeltaΔ以及Θ\ThetaΘ,即训练Δ\DeltaΔ使得模型尽可能差,同时训练Θ\ThetaΘ使得模型尽可能抵抗这种扰动这篇文章的扰动仅仅是在浅层,是否可以对更加深层次扰动,效果会不会更好?

Archerrrrr的博客 469

【信息科学与工程学】【安全领域】第八十三篇 云安全解决方案02

企业中“搞人”与“搞事情”常见问题的分析框架。我将选取4个典型场景,每个场景都从实际管理现象出发,逐步推导出数学模型、参数设定及关联知识。

weixin_49199313的博客 324

推荐系统之排序:基本原理和前沿研究(2023)

本文对工业界和学术界相关进展进行深入调研,并结合自身过往工作经验,对推荐系统中排序过程涉及知识进行总结。

nihaomafb的博客 3580

蔡氏电路matlab仿真代码-adversarial_personalized_ranking:对抗学习,矩阵分解,推荐

蔡氏电路matlab仿真代码对抗性个性化推荐排名 APR通过执行对抗训练来增强成对排名方法BPR。 为了说明其工作原理,此处通过在用户和项的嵌入向量上添加对抗性扰动来实现MF上的APR。 这是我们对该文件的正式实现: 何湘南,何占魁,杜小雨和蔡达生。 2018.推荐的对抗性个性化排名,在SIGIR'18的会议记录中。 (通讯作者:) 如果您使用这些代码,请引用我们的论文。 谢谢! 环境 Python 2.7 TensorFlow> = r1.0 脾气暴躁> = 1.12 PS。 供您参考,我们的服务器环境为2.20 GHz和64 GiB内存的Intel Xeon CPU E5-2630。 我们建议您的可用内存大于16 GiB,以重现我们的实验。 快速开始 演示:APR的效果 该命令通过在第40个数据集yelp (--adv_epoch)中为预训练的MF模型(--restore)添加对抗性扰动来显示APR的效果。 加载预训练模型后,前40个时期为正常MF-BPR,然后进行对抗训练APR。 python AMF.py --dataset yelp --adv_epoch 40 --epoc

Personalized Ranking Recommendation via Integrating Multiple Feedbacks

Personalized Ranking Recommendation via Integrating Multiple Feedbacks

排序

问题背景 说起排序,对排序的认知还停留在召回阶段召回的item经过粗排过滤,剩下较少的item在精排中打分,按epcm或者其他策略挑选出最终要曝光的item。重排是一种考虑到推荐items之间关系和影响的排序模式,常规的推荐系统仅仅考虑<user, item>对的角度,并不会考虑items间作为一个list进行推荐之后的互相影响。 举个例子,排序模型往往都是point-wise的,一个DNN加丰富的user/item/上下文特征预估点击率,在召回的100个item候选集中...

mudan97的博客 749

centos7下100T存储扩容(LVM)至150T

查看新增磁盘情况lsblk,fdisk -l [root@localhost ~]# lsblk NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT sr0 11:0 1 4.2G 0 rom vda 252:0 0 80G 0 disk ├─vda1 252:1 0 1G 0 part /boot └─vda2 252:2

tiyager的博客 1025

#Paper Reading# Personalized Context-aware Re-ranking for E-commerce Recommender Systems

论文题目: Personalized Context-aware Re-ranking for E-commerce Recommender Systems 论文地址: https://arxiv.org/abs/1904.06813 论文发表于: arxiv,2019.04 论文大体内容: 本文主要提出了PCRM(Personalized Context-aware Re-ranking Mo...

John159151的专栏 1510

Allegro16.6详细教程(二)

3-D Viewer,可以直接在allegro中看到board file的3-D顯示效果。3-D Viewer對於PCB Editor Products,只有環境變數中的OpenGL顯示功能開啟後才有效,而對於APD/SiP是無效的。2.3-D viewer是在一個獨立的視窗中打開的。3-D environment環境支援多種顯示內容的過濾,取景視角和顯示效果的選項,透過遊標可以直接控制放大,移動,翻轉等操作。

axingxiansen的博客 1926

PyTorch深度学习实战(36)——Pix2Pix详解与实现

Pix2Pix 是基于生成对抗网络的图像转换框架,能够将输入图像转换为与之对应的输出图像,能够广泛用于图像到图像转换的任务,如风格转换、图像修复、语义标签到图像的转换等。Pix2Pix 的核心思想是通过对抗训练将输入图像和目标输出图像进行配对,使生成网络可以学习到输入图像到输出图像的映射关系。在本节中,将学习使用 Pix2Pix 根据给定轮廓生成图像。

盼小辉丶的博客 1万+

Bayesian Personalized Ranking(BPR个性化排序)

如题,在推荐系统中我们在推荐给用户的商品中一定是需要先后顺序的,即我们需要关心的是用户将会更喜欢我们所推荐的商品,从而得到–个性化排序。但是没错,前几篇所整理的方法目的也是为了预测用户喜好,但往往我们只能通过观察到的正例去估计暗含着负例与缺失值的“?”中,而实际填充也如上图一样,一般用0做填充。然后基于此计算出得分,从某种意义上也可以得到用户优先级的排序,所以首先同样的我们需要解决的问题还是: ...

nakaizura 6953

大模型系列——一文看懂“提示词” vs “提示词工程” vs “上下文工程”

本文区分了AI领域的三个关键概念:提示词(Prompt)、提示词工程(Prompt Engineering)和上下文工程(Context Engineering)。提示词是直接输入给AI模型的指令文本;提示词工程则是系统化设计、测试和优化提示词的过程;而上下文工程是为AI构建动态上下文,提供恰当信息和工具的科学与艺术。文章通过翻译案例展示了提示词工程的迭代过程,并说明上下文工程在AI Agent中的核心作用——动态收集和组织必要信息。最后强调普通人只需掌握提示词编写,开发AI应用才需深入提示词工程,构建智能

2401_84052244的博客 750

pytorch复现NCF

然后今天说的是 load_dataset做了什么事情。 先上代码: 导包 import pandas as pd import numpy as np import math from collections import defaultdict import heapq import scipy.sp

qq_43431934的博客 3358

dify upload存在SSRF漏洞

Dify 是一个用于构建 AI 应用程序的开源平台。

nnn2188185的博客 1483

协方差矩阵自适应进化策略(CMA-ES)详解:从基础原理到优化算法

CMA-ES是一种先进的无导数优化算法,基于生物进化原理解决连续域非线性优化问题。该算法通过自适应调整多元正态分布的均值、协方差矩阵和步长参数,自动学习搜索空间结构,无需梯度信息即可高效优化。核心创新包括协方差矩阵的秩1和秩μ更新策略,以及基于进化路径的步长控制机制。CMA-ES具有旋转不变性、标度不变性和全局探索能力,特别适合3-300维的黑盒优化问题,在复杂系统仿真、超参数调优等领域表现优异。算法实现中关键参数如种群大小、学习率等均有自适应设置规则,使其成为连续优化领域的基准算法之一。

qq_42212808的博客 527

整屏建模解决挑选首条的尝试

问题背景 在推荐流里,首位占据着读者视野内的重要位置,第一条推荐内容的优劣决定着读者的第一印象;同时不同位置点击的统计来看,也是顺位衰减的。现对屏内哪条数据该放到第一条,在模型侧尝试解决下。 基本思路 当一屏数据作为候选集,我们可以获得的是前几屏的行为信息,也有当前候选内容的所有信息,那么该把谁在这些约束下放到第一个上呢?当前的上下文是其余内容,总体的上下文是之前session行为,可以自然地想到...

yujianmin1990的专栏 505

手把手教你学PCIE(2.1.23)--PCIe基本概念:链路速率协商

链路速率协商是一个多步骤的过程,确保发送端和接收端之间的链路速率设置一致。通过初始化链路速率寄存器、发送和接收 TS2 序列、检测链路对端的存在、交换链路速率信息、确定最大链路速率和配置链路速率,可以确保 PCIe 设备之间的数据传输速度最大化,从而提高数据传输效率。初始化链路速率寄存器:设置支持的最大链路速率。发送和接收 TS2 序列:检测链路对端的存在。交换链路速率信息:发送和支持的最大链路速率。确定最大链路速率:选择最小值作为最终链路速率。配置链路速率:更新链路速率寄存器。

MHD0815的博客 1818

Personalized Re-ranking for Recommendation

19-recsys-Personalized Re-ranking for Recommendation

sinat_41679123的博客 620

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

BPRMF算法(Pytorch实现)

1. 写作目的 ​ 首先感叹一下推荐系统的子领域是这么的丰富,可以有召回阶段的传统推荐、精排阶段的CTR、序列化推荐、对话推荐、推荐系统与图神经网络结合、推荐系统与知识图谱结合、推荐系统与NAS技术结合。论文看得眼花缭乱,慕然回首,发现自己根本没入门。 ​ BPR算法是基础的推荐算法,在我入门推荐系统时很容易理解BPR算法,但是当我想实现完整的推荐算法时,却困难重重,如何加载数据,如何进行负采样,如何写评价指标函数,让我很烦恼。 参照王翔老师的NGCF算法 Tensorflow版 和 PyTorch版 自己

springtostring的博客 5129

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

《Deep Learning based Recommender System: A Survey and New Perspectives》及相关文献

&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;前两个月读了2018年发表在ACM Computing Snrveys上的一篇关于基于深度学习的

tszupup的博客 1628

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

Personalized Ranking Metric Embedding for Nest New POI Recommendation

本篇论文主要利用距离嵌入(Metric Embedding)将每个POI映射到一个低维的欧拉空间当中,有效地利用马尔科夫链模型预测POI的变化,用两个POI的欧拉距离衡量两者的序列关系,并且进一步提出了成对排序(pair-wise ranking)的距离嵌入,可以对空间中潜在的POI进行排序,最后提出了个性化的距离嵌入排名(PRME)算法,综合考虑序列信息和个人喜好,再考虑地理因素,提出PRME-G算法。

zdwccc的博客 2834

2018年ACM MM会议论文 arXiv链接

ACM MM 会议是多媒体领域的top1顶会 人人心向往之的会议 我的有位老师说他的学生读了三年博士,投了好几次MM都没被录,主动要求延毕,说三年我追个姑娘也追到手了,竟然投会议就是投不中。。。 今年ACM MM 会议将在10月22-26日在韩国首尔举行,会议相关议程在官网 http://www.acmmm.org/2018/ 已经发布,已经接收的papers列表: Accepted P...

qq_27898631的博客 1万+

推荐算法进化史

整条进化线上最关键的一次"偷换",发生在 2012 年的 YouTube:把"喜欢"重定义为"观看时长"。指标的口径一改,“喜欢"两个字实质上就变成了"没走”。当时就有从业者提出质疑:"用户不高兴,他不也没走啊。"没有下文。此后算法优化的不再是"你满不满意",而是"你走没走"。后面所有的 9:1、随机奖励、杀熟定价,都是在这块基石上盖的楼。捋一遍整条链:**指标定义被偷换(没走=喜欢)→ 投喂比例被工程化(9:1)→ 奖励被随机化(偶尔中一次)→ 时长破纪录。

lpfasd123的博客 1144
上一篇: UltraGCN: Ultra Simplification of Graph ConvolutionalNetworks for Recommendation(个人笔记)
下一篇: Interest-aware Message-Passing GCN for Recommendation(个人笔记)
韭菜茁壮成长
博客等级 码龄11年 20粉丝 10原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值