推荐系统 | FM、FFM和AFM三种算法的对比

最新推荐文章于 2024-06-25 17:18:52 发布
原创 最新推荐文章于 2024-06-25 17:18:52 发布 · 2.3k 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文对比了推荐系统中常用的FM（Factorization Machines）、FFM（Field-aware FM）和AFM（Attentional FM）算法。FM通过特征交互项学习关联性，但对稀疏数据的处理有限；FFM引入field概念，针对不同field学习独立隐向量，提升性能但训练时间较长；AFM则通过注意力网络学习特征交互的重要性，提高预测准确性和泛化能力。

三种算法的对比

FM FFM AFM
交叉项 <vi,vj>xixj <vi,fj, vj,fi> xixj 在这里插入图片描述
待学习的参数个数 （1）LR部分： 1 + n 1+n 1+n （2）embedding 部分： n ∗ k n * k n∗k （1）LR部分： 1 + n 1+n 1+n （2）embedding 部分： n ∗ f ∗ k n * f * k n∗
最低0.47元/天 解锁文章
AI上推荐 之 FM和FFM(九九归一)
Miracle8070
09-21 8615
1. 前言 随着信息技术和互联网的发展， 我们已经步入了一个信息过载的时代，这个时代，无论是信息消费者还是信息生产者都遇到了很大的挑战： 信息消费者：如何从大量的信息中找到自己感兴趣的信息？ 信息生产者：如何让自己生产的信息脱颖而出， 受到广大用户的关注？ 为了解决这个矛盾， 推荐系统应时而生， 并飞速前进，在用户和信息之间架起了一道桥梁，一方面帮助用户发现对自己有价值的信息， 一方面让信息能够展现在对它感兴趣的用户前面。 推荐系统近几年有了深度学习的助推发展之势迅猛， 从前深度学习的传统推荐模型(协
推荐系统FM理论
qq_39091546的博客
09-15 433
FM算法是进行特征组合时的常见算法。 1. FM要解决的问题 FM主要是为了解决数据稀疏的情况下，特征组合问题。 one-hot编码存在的两个问题：1.样本数据会变得很稀疏，2.特征空间变大 普通的线性模型，各个特征都是独立考虑的，没有考虑到特征之间的相关性，如果能找出有关联的特征，会有很大的帮助。一般的线性模型为: 在实践经验中，对特征进行交叉组合往往能够更好地提升模型效果。 2. FM定义 M以特征组合进行切入点，在公式定义中引入特征交叉项，弥补了一般线性模型未考虑特征间关系的缺憾。公式如下（FM模型
推荐系统之FM
Katniss的Blog
10-25 700
推荐系统之FM 文章目录推荐系统之FM1. FM模型的引入1.1 逻辑回归模型及其缺点1.2 二阶交叉项的考虑及改进2. FM公式理解3. FM模型应用四、代码时间4.1 调包 1. FM模型的引入 1.1 逻辑回归模型及其缺点 FM模型其实是一种思路，具体的应用稍少。一般来说做推荐CTR预估时最简单的思路就是将特征做线性组合（逻辑回归LR），传入sigmoid中得到一个概率值，本质上这就是一个线性模型，因为sigmoid是单调增函数不会改变里面的线性模型的CTR预测顺序，因此逻辑回归模型效果会比较差。也就
推荐系统-FM模型
最新发布
weixin_44880995的博客
06-25 664
FM
FM、FFM和AFM比较
weixin_38873581的博客
03-30 2328
FM的产生背景： 为了改进SVM在解决稀疏矩阵问题方面的缺点：当数据非常稀疏时，SVM不能从复杂的核空间学到可靠的参数。可用于线性回归、分类等。 解决问题实例： 从下图所示数据从特征向量x学习一个模型用于预测y值 FM模型方程： FM模型的基本思路就是给特征向量x中各个特征xi学习一个向量vi，在交叉项中对应特征xi，xj进行交叉时，前面乘上对应的vi和vj向量的点乘结果作为权重。 FFM的产...
推荐系统3--FM和FFM
weixin_41403341的博客
05-22 828
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
【搜索/推荐排序】FM，FFM，AFM,PNN,DeepFM:进行CTR和CVR预估
weixin_40485502的博客
04-16 2250
1.FM 用处：用于是否点击预测、评分 介绍 code 其中f/k:是v的size，n是特征的个数 1.1代码-是否点击预测 vx:使用embedding实现 wx:也用embedding实现 class FactorizationMachineModel(torch.nn.Module): """ A pytorch implementation of Factorization Machine. Reference: S Rendle, Factoriza
【推荐系统】FM，FFM，AFM的简要介绍
hcm_0079的博客
03-30 2065
CTR Click-through rate (CTR) is the ratio of users who click on a specific link to the number of total users who view a page, email, or advertisement. It is commonly used to measure the success of an...
一些经典的点击率计算方法的再现；LR,FM,FFM,AFM,DeepFM,xDeepFM,PNN,DCN,DCNv2,D.zip
04-30
标题中的“一些经典的点击率计算方法的再现”指的是在推荐系统和广告领域中，用于预测用户点击概率的各种模型的实现。...这些模型的实现也可以作为搭建自己推荐系统或广告平台的基础，帮助提升预测准确率和系统效果。
推荐系统模型之 FM
weixin_30883311的博客
04-22 484
什么是FM模型 FM英文全称是“Factorization Machine”，简称FM模型，中文名“因子分解机”。 FM模型其实有些年头了，是2010年由Rendle提出的，但是真正在各大厂大规模在CTR预估和推荐领域广泛使用，其实也就是最近几年的事。 FM模型 原理参考：https://zhuanlan.zhihu.com/p/50426292 不过我给个个人判断：我觉得...
recommender_system:基于last.fm数据的音乐推荐系统
03-11
建立Last.fm推荐系统 今天，我们将基于代表在上提供的Last.fm数据集构建基本的推荐系统。 该数据集来自2011年的LastFM，包含1,892位用户的17,632位艺术家的播放次数。 我们的议程如下： 通过执行初始探索性​​数据分析（EDA）来检查我们正在使用的数据 构建基本协作推荐系统的几个版本： sci-kit中的K个最近邻居学习 TuriCreate中的项目相似性推荐者 评估结果 回答有关项目的问题，包括需要改进的地方 除了此自述文件中包含有关项目的一般信息之外，我们的项目还包括以下： （01）使用scikit-learn和TuriCreate的协作过滤器（主项目提交） 基于内容的过滤器的用户/艺术家标签的初步EDA /主题建模的附录： （A01）使用scikit-learn的K均值聚类和t-SNE （A02）使用pyLDAvis的LDA 从元数据中添加基于
机器学习算法之---AFM算法
10-26
机器学习算法之---AFM算法，AFM: Learning the Weight of Feature Interactions via Attention Networks, IJCAI 2017
推荐系统-FM详解
qq_25864747的博客
06-06 615
  最近学习了一种叫做 Factorization Machines（简称 FM）的算法，它可对任意的实值向量进行预测。其主要优点包括: 1) 可用于高度稀疏数据场景；2) 具有线性的计算复杂度。本文将对 FM 框架进行简单介绍，并对其训练算法 — 随机梯度下降（SGD）法和交替最小二乘（ALS）法进行详细推导。 相关链接： （一）预测任务 （二）模型方程 （三）回归和分类 （四）学习算法 ...
推荐系统之FM，FFM
ineedstudytosurvive的博客
02-28 692
FM,FFM是推荐系统中常见的两种算法。 Clicked Publisher (P) Advertiser (A) Gender (G) Yes ESPN Nike Male FM的计算方式： wESPN · wNike + wESPN · wMale + wNike · wMale. FFM的计算方式： wESPN,A · wNike,P
推荐系统FM - 超级详细python实战
s189416的博客
05-02 2126
推荐系统FM - 超级详细python实战1.FM模型2.数据集3.FM求解 这里可以查看我之前的写的MF模型作为学习基础，推荐系统MF——SVD与SVD++矩阵分解 1.FM模型 FM模型在原本线性模型的基础上，考虑到特征两两之间的关联，对特征进行组合，数据模型上表达特征xi，xj的组合用xixj表示。现在只考虑两阶多项式模型，也就是特征两两组合的问题。公式如下： 首先实现基本的线性模型公式，用随机生成的一个长度为10353-1(除了需要预测的rating) 的符合正态分布的向量来表示各特征的单独权重，
【推荐系统】FFM
littlemichelle
04-01 1160
https://blog.youkuaiyun.com/hzwaxx/article/details/83991379
（推荐系统） FM算法：Factorization Machines
qq_33397016的博客
05-09 753
摘要 在实际的应用场景中，数据的稀疏性会大大降低支持向量机（support vector machine，svm）等经典算法的预测性能。另外，传统的因式分解类算法，如矩阵分解（Matrix Factorization，MF）泛化能力弱，无法满足实际需求。为解决上述问题，Steffen Rendle提出一种基于分解思想的算法，即因子分解机（Factorization Machines，FM）。凭借出...
AFM算法
zhongqiqianga的博客
12-10 1467
目录 1:研究背景 2:网络结构 3:代码实战 1:研究背景 FM算法本身通过引入二阶feature interactions来提高线性回归模型的泛化表达能力，但它以相同的权重来对所有的特征组合进行建模。事实上很多无用特征的组合会引入噪声从而影响效果。基于这个背景下，论文提出Attentional Factorization Machine（AFM），通过neural attentio...
推荐系统FM模型要点总结
进一步有进一步的欢喜~
10-12 349
推荐系统FM模型要点总结 1、公式推导细节复盘、包原理+求导 2、为何强调矩阵正定 3、embedding总结
TensorFlow实现FFM推荐算法实战教程
FFM是一种先进的推荐算法，它在传统的因子分解机（FM）基础上进行了改进，引入了字段（field）的概念。在推荐系统中，字段通常指用户行为、物品属性等不同维度的信息。FFM能够捕捉不同字段之间的相互作用，相较于FM...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值