推荐系统(3）-- FM(Factorization Machine)

最新推荐文章于 2024-07-12 17:35:14 发布
转载 最新推荐文章于 2024-07-12 17:35:14 发布 · 251 阅读 · 0 ·
CC 4.0 BY-SA版权
原文链接：http://www.cnblogs.com/pocahontas/p/11399003.html

本文探讨了在数据稀疏情况下如何有效进行特征组合以提高CTR预估的准确性，重点介绍了Factorization Machine（FM）算法及其在解决特征组合问题上的应用。

判断一个商品的是否进行推荐需要根据CTR预估的点击率来进行。

在进行CTR预估时，除了单特征外，往往要对特征进行组合。对于特征组合来说，通用的做法主要有两大类：FM系列与Tree系列。

今天，我们就来讲讲FM算法。FM(Factorization Machine)主要是为了解决数据稀疏的情况下，特征怎样组合的问题。

 

 

 

country,day,ad_type则是对应的特征。对于这种categorical特征，一般都是进行one-hot编码处理。one-hot编码带来的另一个问题是特征空间变大

 

转载于:https://www.cnblogs.com/pocahontas/p/11399003.html

bajia3228
关注
推荐系统 - 排序 - AFM(attentional factorization machine)
weixin_41332009的博客
02-07 595
Attentional Factorization Machine 本文介绍Attentional Factorization Machines:Learning the Weight of Feature Interactions via Attention Networks，简称为AFM，原文Paper链接；具体的代码实现见Github 之前我们讲过FM（https://blog.youkuaiyun.com/weixin_41332009/article/details/113310163） 摘要 AFM
推荐系统 - 排序算法 - FFM (Field-aware Factorization Machine)
weixin_41332009的博客
01-29 701
1. 背景 在CTR/CVR预估任务中，除了FM模型之外（FM:https://blog.youkuaiyun.com/weixin_41332009/article/details/113310163），后起之秀FFM（Field-aware Factorization Machine）模型同样表现亮眼。FFM可以看作是FM的升级版，Yuchi Juan于2016年提出该模型，但其诞生是受启于Rendle在2010年发表的另一个模型PITF（FM也是Rendle在2010年发表的），其论文原文中写道： The
FM算法（Factorization Machine）
g11d111的博客
08-20 3万+
因子分解机(Factorization Machine, FM)是由Steffen Rendle提出的一种基于矩阵分解的机器学习算法。目前，被广泛的应用于广告预估模型中，相比LR而言，效果强了不少。 一、FM背景FM(Factorization Machine)主要目标是：解决数据稀疏的情况下，特征怎样组合的问题。以一个广告分类的问题为例，根据用户画像、广告位以及一些其他的特征，来预测用户是否会点击
推荐系统（三）Factorization Machines（FM）
天泽28的专栏
10-19 9097
推荐系统（三）Factorization Machines（FM） 推荐系统系列博客： 推荐系统（一）推荐系统整体概览 推荐系统（二）GBDT+LR模型 按照发表年份，这篇博客应该在GBDT+LR之前写的，但因为FM相比较GBDT+LR的内容稍微多些，所以就后写了这篇博客。言归正传，FM是推荐系统领域大佬rendle于2010年发表在ICDM上的论文，是一篇非常非常有影响力的论文，启发了此后10年学术界大量的工作，直接的改进就有引入神经网络的NFM，引入attention的AFM等（关于NFM和AFM这两个
简单易学的机器学习算法——因子分解机(Factorization Machine)
null的专栏
05-06 6万+
一、因子分解机FM的模型 因子分解机(Factorization Machine, FM)是由Steffen Rendle提出的一种基于矩阵分解的机器学习算法。1、因子分解机FM的优势 对于因子分解机FM来说，最大的特点是对于稀疏的数据具有很好的学习能力。现实中稀疏的数据很多，例如作者所举的推荐系统的例子便是一个很直观的具有稀疏特点的例子。2、因子分解机FM的模型
FM模型（Factorization Machine，因子分解机）解析及举例
最新发布
weixin_41570231的博客
07-12 2858
FM模型通过分解特征矩阵捕捉特征间的二阶交互，适用于推荐系统、分类和回归任务，能有效处理高维稀疏数据。
推荐系统常用算法_推荐系统实战之FM（Factorization-Machine）算法——keras算法练习（4）...
weixin_39622568的博客
11-29 355
笔者在之前的文章中介绍过使用keras搭建一个基于矩阵分解的推荐系统,而那篇文章所介绍的方法可能只是一个庞大推荐系统中的一小环节。而对于工业级别的推荐系统，面对极其庞大的产品种类数量，一步就输出符合用户心意的产品可能够呛，最好的方式应该是从巨大的产品类别之中粗筛出一些靠谱的待推荐产品，然后再从粗筛的产品中精挑细选出要推荐给用户的最终产品。工业级别的推荐系统简介工业级别的推荐系统的架构图如下图所示，...
精选资源
蔡氏方程matlab求解代码-Attentional-Neural-Factorization-Machine:注意，装订机，深度学习，推荐系
05-19
Attentional-Neural-Factorization-Machine 综合Attentional FM 和 Neural FM，搭建ANFM模型 参考如下： Jun Xiao, Hao Ye, Xiangnan He, Hanwang Zhang, Fei Wu and Tat-Seng Chua (2017). Attentional ...
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
Guozyan的博客
04-15 1035
预训练会增加成本，即降低模型效率；因为使用了one-hot编码所以选择sigmoid函数作为最后的结合函数；超参数包括但不限于：激活函数、丢弃率、网络形状、每层神经元数量、隐藏层数量；DeepFM的效率与最先进的深度模型相当，在AUC和Logloss方面优于最先进的模型。
6.DeepFM: A Factorization-Machine based Neural Network for CTR Prediction论文详解和代码实现
zhaozhiwei314的博客
02-16 1609
一、总述 这篇论文来自哈工大&华为诺亚方舟实验室，主要关注如何学习user behavior背后的组合特征（feature interactions），从而最大化推荐系统的CTR。但目前的方法容易得到low-或者high-order interactions。因此这篇论文提出构建一个端到端的可以同时突出低阶和高阶feature interactions的学习模型DeepFM。DeepFM是一个新的神经网络框架，结合了FM在推荐中的优势和深度学习在特征学习中的优势。 二、DeepFM模型的问题阐述和研
FM系列算法解读（FM+FFM+DeepFM）
热门推荐
数据喵的博客
08-03 7万+
https://blog.youkuaiyun.com/jiangjiang_jian/article/details/80631180
推荐系统算法：FM
qq_38858247的博客
12-02 1037
lr没有特征组合，参数只与自身有关   <“化妆品”类商品，“女”性>，<“球类运动配件”的商品，“男”性>，<“电影票”的商品，“电影”> 在多项式模型中，特征  和  的组合采用  表示，即和都非零时，组合特征  才有意义   这里和是等价的、 复杂度：n^2---》kn https://zhuanlan.zhihu.com...
机器学习算法（二）：因子分解机FM算法（Factorization Machine）
weixin_39910711的博客
08-17 7771
目录 1 背景 2 FM原理 1 背景 Steffen Rendle于2010年提出Factorization Machines（下面简称FM），并发布开源工具libFM。FM的提出主要对比对象是SVM，与SVM相比，有如下几个优势 （1）对于输入数据是非常稀疏（比如自动推荐系统），FM可以，而SVM会效果很差，因为训出的SVM模型会面临较高的bias。 （2）FMs拥有线性的复...
【推荐算法】FM模型：Factorization Machines
长相忆兮长相忆的专栏
05-17 5567
FM算法是一种基于矩阵分解的机器学习算法，是为了解决大规模稀疏数据中的特征组合问题。 在传统的线性模型如LR中，每个特征都是独立的，如果需要考虑特征与特征之间的交互作用，可能需要人工对特征进行交叉组合；非线性SVM可以对特征进行kernel映射，但是在特征高度稀疏的情况下，并不能很好地进行学习；现在也有很多分解模型Factorization Model如矩阵分解MF、SVD++等，这些模型可以学习到特征之间的交互隐藏关系，但基本上每个模型都只适用于特定的输入和场景。 为此，FM出现了。
推荐系统遇上深度学习(一)-FM模型理论和实战
Lavi的专栏
04-14 4408
1、FM背景 在计算广告和推荐系统中，CTR预估(click-through rate)是非常重要的一个环节，判断一个商品的是否进行推荐需要根据CTR预估的点击率来进行。在进行CTR预估时，除了单特征外，往往要对特征进行组合。对于特征组合来说，业界现在通用的做法主要有两大类：FM系列与Tree系列。今天，我们就来讲讲FM算法。 2、one-hot编码带来的问题 FM(Factorization M...
推荐系统FM & FFM算法解读与实践
baymax_007的博客
11-13 3万+
在推荐系统和计算广告业务中，点击率CTR（click-through rate）和转化率CVR（conversion rate）是衡量流量转化的两个关键指标。准确的估计CTR、CVR对于提高流量的价值，增加广告及电商收入有重要的指导作用。业界常用的方法有人工特征工程 + LR（Logistic Regression）、GBDT（Gradient Boosting Decision Tree） + ...
推荐算法-FM(Factorization Machine)
Silence的博客
04-28 3637
FMFM出现的原因FM的求解参考 FM出现的原因   FM是推荐系统中重要的方法，也有许多基于FM的变种。   FM的出现主要是为了解决线性模型的特征之间无法进行组合的问题。在LR模型中，特征之间都是独立存在的，无法体现特征之间的联系。比如有的女生喜欢化妆品，男生喜欢运动产品。单纯的使用w1∗x1+w2∗x2+..+wi∗xiw_{1}*x_{1}+w_{2}*x_{2}+..+w_{i}*x_{...
FM（factorization machine）
连峰碧波间，浅水泛舟游
11-30 830
1. 模型提出背景 FM解决的是预测性问题。也就是说给定输入值，给出输出值。但是针对预测性问题的解决，目前有较多的模型可以用，针对factorization machine这篇文章，作者主要是抓住FM和支持向量机的优劣比较，支持向量机最终是解决数值优化问题，如果自变量是稠密的，那么使用支持向量机是有较大优势的。但是如果自变量有较多的类别变量（指示变量），从而导致数据比较稀疏，也就是说一个样本
推荐系统算法学习（一）——协同过滤(CF) MF FM FFM
qq_23269761的博客
08-02 2万+
1.协同过滤（CF） 优点：简单，可解释 缺点：在稀疏情况下无法工作 2.MF PMF BPMF 优点：更好解决可扩展性和稀疏问题而被广泛用于推荐系统 缺点：矩阵分解时间复杂度高，可采用梯度下降的方法价绍计算复杂度 2.1 利用SVD求解MF 参考博客：https://www.cnblogs.com/AndyJee/p/7879765.html 任意一个M*N的矩阵A（M行*N...
深度学习模型ANFM：Attentional-Neural-Factorization-Machine实现与应用
压缩包子文件的文件名称列表中提及的“Attentional-Neural-Factorization-Machine-master”表明了该模型的源代码文件存放于一个名为“Attentional-Neural-Factorization-Machine”的项目中，并且“master”一般指代...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值