推荐算法DeepFM模型总结

原创 已于 2024-07-19 09:14:56 修改 · 313 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#推荐算法 #算法 #机器学习

于 2024-03-22 15:58:22 首次发布

首先阐述FM的核心思想：
基于对实对称矩阵的理解，信息的二阶特征Xi和Xj用隐向量的内积表示为：<Vi, Vj>，这里他们是n*k的矩阵，参数量大大降低，也只需要维护Vi一个矩阵即可，本质上Vi和Vj只是转置的关系。

推导公式如下：
![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/4e3b91c45ff345048da88b493a20f34d.png#pic_c

公式的不难理解，参考下面的步骤：
【step1】计算说明如下：FM二阶项计算的是下面所有黄色正方形相加之和
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述纠正：第四步骤中，应该从i=1开始，公式错误

最低0.47元/天 解锁文章
阿什么七
关注
deepFM_推荐系统算法FM_deepfm_
09-30
为了解决这一问题，2017年，研究人员提出了DeepFM模型，它结合了FM的二阶交互和深度学习的优点。DeepFM由两部分组成：一个FM层和一个深度神经网络（DNN）层。FM层主要负责捕捉二阶交互，而DNN层则用于挖掘更复杂的非...
推荐算法(四)——经典模型 DeepFM 模型详解及代码实践
予以初始的博客
03-31 7799
目录1 介绍2 模型结构3 实验结果4 总结5 代码实践 1 介绍 DeepFM 是华为诺亚方舟实验室在 2017 年提出的模型。 论文传送门： A Factorization-Machine based Neural Network for CTR Prediction 正如名称所示，DeepFM 是 Deep 与 FM 结合的产物，也是 Wide&Deep 的改进版，只是将其中的 LR 替换成了 FM，提升了模型 wide 侧提取信息的能力。学 DeepFM 之前建议先了解 FM 与 Wide
论文精读-DeepFM
zynash2的博客
03-08 1万+
目前的CTR预估模型，实质上都是在“利用模型”进行特征工程上狠下功夫。传统的LR，简单易解释，但特征之间信息的挖掘需要大量的人工特征工程来完成。由于深度学习的出现，利用神经网络本身对于隐含特征关系的挖掘能力，成为了一个可行的方式。DNN本身主要是针对于高阶的隐含特征，而像FNN（利用FM做预训练实现embedding，再通过DNN进行训练，有时间会写写对该模型的认识）这样的模型则是考虑了高阶特征，...
二阶龙格库塔公式推导_DeepFM原理推导
weixin_39729272的博客
12-10 268
注：欢迎关注本人分享有关个性化推荐系统公众号：Tiany_RecoSystem转发一篇关于DeepFM的公式推导的博客：论文精读-DeepFM - 优快云博客​blog.youkuaiyun.com以及DeepFM的实现参考链接：Jachin：推荐系统中使用ctr排序的f(x)的设计-dnn篇之DeepFM模型​zhuanlan.zhihu.com以及其他DeepFM的理论实践：Python程序员：推荐系统...
DeepFM原理及源码解析(这篇文章写的太详细了)
weixin_40252835的博客
06-07 1523
猪逻辑公园2019-06-29 20:06:423114收藏22 分类专栏：深度学习文章标签：DeepFM推荐CTR 1、DeepFM原理回顾 先来回顾一下DeepFM的模型结构： DeepFM包含两部分：因子分解机部分与神经网络部分，分别负责低阶特征的提取和高阶特征的提取。这两部分共享同样的嵌入层输入。DeepFM的预测结果可以写为： 嵌入层 嵌入层(embedding layer)的结构如上图所示。通过嵌入层，尽管不同field的长度不同（不同离散...
DeepFM实践
mudan97的博客
11-24 897
本文主要内容如下： DeepFM 模型介绍 DeepFM 在贝壳房源详情页推荐展位的实践应用 DeepFM 模型介绍 Wide & Deep 是一个 Wide 侧使用 LR，Deep 侧使用 DNN 的联合学习模型（详情见《wide&deep 在贝壳推荐场景的实践》）。但在 Wide 侧 LR 一般需要大量的特征工程工作。华为的诺亚方舟实验室提出的 DeepFM 则使用 FM[3] 替换 Wide & Deep 模型中 Wide 部分的 LR，以实现 Wide
DeepFM算法原理及应用场景
eso1983的博客
02-19 1681
DeepFM（Deep Factorization Machine）是一种结合了因子分解机（Factorization Machines, FM）和深度神经网络（DNN）的混合模型，主要用于处理高维稀疏数据（如推荐系统中的点击率预测）。其核心思想是同时捕捉低阶（线性）和高阶（非线性）特征交互。
推荐算法DeepFM原理介绍及tensorflow代码实现
11-05 2634
目标： 掌握DeepFM原理，以及发展历程。和具体的代码实现。 产生背景： 产生DeepFM模型的原因：前面学习的Embedding MLP、Wide&Deep、NerualCF 等几种不同的模型结构，都没有用到交叉特征。特征都是一个一个独立的送进模型训练，对于挖掘特征交叉或者特征组合的信息，比较低效。 1、 Embedding MLP是把各个特征，进行了embeding后送进MLP无交叉。直接把独立的特征扔进神经网络，让它们在网络里面进行自由组合。 2、 NerualCF也是仅仅把物品和用户分别
推荐模型之DeepFM
最新发布
学习与分享人工智能技术
07-10 752
本文详细介绍了推荐模型deepFM的概念、原理及python实现方式。
[深度学习] DeepFM 介绍与Pytorch代码解释
摩登都市天空---专栏
10-21 6440
1. DeepFM算法的提出 由于DeepFM算法有效的结合了因子分解机与神经网络在特征学习中的优点：同时提取到低阶组合特征与高阶组合特征，所以越来越被广泛使用。 在DeepFM中 FM算法负责对一阶特征以及由一阶特征两两组合而成的二阶特征进行特征的提取 DNN算法负责对由输入的一阶特征进行全连接等操作形成的高阶特征进行特征的提取 具有以下特点： 结合了广度和深度模型的优点，联合训练FM模型和DNN模型，同时学习低阶特征组合和高阶特征组合。 端到端模型，无需特征工程。 DeepFM 共享相同的
deepFM—理论推导
有信念，才能走的更远
08-24 620
阅读文章： https://blog.youkuaiyun.com/ISMedal/article/details/100578354 一、初始印象 1、来源 DeepFM相当于将Wide & Deep模型中的Wide部分的LR换成了FM。 2、wide & deep的思想与结构实现 Wide & Deep Learning 模型的核心思想是结合广义线性模型的记忆能力（memorization，体现在使用的特征都是已有的单一特征，和已有的交叉特征）和深度前馈神经网络模型的泛化能力（g
FM分解机及其变种(FFM、DeepFM)原理详解
vivian_ll的博客
05-20 2884
FM（分解机，Factorization Machines） 线性回归： y^(x)=w0+w1x1+w2x2+...+wnxn=w0+∑i=1nwixi\hat{y}(x) = w_0+w_1x_1+w_2x_2+...+w_nx_n=w_0+\sum^n_{i=1}w_ix_iy^​(x)=w0​+w1​x1​+w2​x2​+...+wn​xn​=w0​+i=1∑n​wi​xi​ 从方程可知：...
推荐系统 - DeepFM架构详解
马飞飞的博客
08-15 4万+
说明 理论部分请参照：https://www.jianshu.com/p/6f1c2643d31b，这里主要针对源码进行解读，填一些坑。 简单介绍 1.DeepFM可以看做是从FM基础上衍生的算法，将Deep与FM相结合，用FM做特征间低阶组合，用Deep NN部分做特征间高阶组合，通过并行的方式组合两种方法，使得最终的架构具有以下特点。 （1） 不需要预训练 FM 得到隐向量； ...
DeepFM调参总结
chunyun0716的专栏
07-09 1982
一、结论 使用id类特征效果很好，很重要 dropout对模型性能影响较大 dnn层数对模型性能影响大 同样数据特征的情况下，deepfm比lr在AUC（ROC）的效果好0.02～0.03 只使用id类特征（用户id，物品id）比使用全部特征（包含用户id，物品id）的AUC值差0.005左右，但是训练速度和预测速度大幅度提升。 二、应用场景 2.1 指标选择 应用deepfm和lr模型的目的是给召回阶段的候选集合排序，故选择AUC为模型离线评测的指标。同时关注loss的变化情况。 2.2 数据情况
DeepFM原理解析
xiaobaichao__ml的博客
08-29 2614
序 FM DeepFM 代码理解 tricks 序 推荐系统中常用的模型是Logistic Regression。但是其没有考虑特征之间的相互关系，如果要使得模型学到这种相互关系的能力，则必须手动制作相应的相关特征，工作量巨大；为了解决这个问题，使用FM，FFM对组合特征进行学习；然而FM，FFM只考虑了低阶特征的组合，并未考虑高阶特征的组合，所以一种合理的思路就是...
FM算法详解
热门推荐
bitcarmanlee的博客
08-07 6万+
1.FM背景在计算广告中，CTR预估(click-through rate)是非常重要的一个环节，因为DSP后面的出价要依赖于CTR预估的结果。在前面的相关博文中，我们已经提到了CTR中相关特征工程的做法。对于特征组合来说，业界现在通用的做法主要有两大类：FM系列与Tree系列。今天，我们就来讲讲FM算法。2.one-hote编码带来的问题FM(Factorization Machine)主要是为了
Wide & Deep、DeepFM系列算法原理与优缺点对比
ISMedal的博客
09-06 1万+
一、Wide & Deep模型 Wide & Deep Learning 模型的核心思想是结合广义线性模型的记忆能力（memorization）和深度前馈神经网络模型的泛化能力（generalization）。利用广义线性模型从历史数据中学习特征相关性，利用深度前馈神经网络揭示隐式特征之间的相互作用。在训练过程中同时优化 2 个模型的参数，从而达到整体模型的预测能力最优。 Wide...
机器学习算法（3）——FM(Factorization Machine)算法（推导与实现）
qq_24819773的博客
01-11 9623
1、前言 由于逻辑回归只能处理线性可分的模型或者数据集，又由于现实生活中的分类问题是多种多样的，存在大量的非线性可分的分类问题，为了能够满足要求，对逻辑回归（Logistic Regression）进行了如下的优化： （1）、对特征进行处理：              如：核函数的方法，将非线性可分的问题转换成近似线性可分的问题； （2）、对逻辑回归（Logistic Regression...
FM算法推导以及意义
ganghaodream的博客
08-09 3250
一、FM算法的背景： FM算法主要用来预测点击率预估，以及矩阵的稀疏问题。 二、具体的例子： 例如： 用户 性别 商品 是否点击 A 男 篮球 1 B 女 化妆品 0 C 女 篮球 0 将上面的数据进行one-hot编码以后，就变成了下面这样 是否点击 ...
深入解析推荐系统算法：从FM到DeepFM
总的来说，DeepFM模型通过将深度学习与因子分解技术结合，为推荐系统提供了一个强大的工具，可以有效地捕捉用户和物品的非线性特征关系，提高推荐的准确度和效率。未来的研究可能会关注如何进一步优化DeepFM模型，...
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值