论文阅读【5】DeepFM: A Factorization-Machine based Neural Network for CTR Prediction

最新推荐文章于 2024-04-15 16:41:28 发布
原创 最新推荐文章于 2024-04-15 16:41:28 发布 · 426 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #人工智能 #机器学习

本文针对CTR预测问题，提出一种兼顾低阶与高阶交互特征的DeepFM模型。该模型融合FM与DNN的优势，通过输出层整合两者的预测结果，有效提升了模型性能。

请添加图片描述

本文发现特征工程对低阶和高阶交互特征有明显偏向，本文提出了一种既关注低阶特征又关注高阶交互特征的模型：DeepFM，并在实验中发现模型有效。

目录

问题描述

本文以预测CTR(Click-through rate)为目标，具体问题见博客：论文阅读【3】Deep & Cross Network for Ad Click Predictions。

本文核心思想

本文解决特征工程中偏向低阶交互特征和高阶交互特征的问题，DeepFM结合了FM在低阶交互特征的学习和DNN在高阶交互特征上的学习。
请添加图片描述
output layer: y ^ = s i g m o i d ( y F M + y D N N ) \hat y=sigmoid(yFM +yDNN)

最低0.47元/天 解锁文章
04-《DeepFM: A Factorization-Machine based Neural Network for CTR Prediction》
weixin_37562062的博客
03-31 667
1.背景 DeepFM，2017年被提出，是一个以并行形式结合了DNN和FM的模型。它被提出用于解决构建复杂特征组合的问题。 在CTR预测中，学习用户点击行为背后的隐藏特征组合是非常重要的。这些隐藏特征组合通常比较复杂，包括了低阶和高阶。我们需要注意是的，低阶和高阶的特征组合是同样重要的，我们不应该忽略任意一个。 构建特征组合的问题，其实一直是CTR预测中的一个难题。 对于复杂高阶特征组合...
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction 阅读笔记
xuanshuang的博客
06-07 306
摘要 Despite great progress, existing methods seem to have a strong bias towards low- or high-order interactions, or require expertise feature engineering.
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction【论文记录】
Novelin的博客
12-02 315
结合 FM 和 Deep 一起联合训练，共享输入和 embedding，embedding 是 FM 的潜在向量
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction（2017）
Walker-C
03-16 283
文章目录DeepFM: A Factorization-Machine based Neural Network for CTR Prediction（2017）(0) 个人小结(1) 研究目标(2) 背景 & 问题描述(3) 研究方法(4) 结论与展望 DeepFM: A Factorization-Machine based Neural Network for CTR Prediction（2017） (0) 个人小结 传统推荐方法和深度学习结合的形式有两种，分别是并行和串行。DeepFM就
#Paper Reading# DeepFM: a factorization-machine based neural network for CTR prediction
John159151的专栏
05-31 580
论文题目: DeepFM: a factorization-machine based neural network for CTR prediction 论文地址: https://www.ijcai.org/proceedings/2017/0239.pdf 论文发表于: IJCAI 2017（CCF A类会议） 论文大体内容： 本文主要介绍了一种融合FM和DNN的模型——DeepFM模型，...
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
Guozyan的博客
04-15 1033
预训练会增加成本，即降低模型效率；因为使用了one-hot编码所以选择sigmoid函数作为最后的结合函数；超参数包括但不限于：激活函数、丢弃率、网络形状、每层神经元数量、隐藏层数量；DeepFM的效率与最先进的深度模型相当，在AUC和Logloss方面优于最先进的模型。
论文笔记 【DeepFM: A Factorization-Machine based Neural Network for CTR Prediction】
Salmon1122的博客
09-13 681
* 论文笔记 【DeepFM: A Factorization-Machine based Neural Network for CTR Prediction】
6.DeepFM: A Factorization-Machine based Neural Network for CTR Prediction论文详解和代码实现
zhaozhiwei314的博客
02-16 1583
一、总述 这篇论文来自哈工大&华为诺亚方舟实验室，主要关注如何学习user behavior背后的组合特征（feature interactions），从而最大化推荐系统的CTR。但目前的方法容易得到low-或者high-order interactions。因此这篇论文提出构建一个端到端的可以同时突出低阶和高阶feature interactions的学习模型DeepFM。DeepFM是一个新的神经网络框架，结合了FM在推荐中的优势和深度学习在特征学习中的优势。 二、DeepFM模型的问题阐述和研
DeepFM: A Factorization-Machine based Neural Network for CTR Prediction简介
loserChen的博客
01-07 1584
Abstract 对于一个基于CTR预估的推荐系统，最重要的是学习到用户点击行为背后隐含的特征组合。在不同的推荐场景中，低阶组合特征或者高阶组合特征可能都会对最终的CTR产生影响。但是现存的方法总是忽视了高阶或低阶组合特征的联系，或者要求专门的特征工程，因此作者建立了DeepFM模型，将FM与DNN结合起来。 Introduction DeepFM的预测结果可以写为： ​ y^=sig...
【推荐算法】DeepFM模型：A Factorization-Machine based Neural Network for CTR Prediction
长相忆兮长相忆的专栏
06-03 4103
DeepFM模型是由哈尔滨工业大学和华为实验室联合提出的，将FM模型结构与Wide&Deep模型进行了融合。DeepFM可以同时提取低阶组合特征与高阶组合特征。其中，FM模型负责提取一阶特征以及两两交叉特征；DNN模型负责提取高阶特征。相比于谷歌最新的Wide&Deep模型，DeepFM模型的Deep component和FM component从Embedding层共享数据输入，同时不需要专门的特征工程，在推荐系统中取得了不错的推荐效果。
论文笔记-DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
weixin_30371875的博客
12-23 207
针对交叉（高阶）特征学习提出的DeepFM是一个end-to-end模型，不需要像wide&deep那样在wide端人工构造特征。 网络结构： sparse features的构造：类别型特征one-hot，连续型特征数值表示，或者分段离散后one-hot FM与NN分别输出预测y后，对两个结果进行sigmoid FM部分： paper指出...
【推荐系统论文精读系列】(十一)--DeepFM A Factorization-Machine based Neural Network for CTR Prediction
优快云 精品推荐
11-25 1445
文章目录一、摘要二、介绍三、我们的方法3.1 DeepFMFM ComponentDeep Component3.2 与其他神经网络的关系FNNPNNWide&Deep总结References 论文名称：DeepFM:A Factorization-Machine based Neural Network for CTR Prediction 论文地址：DeepFM ⚡本系列历史文章⚡ 【推荐系统论文精读系列】(一)–Amazon.com Recommendations 【推荐系统论文精读系列
主线3.1DeepFM模型论文阅读：DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
weixin_45459911的博客
04-07 1480
文章目录一、摘要二、模型演变和各模型间的对比1、CTR的任务要求2、DeepFM模型的引入3、各模型间的对比4、DeepFM优势三、DeepFM模型介绍1、FM部分2、Deep部分 一、摘要 对于一个基于CTR预估的推荐系统，最重要的是学习到用户点击行为背后隐含的特征组合。在不同的推荐场景中，低阶组合特征或者高阶组合特征可能都会对最终的CTR产生影响。但是现存的方法总是忽视了高阶或低阶组合特征的联...
推荐系统论文阅读笔记（二）DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
qq_36907160的博客
06-18 414
参考博客：https://www.jianshu.com/p/6f1c2643d31b 1. 思路 low-order和high-order的feature interaction同样重要，FM擅长发现low-order的特征交互，DNN擅长发现high-order的特征交互。DeepFM将FM和DNN联合在一起，综合了二者的优点。相较于Wide&Deep，DeepFM不需要对原始特征进行人工特征工程的工作，FM会自动学习特征交互。 点击率预测——CTR(click-through rate)对于推
《DeepFM: A Factorization-Machine based Neural Network for CTR Prediction》 DeepFM 模型及python代码
十三
03-22 2275
如果不了解FM模型或者FFM模型可以查阅下面两篇文章： 1、推荐系统 | 《Factorization Machines》 | FM模型及python实现 2、《Field-aware Factorization Machines for CTR Prediction》FFM模型整理及python代码 1 DeepFM模型论文原文 2 模型 2.1 CTR预估数据特点： 1、输入中既...
CTR预估 论文精读(七)--DeepFM: A Factorization-Machine based Neural Network for CTR Prediction
Dby_freedom的博客
12-26 4593
Abstract Learning sophisticated feature interactions behind user behaviors is critical in maximizing CTR for recommender systems. Despite great progress, existing methods seem to have a strong bias to...
Guo H, Tang R, Ye Y, et al. DeepFM: A factorization-machine based neural network for CTR prediction[J]. arXiv preprint arXiv:1703.04247, 2017. 论文原文去哪里看
最新发布
06-21
### DeepFM: A Factorization-Machine based Neural Network for CTR Prediction DeepFM 是一种结合了因子分解机（Factorization Machine, FM）和深度神经网络（Deep Neural Network, DNN）的端到端学习模型，旨在同时捕捉低阶和高阶特征交互以提升点击率（CTR）预测的效果[^1]。该模型通过共享输入层的方式将 FM 和 DNN 结合起来，从而避免了对特征工程的依赖，并能够高效地进行训练[^2]。 如果需要获取论文《DeepFM: A Factorization-Machine based Neural Network for CTR Prediction》的原文，可以通过以下几种方式： 1. **学术数据库**：访问主流学术数据库如 [arXiv](https://arxiv.org/)、[SpringerLink](https://link.springer.com/) 或 [IEEE Xplore](https://ieeexplore.ieee.org/) 搜索论文标题“DeepFM: A Factorization-Machine based Neural Network for CTR Prediction”。通常这些平台会提供免费或付费的下载选项。 2. **Google Scholar**：使用 [Google Scholar](https://scholar.google.com/) 搜索论文标题，可能会找到作者上传的预印本或开放获取版本[^3]。 3. **机构官网**：由于该论文由哈尔滨工业大学与华为诺亚方舟实验室合作完成，可以访问相关机构的官方网站或技术博客，查找是否提供了论文的公开下载链接[^4]。 4. **ResearchGate 或 Academia.edu**：在这些学术社交平台上搜索论文标题，有时作者会分享论文的 PDF 文件。 5. **联系作者**：如果上述方法均未成功，可以通过邮件直接联系论文的通讯作者，礼貌地请求获取论文副本。 以下是 DeepFM 的核心结构图示例代码，帮助理解模型架构： ```python import tensorflow as tf # 定义输入层 input_layer = tf.keras.layers.Input(shape=(feature_dim,)) # FM 部分 fm_first_order = tf.keras.layers.Dense(1)(input_layer) embedding_layer = tf.keras.layers.Embedding(input_dim=vocab_size, output_dim=embedding_dim)(input_layer) summed_embedding = tf.reduce_sum(embedding_layer, axis=1) squared_sum = tf.square(summed_embedding) sum_squared = tf.reduce_sum(tf.square(embedding_layer), axis=1) fm_second_order = 0.5 * tf.reduce_sum(squared_sum - sum_squared, axis=1, keepdims=True) # DNN 部分 dnn_layer = tf.keras.layers.Flatten()(embedding_layer) for units in dnn_units: dnn_layer = tf.keras.layers.Dense(units, activation='relu')(dnn_layer) # 输出层 output = tf.keras.layers.Add()([fm_first_order, fm_second_order, dnn_layer]) output = tf.keras.layers.Dense(1, activation='sigmoid')(output) # 构建模型 model = tf.keras.Model(inputs=input_layer, outputs=output) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值