精通推荐算法17：特征交叉之Wide & Deep（上）

已于 2024-10-20 17:48:14 修改
阅读量870 收藏 15
点赞数 10
分类专栏： 精通推荐算法 文章标签： 推荐算法 算法 机器学习
于 2024-07-31 10:34:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/u013510838/article/details/140816280
版权

1 特征交叉总体算法架构

2 Wide & Deep引言

Wide & Deep是推荐系统精排算法中一个里程碑式的模型，由谷歌研究人员于2016年提出。其全称为“ Wide & Deep Learning for Recommender Systems”

了解本专栏 订阅专栏 解锁全文 超级会员免费看
精通推荐算法18：特征交叉之Wide & deep（下）
谢杨易的博客
07-31 702
精通推荐算法》，限时半价，半日达t=N7T8《精通推荐算法》，限时半价，半日达https://u.jd.com/VbCJsCz。
精通推荐算法19：特征交叉之DeepFM -- 异构模型Wide侧引入FM
谢杨易的博客
08-03 1241
DeepFM通过对Wide侧优化，提升了异构模型表达能力，是推荐算法中的经典模型。虽然早在2017年就提出，距今已经很多年，但仍然广泛应用于各大推荐场景。与DeepDeep等模型相比，它的优势十分明显，主要有：不需要手工构造交叉特征，降低了对特征工程的依赖。相比之下，WideDeep仍然需要。模型可同时进行低阶和高阶特征交叉，兼顾了记忆和泛化两大能力。相比之下，DeepCrossing、FNN、PNN等模型则缺失了低阶特征交叉能力。
（推荐系统）Wide&Deep算法：Wide & Deep Learning for Recommender Systems
qq_33397016的博客
06-20 807
摘要 为改进经典推荐算法对特征工程的高依赖性以及深度学习方案因产生过多冗余信息而计算量增大的问题，Cheng等人提出了一种可以兼备记忆性以及泛化性的深度学习模型：Wide & Deep。Wide & Deep的模型结构简单，由wide 以及 deep两部分组成，在深度学习领域在推荐算法的应用中具有里程碑式的意义。 1.推荐算法中的两大任务 Cheng等人认为推荐算法主要需要解决两大问题：记忆性（memorization）以及泛化性（generalization） 记忆性在原文中的定义为：
四种推荐算法——Embedding+MLP、Wide&Deep、DeepFM、NeuralCF
m0_59704905的博客
08-07 2267
最经典的是输入用户和物品id，转化成One-hot编码后经过简单的Embedding后生成稠密向量，然后将用户塔和物品塔拼接一起，送进MLP层中充分交叉，获取更高阶的特征，然后输出。提出的Wide&Deep是比较经典的一个深度学习模型，它使模型既具有想象力又具有记忆力——线性模型（Wide）使模型既具有记忆力和深度神经网络（Deep）使模型既具有泛化性。可以简单地理解成对商品或者是特征之间成对出现的一种学习，由于用户的历史行为特征是非常强的特征，特征之间的直接线性关联，对于特征间的简单关系很有效。
推荐算法实战项目：Wide&Deep原理以及案例实战(附完整 Python 代码)
机器学习社区
05-02 2976
本文要介绍的是Google于2016年提出的Wide&Deep模型，此模型的提出对业界产生了非常大的影响，不仅其本身成功地应用在多家一线互联网公司，而且其后续的改进工作也一直延续至今。Wide&Deep模型正如其名，分别包含了Wide部分和Deep部分。其中Wide部分的作用是让模型具有较强的“记忆能力”(memorization)；而Deep部分的作用是让模型具有“泛化能力”(generalization)。
推荐系统中的常用算法——Wide & Deep
热门推荐
null的专栏
10-07 3万+
这篇文章是阅读《Wide & Deep Learning for Recommender Systems》后的总结，该文章中提出结合Wide模型和Deep模型的组合方法，对于提升推荐系统（Recommendation System）的性能有很重要的作用。 1、背景 本文提出Wide & Deep模型，旨在使得训练得到的模型能够同时获得记忆（memorization）...
Wide & Deep算法
u013052732的专栏
08-01 393
一、模型介绍 推荐系统的挑战是 memorization与generalization memorization，记忆能力，学习items或者features之间的相关频率，在历史数据中探索相关性的可行性 generalization，泛化（推理）能力，基于相关性的传递，去探索一些在过去没有出现过的特征组合 结合线性模型的记忆能力和DNN模型的泛化能力，在训练过程中同时优化两个模型的参数 二、模型 1、Wide推荐： 系统通过获得用户的购物日志数据，包括用户点击哪些商品，购...
精通推荐算法20：特征交叉之DCN -- 异构模型Wide侧引入高阶交叉
谢杨易的博客
08-06 951
DeepFM通过FM显式引入了二阶特征交叉，提升了低阶特征交叉能力。但在推荐场景中，三阶、四阶甚至更高阶的特征交叉同样十分重要。比如在应用市场（如）推荐场景中，“年轻”的“男性”用户，对“射击类游戏App”下载率较高。此处特征组“用户年龄、用户性别、App类型”的三阶交叉，对标签“用户是否下载App”十分重要。有没有办法在模型中显式引入高阶特征交叉呢？有两种思路：通过DNN深度神经网络。DNN具有高阶特征交叉能力，但交叉是隐式，而不是显式的。
精通推荐算法21：特征交叉之NFM -- 异构模型Deep侧加入显式交叉
谢杨易的博客
08-09 1132
NFM模型针对FM的二阶部分进行优化，通过交叉池化层和深度神经网络，为模型引入高阶特征交叉能力和非线性能力。它综合了FM的显式特征交叉，以及DNN的高阶特征交叉能力，同时具备二者的优点。由新加坡国立大学研究人员，于2017年提出，全称“9]。2 NFM模型推导。
[搜广推]深度学习推荐模型（5）——Wide&Deep模型
最新发布
m0_69281817的博客
12-25 1137
Wide & Deep模型由Google在2016年提出。它旨在结合线性模型（Wide部分）的记忆能力和深度学习模型（Deep部分）的泛化能力，以解决推荐系统中的记忆性（Memorization）和泛化性（Generalization）问题。
推荐算法—wide&deep原理知识总结代码实现
Rocket,Qian的博客
02-22 1747
今天，总结一个在业界有着巨大影响力的推荐模型，Google 的 Wide&Deep。可以说，只要掌握了 Wide&Deep，就抓住了深度推荐模型这几年发展的一个主要方向。
推荐算法(三)——Wide&Deep 推荐算法与深度学习的碰撞
予以初始的博客
02-25 1694
目录1 介绍2 模型结构2.1 Wide Models2.2 Deep Models3 实验结果4 总结5 代码实践写在最后 1 介绍 Wide&Deep 是 Google 在2016年提出的模型，一个线性模型与深度模型结合的产物。 在此之前，CTR 任务中主要以线性模型+人工特征为主流方法，此类方法缺陷比较明显：线性模型表达能力有限，需要大量人工特征来提升模型效果。随着深度学习的不断火热，深度模型展现了强大的表达能力，并且能自适应的学习特征之间的高阶交互。 因此 Google 取彼之长补己之短，将
个人总结：推荐算法 从MF(LFM) 到 FM FFM Wide&Deep DeepFM
yyhhlancelot的博客
08-12 6507
FM 在推荐系统中，经常会碰到电影评分这样高度稀疏的数据，在之前的个人总结：推荐算法篇（附协同过滤等） 综述的基于模型的协同过滤中，提到了FunkSVD(LFM，Latent Factor Model)，通过设置隐含特征，进行矩阵分解，来实现对未知评分的预测。这里FM，和LFM一样，也是隐变量模型。 问题背景 传统逻辑回归认为特征直接是相互独立的，但是很多情况下特征之间的依赖关系不可忽视，因...
大厂面试机器学习算法（5）推荐系统算法：从wide&deep说起
weixin_44644621的博客
08-20 1453
推荐系统CTR算法汇总
推荐系统深度学习实战之Wide_Deep
htbeker的博客
02-11 5543
推荐系统与深度学习的结合。在推荐系统中，记忆体现的准确性，而泛化体现的是新颖性，wide_deep能将两者相结合。 1、Memorization 和 Generalization 这个是从人类的认知学习过程中演化来的。人类的大脑很复杂，它可以记忆(memorize)下每天发生的事情（麻雀可以飞，鸽子可以飞）然后泛化(generalize)这些知识到之前没有看到过的东西（有翅膀的动物都...
「从零入门推荐系统」13：推荐系统排序算法之wide & deep、YouTube深度学习排序...
大数据与人工智能
01-08 1007
作者|gongyouliu编辑 |gongyouliu我们在上一章讲解了常用的3种基础排序算法，本章我们接着讲解2种经典的深度学习排序算法，即Google的wide & deep和YouTube的深度学习排序。这2个算法是国外大厂在真实业务场景中得到验证的、有真实业务价值的方法，并且也被中国广大互联网公司应用于自己的业务中，是得到业界一致认可的算法。虽然这2个算法是在大约2016年左...
Wide&Deep模型
weixin_43869610的博客
03-04 463
Wide & Deep Learning for Recommender Systems 论文链接：https://arxiv.org/pdf/1606.07792.pdf 动机：在CTR预估任务中利用手工构造的交叉组合特征来使线性模型具有“记忆性”，使模型记住共现频率较高(frequent co-occurrence)的特征组合，往往也能达到一个不错的效果，且可解释性强。但这种方式有着较为明显的缺点： 特征工程成本太高。 对于未曾出现过的特征组合，权重系数为0，无法进行泛化。 所以为了加强模型
手推广告论文（二）Wide & Deep 推荐系统算法Wide & Deep Learning for Recommender Systems
GavinKai
04-19 998
同时，我们还将结果与另一个仅使用相同特征和神经网络结构的深度模型的1%的用户组进行了比较，发现 Wide & Deep 模型相较于仅深度模型有1%的额外增益（具有统计显著性）。基于嵌入的模型，如因子分解机或深度神经网络，通过为每个查询和项目特征学习低维密集嵌入向量，减少了特征工程的负担，从而使模型能够泛化到之前未见过的查询-项目特征对。在本研究中，我们探索了前馈神经网络与线性模型的联合训练，以及稀疏特征与输出单元之间的直接连接，解决具有稀疏输入数据的通用推荐和排名问题。在数据生成过程中计算分位数边界。
【推荐算法系列六】Wide&Deep模型
RessCris的博客
02-27 1171
Wide 部分的主要作用是让模型具有较强的“记忆能力”（Memorization），而 Deep 部分的主要作用是让模型具有“泛化能力”（Generalization），因为只有这样的结构特点，才能让模型兼具逻辑回归和深度神经网络的优点，也就是既能快速处理和记忆大量历史行为特征，又具有强大的表达能力，这就是 Google 提出这个模型的动机。就是因为 Wide 部分可以增强模型的记忆能力，让模型记住大量的直接且重要的规则，这正是单层的线性模型所擅长的。部分倾向于对已经反馈过的历史数据，学习其中的关系。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

谢杨易

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值