[论文笔记]Deep&Wide推荐系统

本文介绍了Deep&Wide推荐系统的概念,深入探讨了Wide组件的广义线性模型和Deep组件的前馈神经网络结构。Wide部分利用叉积变换,Deep部分则通过嵌入向量进行低维表示。模型通过联合训练优化所有参数,旨在平衡精准度与表达能力。最终,模型的目标函数结合了Wide和Deep部分的预测,以sigmoid函数输出概率。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

论文地址:https://arxiv.org/pdf/1606.07792.pdf
在这里插入图片描述

Wide Component

wide部分是一个广义线性模型,如图一左边所示,形如y=wT+b,y = w^T+b,y=wT+b,其中y是预测值,x是d维的特征向量,w是模型参数。而特征又包括了输入特征和变换特征,最重要的转换特征之一是叉积变换,其定义如下:
ϕk(x)=∏i=1nxicki,cki⊂{ 0,1} \phi_k(x)=\prod_{i=1}^nx_i^{c_{ki}}, c_{ki} \subset {\left\lbrace0,1 \right\rbrace} ϕk(x)=i=1nxicki,cki</

### KDD Conference Recommendation System Papers Notes Summary KDD(Knowledge Discovery in Databases)作为数据挖掘和知识发现领域的重要国际会议,涵盖了广泛的机器学习应用主题,其中包括推荐系统的研究。以下是关于KDD会议上与推荐系统相关的研究方向及其重要贡献的总结: #### 推荐系统的背景与发展 推荐系统的核心目标是通过分析用户行为、偏好以及物品特征来提供个性化的建议[^1]。随着电子商务的发展,基于协同过滤的方法逐渐成为主流技术之一。然而,在大规模场景下,传统方法面临稀疏性和可扩展性的挑战。 #### 数据驱动的产品推荐算法改进 一篇重要的工作来自Ziegler等人提出的分类法引导计算产品推荐模型[^2]。该文章探讨了如何利用商品类别结构信息提高推荐质量,并证明引入层次化约束可以有效缓解冷启动问题并增强解释力。 #### 表格型问答中的信息检索视角 Bao等人的研究表明,对于表格形式的数据集执行精确查询匹配存在困难;他们开发了一种结合自然语言处理技术和关系数据库索引机制的新框架用于解决此类任务[^1]。虽然这项成果主要集中在表单解析方面,但它间接支持了复杂环境下构建高效推荐引擎的可能性。 #### 基于深度学习的最新进展 近年来,许多顶级期刊和会议都报道过采用神经网络架构提升预测性能的工作案例。例如AutoRec自动编码器能够捕捉隐含模式从而改善评分估计准确性;而Wide&Deep则展示了浅层线性组合搭配深层非线性变换的优势所在。这些创新思路无疑推动整个行业向前迈进一大步。 ```python import numpy as np from sklearn.model_selection import train_test_split X_train, X_test = train_test_split(ratings_matrix, test_size=0.2) def autoencoder_model(input_dim): from tensorflow.keras.models import Model from tensorflow.keras.layers import Input, Dense input_layer = Input(shape=(input_dim,)) encoded = Dense(64, activation='relu')(input_layer) decoded = Dense(input_dim, activation='sigmoid')(encoded) autoencoder = Model(inputs=input_layer, outputs=decoded) return autoencoder model = autoencoder_model(X_train.shape[1]) model.compile(optimizer='adam', loss='mean_squared_error') history = model.fit(X_train, X_train, epochs=50, batch_size=256, shuffle=True, validation_data=(X_test, X_test)) ``` 以上代码片段展示了一个简单的自编码器实现过程,适用于矩阵分解类别的推荐应用场景。 #### 总结 综上所述,从早期简单统计学到如今复杂的端到端训练范式转变过程中,我们可以看到学术界不断探索更优解决方案的努力轨迹。未来几年内,预计会有更多跨学科融合趋势涌现出来进一步丰富这一领域的内容。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值