CFFNN: Cross Feature Fusion Neural Network for Collaborative Filtering 阅读笔记

CFFNN(CrossFeatureFusionNeuralNetwork)是一种应用于协同过滤的深度学习模型。该模型包括输入层、特征提取层、特征融合层和预测层。输入层使用One-hot向量化并结合投影矩阵。特征提取层通过多个单层全连接网络(MLP)进行特征提取,并将输出拼接。尽管DNN可能导致过拟合,但作者选择MLP以避免核函数选择的困难。特征融合层利用横向和纵向注意力机制进行特征融合。预测层再次应用注意力机制以生成预测值。尽管模型复杂,但对于理解用户和项目特征的融合有一定贡献。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

CFFNN: Cross Feature Fusion Neural Network for Collaborative Filtering

摘要

方法

1. 符号系统

U,I,Y∈RM×NU, I,Y\in R^{M\times N}U,I,YRM×N:用户、项目、交互集合,M和N分别是用户、项目的总数.

2. 输入层

把One-hot向量化的层,很少有把这一步写出来的,用了P, Q两个投影矩阵,结果是eu,eie_u,e_ieu,ei. 分别代表用户、项目。

3. 特征提取层

这一层真是有点…
在这里插入图片描述
如图所示,在Embedding层后,有m个小方块,每一个小方块其实都是一个单层全连接的输出,然后Concat把m个输出拼起来,得到这一层的输出FuF_uFu, 类似地,项目方面得到FiF_iFi.

关于为什么不用deep网络结构而是用wide结构,作者的解释是:首先,DNN容易过拟合,难传播梯度;其次,不同数量的MLP可以捕捉不同的特征,可以提高模型性能【对这点存疑,因为毕竟是黑盒,单纯地横向拼接缺乏可解释性】。
MLP的优点:上述结构在CV中很常用,但是难点是选择合适的核尺寸,但是MLP就没有核函数的存在,所以可以用不同数量的MLP来替换核函数。

4.特征融合层

这里我觉得原文写得很乱,很不清晰,缺少一些必要说明,整个过程就如图所示吧
在这里插入图片描述
可以看到,有对矩阵横向、竖向的注意力机制、有一堆softmax,然后拼接、全连接,中间夹杂点积、对应位置相乘balabala
最后得到的是Fi#,Fu#F^\#_i,F^\#_uFi#,Fu#分别代表项目用户

5.预测层

在这里插入图片描述
和上面差不多,注意力机制得到权重,再继续注意力
在这里插入图片描述
最后得到预测值

后续

后面不看了,才疏学浅,这种过于复杂的模型结构,对自己的工作没有什么启发。这篇文章的主要贡献好像是提出这种项目/用户间特征的fusion.

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值