aaHua_

On the User Behavior Leakage from Recommender System Exposure

AFM、GAU

FPL

声明：本模型复现笔记记录自己学习过程，如果有错误请各位老师批评指正。之前学习了很多关于特征交叉的模型比如Wide&Deep、Deep&Cross、DeepFM、NFM。对于特征工程的特征交叉操作，这些模型已经做的非常好了，模型进一步提升的空间已经很小了，所以很多研究者继续探索更多"结构"上的尝试，比如注意力机制、序列模型、强化学习等在其他领域表现得很好的模型结构也逐渐进入推荐系统。本周就学习了注意力机制在推荐系统中的应用。注意力机制不懂的同学学一下李沐老师的注意力机制这一节课AFM

声明：本模型复现笔记记录自己学习过程，如果有错误请各位老师批评指正。本周复现了Wide&Deep Model、Wide Model、Deep Model、DeepFm Model、NFM Modeldataset：cretio数据集（选取了train 20000， test 5000）Wide&Deep Model结合了Wide Model（LR）的记忆性和Deep Model的泛化能力，对于部署应用来说会提高用户的获取率和满意度，但是Wide&Deep的Wide part，需

学习《Neural Collaborative Filtering》。该论文介绍了利用深度神经网络去建模user-item interaction，提出了NCF框架，并实例化GMF、MLP、NeuMF。MF出现的问题1.假设所有隐藏因子相互独立，MF可以被看做是线性模型（在做内积时，相当于对应位置的权重都是1），仅仅是对浅层特征做处理，结果偏差较大。2.MF的隐藏因子不好确定。对于一个复杂的user-item interaction，低维的效果不好，但是对于一个稀疏矩阵，增加隐藏因子的数量变成高维可能会

FM是什么？FM(Factorization Machine，因子分解机)主要是为了解决数据稀疏的情况下，特征怎样组合的问题。为什么使用FM？正如FM是什么说的，FM主要用来解决：1.数据稀疏 2.特征组合。1.数据稀疏：现如今在推荐系统中存在这种问题，例如一个书店网上商城，商城中有几百万本书籍，大部分用户最多也就买几本或者几十本，在一条用户向量中绝大部分的值都是0。2.特征组合：在现在的机器学习建模中，如果直接对特征进行建模，会使我们忽略了特征与特征之间的交互关系（比如男生喜欢运动类，女生喜欢

UserCF和ItemCF的综合比较（自用）转自书籍《推荐系统实践》