weixin_51908696的博客

Google应用商店作者认为一个好的推荐模型需要包含和。主要负责记忆法频繁出现的特征项；主要负责挖掘新的特征组合；截至2016年，作者认为目前的基于神经网络的推荐模型会过度泛化并推荐相关性较低的物品（因此，作者提出,在原来的深度神经网络模型中加入线性部分(利用特征之间的简单交互而生成的交互特征是可记忆的、有效的以及可解释的。

阿里巴巴广告点击率预测截至2018年，还没有相关的推荐算法考虑到用户兴趣的趋势。作者认为大多数的模型是直接将行为视为兴趣，无法直接提取用户真正的潜在兴趣特征。因此，作者提出了DIEN模型，利用通过用户历史行为序列捕捉用户的兴趣序列特征，通过处理目标的兴趣演变过程。： 笔者认为这篇文章的模型创新关键点在于关注了RNN的隐藏状态，通过一个辅助损失训练每一个隐藏状态，每一个隐藏状态对应一个行为序列的子兴趣，并基于这些子兴趣结合注意力机制进一步学习兴趣的演化发展。

学术论文***Motivation：***传统的算法是通过内积和Hadamard product实现特征交互的，这篇文章的作者提出了采用SENET实现动态学习特征的重要性；作者认为简单的内积和Hadamard product无法有效对稀疏特征进行特征交互，因此提出实现特征交互，提出了FIBINET： 笔者认为这篇文章没有多大的模型创新点，本质上就是使用了SENET和内积与Hadamard product的融合实现。

阿里巴巴广告推荐***Motivation：***传统的算法会在用户的不同兴趣上产生瓶颈，这些算法是通过模型输出的用户不同行为序列的特征向量，做一个池化操作最后预测点击率，这种固定的特征往往不能够反应用户不同的兴趣特征，池化操作会损失特征信息。例如在广告推荐系统中：一名游泳运动员会点击推荐的护目镜，主要是因为他买了泳衣，而不是他上周购物清单上的鞋子。因此在这篇文章中，提出了自适应计算用户的兴趣Embedding。

这篇文章的模型是在的背景下实现的。

推荐系统中模型发展较快，初学者【也就是笔者】很难对模型进行一个系统的学习。因此，这篇文章总结了王树森中的视频以及《深度学习推荐系统》中的单目标精排模型，绘制了一个单目标精排模型的思维导图来帮助初学者【笔者】更好的学习。在后面的学习过程中，会加入更多的单目标精排论文的学习过程以及丰富思维导图。

这篇文章是阅读石塔西《互联网大厂推荐算法实战》第二章推荐系统中的特征工程的学习笔记，

语料库十分巨大，每个单词都采用one-hot输入训练会大大增加存储和计算开销，因此，在输入的过程，仅仅输入单词的索引值，例如在上述例子中，直接采用索引4进行输入，同样也可以得到相同的词向量。：表示输入层到隐藏层的权重矩阵，是从one-hot向量到Embedding向量的关键，[7, 3]表示训练完成的每一个embedding向量维度为3；激活函数判断哪一个单词的概率最大，因此需要计算所有单词的概率大小。单词与单词之间的向量往往不在同一个向量空间，例如，传统的编码方式：one-hot编码，不同单词。

语料库十分巨大，每个单词都采用one-hot输入训练会大大增加存储和计算开销，因此，在输入的过程，仅仅输入单词的索引值，例如在上述例子中，直接采用索引4进行输入，同样也可以得到相同的词向量。：表示输入层到隐藏层的权重矩阵，是从one-hot向量到Embedding向量的关键，[7, 3]表示训练完成的每一个embedding向量维度为3；激活函数判断哪一个单词的概率最大，因此需要计算所有单词的概率大小。单词与单词之间的向量往往不在同一个向量空间，例如，传统的编码方式：one-hot编码，不同单词。

这篇文章是笔者阅读《深度学习推荐系统》第五章推荐系统的评估的学习笔记，在原文的基础上增加了自己的理解以及内容的补充，在未来的日子里会不断完善这篇文章的相关工作。