李问渔

深度会话兴趣网络DSIN深度会话兴趣网络（Deep Session Interest Network，DSIN）是阿里发表在IJCAI 2019上的模型，Reference推荐系统论文DSIN：Deep Session Interest Network深度会话兴趣网络 DSIN推荐系统遇上深度学习(四十五)-探秘阿里之深度会话兴趣网络DSIN...

深度兴趣进化网络DIEN深度兴趣进化网络（Deep Interest Evolution Network，DIEN）是阿里妈妈广告团队发表在AAAI 2019上的工作，是深度兴趣网络DIN模型的升级版。Motivation与搜索广告不同，在推荐系统中用户无需输入关键词来表达意图，因此捕捉用户兴趣并考虑兴趣的动态变化对提升模型效果来说十分关键。以Wide&Deep为代表的模型只考虑不同...

深度学习推荐模型演化推荐系统和计算广告领域进入深度学习时代后，相比传统推荐模型在以下两方面取得了重大进展：(1) 与传统机器学习相比，深度学习模型的表达能力更强，能够挖掘出更多数据中潜藏的模式。(2) 深度学习的模型结构非常灵活，能够根据业务场景和数据特点，灵活调整模型结构，使模型与应用场景完美契合。深度学习推荐模型的演化图谱如下所示，以多层感知机MLP为核心，通过改变神经网络的结构，构建...

DeepFM模型DeepFM 简介对于CTR而言，最重要的是学习到用户点击行为背后隐含的特征组合。在不同的推荐场景中，低阶组合特征或者高阶组合特征都可能会对最终的CTR产生影响。人工特征工程，通常会有两个问题：第一个是特征爆炸。以Poly-2模型为例，该模型采用直接对二阶特征组合建模来学习它们的权重，这种方式构造的特征数量跟特征个数乘积相关。比如某类特征有1w个可能的取值（如App），另一类...

碎碎念最近读FM、FFM、DeepFM的paper，整理知识点和原理，越来越感觉即使推导了公式，用LibFM、xlearn等在数据集上跑了，也始终心里没底，调包侠还是level太低。这种感觉就像是刷LeetCode，看了别人的代码，依然没把握面试时能写出bug-free的代码一样。工程实现！一定要敲一遍代码才算掌握！场感知分解机场感知分解机（Field-aware Factorization...

因子分解机因子分解机（Factorization Machine，FM），又称分解机，是由Steffen Rendle最早于2010年在论文ICDM：Factorization Machines中提出，旨在解决大规模稀疏数据下的特征组合问题。传统机器学习方法，假设各特征之间相互独立，没有考虑特征间存在相互作用的情况，主要关注如何对特征赋予权重的问题。FM 研究背景在实际应用中，Categor...

写在前面的话本文为学习笔记，主要整理自参考文献中的文章。召回 & 排序目前业界推荐系统普遍采用召回+排序的两阶段模型，如图1.1所示。所谓召回（matching），指的是从全量信息集合中触发尽可能多正确的结果，并将结果返回给排序作为输入。相比搜索系统，推荐系统最大的不同在于用户没有明确的Query输入，即用户自身的需求是不明确的，推荐系统需要做的就是根据用户画像、内容画像等各种信息为...

在上一篇奇异值分解原理浅析中，简单分析了SVD的矩阵分解原理。本文侧重分享下SVD算法及其变种在推荐领域中的应用，SVD算法最初是在Netflix竞赛中大放异彩，目前SVD及其变种主要包括FunkSVD、BiasSVD、SVD++以及timeSVD。FunkSVD算法传统的SVD矩阵分解要求矩阵必须是dense的，即不能有缺失值。而在实际的推荐系统中，User-Item评分矩阵RRR通常是非常...

写在前面的毒鸡汤所谓原创，只是个人对某一个知识点脉络的梳理。最近被F家的Slogan圈粉：Done is better than perfect.与所有的拖延癌君共勉。奇异值分解的定义与性质**奇异值分解（singular value decomposition，SVD）**是一种矩阵因子分解方法。任意一个m×nm\times nm×n矩阵，都可以表示为三个矩阵的乘积（因子分解）形式，...