zhaozhiwei314的博客

一、前言目前已经有很多方法通过将会话建模为序列或图来完成对会话的嵌入，进而对 next-item 进行预测。这些方法将会话压缩为一个固定的表示向量，而不考虑要预测的目标项。之前的大多数方法的出发点就是通过对会话进行嵌入，期望能够捕获到用户意图信息完成对未来可能产生交互物品的预测。本文的作者认为由于目标物品的多样性和用户的兴趣，固定的向量会限制推荐模型的表示能力。因此在本文中提出了一种新的目标注意图神经网络( TAGNN )模型用于基于会话的推荐。在TAGNN中，目标感知注意自适应地激活了用户对不同目标物

一、提出背景作者提了两个问题以往工作直接用 last click item embedding 用来表示 current preference 不妥session 中所有的 item 并不一定能反映用户偏好，有些交互可能是因为误触、浏览无关的促销广告等行为产生的对于 问题1，例子如下例子中使用最后一个 item 预测的物品集合里面不存在真实的 target item解决方法：论文提出了一个可学习的 embedding 用来刻画用户的 current preference，称为 targ

一、前言在某些序列推荐系统中，一个用户-项目交互序列包括多个子序列(也称为会话)。在这种情况下，除了当前子序列中先前的交互作用外，历史子序列还可能影响当前子序列中预测的下一个用户-项目交互作用。基于会话的推荐问题旨在基于会话预测用户的行为，以前的相关方法将会话建模为序列，并通过对用户表示进行学习来完成推荐。这些方法虽然取得了令人满意的结果，但它们不足以在会话中获得准确的用户表示，并忽略了复杂的物品表示转换。为了获得准确的物品嵌入和考虑物品表示的复杂转换，本文提出了一种基于会话的GNN网络模型。在 SR-

论文信息 WSDM 2018 Personalized Top-N Sequential Recommendation via Convolutional Sequence Embedding Jiaxi Tang (Simon Fraser University); Ke Wan...

DRN: A Deep Reinforcement Learning Framework for News Recommendation。这篇文章是微软18年发的基于强化学习的推荐系统文章。

一、背景总述2017年6月阿里妈妈的精准定向检索及基础算法团队放出了论文Deep Interest Network(DIN)，用于解决电子商务的CTR预估，再次基础上，最近又放出了改进版本Deep Interest Evolution Network(DIEN)，主要解决了以下两个问题：更加精确的刻画用户的长期兴趣和短期兴趣用户的兴趣是时刻变化的，需要更加准确的刻画用户兴趣的变化二、摘要点击率预估的目标是评估用户点击的可能性，这是广告系统的核心之一。对于CTR预估模型，需要捕捉用户行为数据背后

一、总述这是2018年阿里Guorui Zhou等人发表在KDD上的一篇论文。论文提出在CTR任务中，丰富的用户历史行为数据包含了用户多种兴趣，对于不同的候选广告，起作用的用户历史行为数据表示应该不同。所以该论文提出了深度兴趣网络（Deep Interest Network， DIN）来根据指定广告，自适应的建模用户行为数据，进而提升CTR准确率。此外，针对工业界亿万级别的参数量，提出了两项训练深度学习模型的新技术：小批量感知正则（mini-batch aware regularization）和数据自适

一、总述这篇论文来自哈工大&华为诺亚方舟实验室，主要关注如何学习user behavior背后的组合特征（feature interactions），从而最大化推荐系统的CTR。但目前的方法容易得到low-或者high-order interactions。因此这篇论文提出构建一个端到端的可以同时突出低阶和高阶feature interactions的学习模型DeepFM。DeepFM是一个新的神经网络框架，结合了FM在推荐中的优势和深度学习在特征学习中的优势。二、DeepFM模型的问题阐述和研

一、总述Wide & Deep作为一篇推荐领域的经典论文，不仅具有很高的研读价值，而且在推荐和广告领域得到了极大的推广和应用。该论文的思想归结起来就是两个词：Wide & Deep。Wide模型用来从训练数据中学得出现频率高的特征或者特征组合，也就是论文提到的模型的 memorization能力；Deep模型则用来从训练数据中学得出现频率低或者没出现过的特征组合，也就是论文提到的模型的generalization能力。这两类问题和推荐场景中的exploitation和exploration

一、前言现在推荐系统，网络搜索和在线广告的数据大多是分类的，并包含多个字段，有一个典型的方法将他们转化成高维稀疏二进制特征表示就是通过one-hot编码。对于这些高维稀疏的特征，传统模型可能会限制它们从数据中挖掘浅层模式的能力，即低阶组合特征，另一方面，像深度神经网络这样的深度模型由于巨大的特征空间而不能直接应用于高维输入。（浅层模型例如FM虽然可学习二阶特征交叉但是表达能力有限；而深层模型例如DNN虽然可以学习高阶信息，但是DNN本身并不具备学习特征交叉的能力(不同的field之间并无”且“的运算)，而

一、总述今天分享的是Deep Neural Networks for Y ouTube Recommendations这篇论文的一些核心，这篇论文被称为推荐系统工程实践领域的一篇神文，每一个细节都值得我们细致分析和思考。二、摘要YouTube是如今工业界最大、最复杂的推荐系统之一，作者提出了一种高效的基于深度学习的推荐系统。该系统和工业界经典的推荐流程一样，分为候选集生成（ candidate generation也称为召回），排序（ranking）两个阶段。通过深度候选模型(candidate ge

一、背景微软于2016年提出的Deep Crossing可以说是深度学习CTR模型的最典型和基础性的模型。它涵盖了深度CTR模型最典型的要素，即通过加入embedding层将稀疏特征转化为低维稠密特征，用stacking layer，或者叫做concat layer将分段的特征向量连接起来，再通过多层神经网络完成特征的组合、转换，最终用scoring layer完成CTR的计算。跟经典DNN有所不同的是，Deep crossing采用的multilayer perceptron是由残差网络组成的，这无疑得

一、论文原文二、综述协同过滤模型的目的是利用用户对商品的偏好信息来提供个性化的推荐。AutoRec是一个新型的基于自动编码器的协同过滤模型。论文作者认为AutoRec与现有的将玻尔兹曼机用于协同过滤的神经方法相比具有表征和计算上的优势，并从经验上证明了AutoRec优于当前最先进的方法。三、自编码器模型四、AutoRec模型总体而言1、模型输入item-based：每个item用各个user对它的打分作为其向量描述（user-based：每个user用该user对各个item的打分作