推荐系统的发展与简单回顾

推荐系统的发展演进历史和模型的目标及优缺点 推荐系统发展历程 提示:这里可以添加系列文章的所有文章的目录,目录需要自己手动添加 例如:第一章 Python 机器学习入门之pandas的使用 提示:写完文章后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录推荐系统发展历程前言一、pandas是什么?二、使用步骤1.引入库2.读入数据总结 前言 提示:这里可以添加本文要记录的大概内容: 例如:随着人工智能的不断发展,机器学习这门技术也越来越重要,很多人都开启了学习机器学习,本文就介绍了机器学习的基础内容。 提示:以下是本篇文章正文内容, 阅读详情

“ 本文结合百度和支付宝两段推荐系统相关的实习经历,针对工业界的模型发展做了简单梳理与回顾,涵盖表示学习,深度学习,强化学习知识图谱以及多任务学习”

表示学习和深度学习在推荐系统中的应用是目前工业界比较成熟的,但是与强化学习、知识图谱、多任务学习相结合是比较少的, 一方面此类技术与推荐结合才刚刚开始探索,背后有太多问题需要人力去挖掘和探索;另一方面在公司的业务中敢不敢上这种前沿课题的探索与实验甚至上线接大流量,部门老大的魄力很关键。

表示学习

常用类别特征的表示方法:One-Hot Encoding、Look-Up Embedding、Pre-Train Embedding

框架

美团王永康前辈的分享(https://blog.youkuaiyun.com/gamer_gyt/article/details/97985818)

序列 Sequence

图 Graph

附加信息 Side Information

Side Information框架是解决冷启动的方法之一。

多模态 Multimodal

更准确来说,这部分属于模式识别范畴,各大公司在业务稳定后基本都会成立单独的内容理解团队(在百度实习的时候隔壁就有一个专门的内容理解组),以分享到外部的资料举例,优酷团队在这方面做的很不错:《优酷在多模态内容理解上的研究及应用》(https://www.infoq.cn/article/xgP_eyfidAA2l5ShcCPp)。

模型层面的应用

此部分详细内容参考下节。

深度学习

企业级的推荐系统为了尽量提高模型的准确性,往往会使用丰富的甚至异构的内容数据。这些特征从不同的维度展现了不同的信息,而且特征间的组合通常是非常有意义的。传统的交叉特征是由工程师手动设计的,这有很大的局限性,成本很高,并且不能拓展到未曾出现过的交叉模式中。因此学者们开始研究用神经网络去自动学习高阶的特征交互模式,弥补人工特征工程带来的种种局限性。

基于深度学习的推荐系统综述(https://coladrill.github.io/2018/08/08/%E5%9F%BA%E4%BA%8E%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E7%9A%84%E6%8E%A8%E8%8D%90%E7%B3%BB%E7%BB%9F%E7%BB%BC%E8%BF%B0/)
浅梦的Github链接(https://github.com/shenweichen/DeepCTR)
最新论文导读(https://zhuanlan.zhihu.com/weichennote)

来源:https://zhuanlan.zhihu.com/p/69050253

2015-2016

  • Convolutional Click Prediction Model [CIKM 2015] A Convolutional Click Prediction Model

  • Factorization-supported Neural Network [ECIR 2016] Deep Learning over Multi-field Categorical Data: A Case Study on User Response Prediction

  • Product-based Neural Network [ICDM 2016] Product-based neural networks for user response prediction

  • Wide & Deep [DLRS 2016]Wide & Deep Learning for Recommender Systems

2017-2018

  • DeepFM [IJCAI 2017]DeepFM: A Factorization-Machine based Neural Network for CTR Prediction

  • Piece-wise Linear Model [arxiv 2017]Learning Piece-wise Linear Models from Large Scale Data for Ad Click Prediction

  • Deep & Cross Network [ADKDD 2017]Deep & Cross Network for Ad Click Predictions

  • Attentional Factorization Machine [IJCAI 2017]Attentional Factorization Machines: Learning the Weight of Feature Interactions via Attention Networks

  • Neural Factorization Machine [SIGIR 2017]Neural Factorization Machines for Sparse Predictive Analytics

  • xDeepFM [KDD 2018]xDeepFM: Combining Explicit and Implicit Feature Interactions for Recommender Systems

2018-2019

  • AutoInt [arxiv 2018]AutoInt: Automatic Feature Interaction Learning via Self-Attentive Neural Networks

  • Deep Interest Network [KDD 2018]Deep Interest Network for Click-Through Rate Prediction

  • Deep Interest Evolution Network [AAAI 2019]Deep Interest Evolution Network for Click-Through Rate Prediction

  • NFFM [arxiv 2019]Operation-aware Neural Networks for User Response Prediction

  • FGCNN [WWW 2019]Feature Generation by Convolutional Neural Network for Click-Through Rate Prediction

  • Deep Session Interest Network [IJCAI 2019]Deep Session Interest Network for Click-Through Rate Prediction

  • FiBiNET [RecSys 2019]FiBiNET: Combining Feature Importance and Bilinear feature Interaction for Click-Through Rate Prediction

自动特征工程方面我即将出一篇论文,期待下~

强化学习

用户与推荐系统之间往往会发生持续密切的交互行为,强化学习中的Reward机制十分适合应用到这种模式,所以基于强化学习的推荐方法中,往往会把推荐系统看做智能体(Agent)、把用户看做环境(Environment),商品的推荐问题可以看做经典的顺序决策问题。Agent每一次排序策略的选择可以看做一次试错(Trial and Error),把用户的反馈、点击成交等作为从环境中获得的奖赏。
在支付宝实习的时候,优化CTR模型之余,针对商家线下运营策略推荐场景,主导实现了off-policy的强化学习模型(下图仅作抛砖引玉,模型细节不能公布哈)。

论文整理

  • [ICDM 2018] Self-attentive sequential recommendation

  • [arXiv 2018] Reinforcement Learning for Online Information Seeking

  • [WWW 2018] DRN:A Deep Reinforcement Learning Framework for News Recommendation

  • [SIGIR 2019] Lifelong Sequential Modeling with Personalized Memorization for User Response Prediction

  • [ICML 2019] Generative Adversarial User Model for Reinforcement Learning Based Recommendation System

  • [AAAI 2019] Large-scale Interactive Recommendation with Tree-structured Policy Gradient

  • [arXiv 2019] Reinforcement Learning to Optimize Long-term User Engagement in Recommender Systems

  • [WSDM 2019]Top-K Off-Policy Correction for a REINFORCE Recommender System

  • [arXiv 2019]Reinforcement Learning for Slate-based Recommender Systems: A Tractable Decomposition and Practical Methodology

机遇与挑战

  1. 离线评估与在线效果之间的巨大鸿沟

  • 离线模拟过程的泛化性问题,特别是用户端连续决策行为的建模方面。

  • 现有方法其实还是有很多问题,例如没有刻画用户反馈行为的连续性与前后相关性、没有考虑用户反馈背后的多因素影响等等。

  1. 动作空间偏大

  • 在真实的推荐系统中面临巨大无比的离散化行为空间(待推荐item集合巨大无比)。

  • 这个问题在这篇文章中已经作出了一些探索,但还没有完全解决这类问题。

  1. 在线效果容易受到其它策略的影响

  • 例如推荐端在使用RL算法,用户还在看到很多其它推荐、展示策略在其它位置、时段、平台推给他的结果,较难精确建模用户反馈与行为归因。

  1. 如何去做更好地探索

  • 因为真实场景中没有游戏环境那样丰富的样本数据,每一次探索都有巨大的显性成本或隐性成本。

  • 更快地探索、更好地采用效率是RL4Rec实际应用中的难题。

知识图谱

Personalized Recommendation Systems: Five Hot Research Topics You Must Know(https://www.microsoft.com/en-us/research/lab/microsoft-research-asia/articles/personalized-recommendation-systems/)

在多数推荐场景中,物品可能包含丰富的知识信息,而刻画这些知识的网络结构即被称为知识图谱。物品端的知识图谱极大地扩展了物品的信息,强化了物品之间的联系,为推荐提供了丰富的参考价值,更能为推荐结果带来额外的 多样性 和 可解释性。

和社交网络相比,知识图谱是一种异构网络,因此针对知识图谱的推荐算法设计要更复杂和精巧。近年来,网络特征学习 (network representation learning) 逐渐成为机器学习中的一个热门的研究方向。 引入网络特征学习的方法处理推荐系统中知识图谱的相关信息,有助于增强推荐系统的学习能力,提高精确度和用户满意度。

将知识图谱引入推荐系统,主要有以下两种不同的处理方式:

  • 基于特征的辅助推荐模型,核心是知识图谱特征学习的引入。即首先使用知识图谱特征学习对其进行处理,从而得到实体和关系的低维稠密向量表示。这些低维的向量表示可以较为自然地与推荐系统进行结合和交互。

  • 基于结构的全局推荐模型,更加直接地使用知识图谱的结构特征。具体来说,对于知识图谱中的每一个实体,我们都进行BFS来获取其在知识图谱中的多跳关联实体从中得到推荐结果。

2018-2019

  • [KDD 2018]Leveraging Meta-path based Context for Top-N Recommendation with A Neural Co-Attention Model

  • [WWW 2019]Multi-Task Feature Learning for Knowledge Graph Enhanced Recommendation

  • [WWW 2019]Knowledge Graph Convolutional Networks for Recommender Systems

  • [KDD 2019]KGAT: Knowledge Graph Attention Network for Recommendation

  • [KDD 2019]Knowledge-aware Graph Neural Networks with Label Smoothness Regularization for Recommender Systems

  • [DLP-KDD 2019]An End-to-End Neighborhood-based Interaction Model for Knowledge-enhanced Recommendation

  • [AAAI 2019]Explainable Reasoning over Knowledge Graphs for Recommendation

  • [SIGIR 2019]Reinforcement Knowledge Graph Reasoning for Explainable Recommendation

机遇与挑战

  1. 现有模型都属于统计学习模型,即挖掘网络中的统计学信息并以此进行推断

  • 一个困难但更有研究前景的方向是在网络中进行推理,将图推理与推荐系统相结合。

  1. 如何设计出性能优秀且运行效率高的算法,也是潜在的研究方向

  • 现有模型并不涉及计算引擎层面、系统层面甚至硬件层面的考量,如何将上层算法和底层架构进行联合设计和优化,是实际应用中一个亟待研究的问题。

  1. 现有的模型网络结构都是静态的,在真实场景中,知识图谱具有一定的时效

  • 如何刻画这种时间演变的网络,并在推荐时充分考虑时序信息,也值得我们未来研究。

在工业界中,一方面构建一张图需要花费巨大的人力;另一方面图采样等相关技术还不成熟(暴力地使用GCN、KGAT并不现实)。据目前我所了解到的,在知识图谱工业级应用方面,谷歌和百度是比较前沿的(重视程度源于索引量大且对query质量要求高时的场景需求)。

多任务学习

此部分我了解的比较少,待跟进学习。

  • [RecSys 2019]Recommending what video to watch next: A multitask ranking system

未完待续….

(完)


喜欢的话点个在看吧????

推荐系统模型发展简史 嘿,记得给“机器学习与推荐算法”添加星标互联网出现不久,推荐系统就诞生了,相关技术在学术界和工业界得到了广泛的研究和应用。目前,推荐系统已经成为最成功的网络应用之一,通过推荐不同种类的内容来为数十亿人服务,包括新闻资讯、视频、电子商务产品、音乐、电影、书籍、游戏、朋友、工作等。这些成功的案例证明,推荐系统可以将大数据转移成高价值。本文从两个方面简要回顾了推荐系统的发展历程:(1)推荐模型,(2)典... 阅读详情

相关推荐

一文了解Amazon推荐系统20年变迁

近期,IEEE Internet Computing上发表了一篇名为《亚马逊推荐系统二十年》的文章,提纲挈领地回顾了亚马逊推荐系统二十年来的发展,而这二十年的起点,就是基于物品的协同过滤算法,也就是ItemCF算法的发明时间,而文章的作者,也正是当年ItemCF的发明人。作为靠ItemCF算法养家糊口的从业人员,有必要学习一下“祖师爷”的训导。 在翻译的同时,译者根据自己的从业经验和个...

优快云 人工智能 7860

推荐系统的发展历程

1.协同过滤算法(Collaborative Filtering,CF) 对于协同过滤的研究可以追溯到1992年,Xerox的研究中心开发了一种基于协同过滤的邮件筛选系统,用以过滤一些用户不感兴趣的无用邮件。协同过滤在互联网大放异彩源于互联网电商巨头Amazon,2003年,Amazon发表论文Amazon.com Recimmenders Item-to-Item Collaborative Filtering. 简单描述,目前有一些用户对商品的评价信息,那么如何给用户推荐产品,例如用户D,是否会喜欢商品

u011311291的博客 3789

回顾与展望:人类计算的发展历程

1. 背景介绍 1.1 问题由来 随着信息时代的到来,计算技术在各个领域的应用日益广泛。从计算机硬件到软件系统,从数据库技术到人工智能,计算技术在支撑社会运行、推动经济发展、改善人类生活等方面发挥了不可替代的作用。然而,纵观人类计算的发展历程,每一步进展都伴随着巨大的挑战和突破。本文旨在回顾人类计算技术的发

欢迎来到我的优快云空间!这里聚焦AI大模型应用实战,分享前沿技术、实战案例与开发经验。 850

推荐系统的未来:从内容推荐到个性化推荐

1.背景介绍 推荐系统是现代互联网企业的核心业务之一,它通过分析用户行为、内容特征等信息,为用户提供个性化的推荐服务。随着数据量的增加和用户需求的多样化,推荐系统的研究也不断发展,从早期的内容推荐到现在的个性化推荐,技术也从基于内容的推荐到基于协同过滤、矩阵分解、深度学习等多种方法。 本文将从以下几个方面进行阐述: 背景介绍 核心概念与联系 核心算法原理和具体操作步骤以及数学模型公式详细讲...

AI天才研究院 1186

哈工大集合论与图论(下)慕课MOOC答案

答案选自2023哈工大集合论与图论慕课,慕课的题重复率很高并且具有极高的相似性,选答案时要格外注意对比选项,能力有限答案不一定面面俱到,整理不易读者且用且珍惜。

qq_34168477的博客 2904

Delphi 13 Beta初体验:手把手教你安装RAD Studio Ganymede,并实测新条件运算符

本文详细介绍了Delphi 13 Beta(代号Ganymede)的安装步骤和新特性,重点解析了新增的条件运算符语法。通过实测对比,展示了64位IDE的性能提升和新语法在代码简洁性上的优势,为开发者提供了从安装到实战的完整指南。

weixin_30399821的博客 205

FiBiNET:结合特征重要性和双线性特征交互进行CTR预估

FiBiNET全称FiBiNET: Combining Feature Importance and Bilinear feature Interaction for Click-Through Rate Prediction,是新浪微博提出的一种基于深度学习的广告推荐/点击率预测算法。可以认为FiBiNET是在wide & deep模型的基础上对它的wide部分进行了一些创新的改进,或者...

Tak-Wah Blog 4370

GitLab中国区注册终极解决方案:绕过+86手机验证的实战技巧(2023最新)

本文详细解析了GitLab中国区注册时绕过+86手机验证的三种实战技巧,包括开发者工具调试方案、使用国际号码的变通方案以及本地化部署替代方案。通过技术分析和实践验证,帮助开发者顺利注册GitLab账号,提升团队协作效率。

rl6adventurer的博客 1508

推荐系统算法的发展现状与挑战分析

本文探讨了推荐系统算法的发展现状,分析了其在数据挖掘和用户个性化服务中的应用。随着大数据和人工智能技术的进步,推荐系统面临着多样化的挑战,包括算法公平性、透明性和用户隐私保护等。文章还提出了未来改进建议,以推动推荐系统的健康发展。

tiangang2024的博客 3133

什么是垂直同步?电脑快速消除屏幕撕裂与提升游戏性能的方法 垂直同步、游戏画面撕裂、游戏优化、VSync、FPS、FreeSync、G-Sync、显卡驱动更新、游戏画质、输入延迟

看这张动图,左边的画面出现了明显“切开”的断层现象,而右边画面非常流畅,没有撕裂。这正是「垂直同步」开关的区别。:每秒生成多少帧图像。比如 60FPS 表示一秒钟显示 60 张图片。刷新率(Refresh Rate):显示器每秒刷新几次画面,单位是赫兹(Hz)。60Hz 表示每秒刷新 60 次。参数说明FPS显卡渲染速度(逻辑帧率)刷新率显示器的显示频率(物理限制)当 FPS 高于刷新率时,显卡渲染的画面来不及被显示器显示,导致撕裂。屏幕撕裂(Screen Tearing)

代码简单说 Vue、JAVA、PHP、Node.js 熟练运用,接口、架构、性能全搞定。 1349

MoCap 动作捕捉开源库教程

数据通过 tf2 和支持不同 QoS 设置的 /poses 主题直接发布。该软件包最初是为 Crazyswarm 开发的,用于跟踪多达 50 个飞行机器人。

机器人控制与仿真应用 1308

《推荐系统开发实战》之推荐系统的前世今生与古往今来

转载请注明出处:http://blog.youkuaiyun.com/gamer_gyt 博主微博:http://weibo.com/234654758 Github:https://github.com/thinkgamer 公众号:搜索与推荐Wiki 个人网站:http://thinkgamer.github.io 接下来将会用10篇文章介绍下推荐系统的起源,应用,算法和案例,并带领大家从0到1实现属...

Thinkgamer博客 8459

大数据Alluxio面试题及参考答案

Alluxio 在大数据生态里的定位是作为数据编排层,能在不同计算框架和存储系统之间起到桥梁的作用。它的核心功能在于加速数据访问,让大数据应用能够更高效地使用数据。Alluxio 把数据存储和数据处理分离开来,使计算框架可以在不考虑底层存储细节的情况下访问数据,这样就提高了系统的灵活性和可扩展性。Alluxio 和 HDFS 既存在关联又有区别。从关联方面来看,HDFS 是一种广泛使用的分布式文件系统,很多大数据应用都将其作为主要的数据存储系统。Alluxio 可以和 HDFS 集成,把 HDFS 当作底层

大模型大数据攻城狮的专栏 864

回顾亚马逊推荐系统20年发展

回顾亚马逊推荐系统20年发展 推荐系统 亚马逊 阅读2164  近期,IEEE Internet Computing上发表了一篇名为《亚马逊推荐系统二十年》的文章,提纲挈领地回顾了亚马逊推荐系统二十年来的发展,而这二十年的起点,就是基于物品的协同过滤算法,也就是ItemCF算法的发明时间,而文章的作者,也正是当年ItemCF的发明人。作为靠

周红伟讲AI 3503

基于STM32L4XX 、HAL库的TMC2226-SA-T步进电机驱动器驱动程序应用设计

集成的功率MOSFET可处理高达2A RMS的电机电流,并具备保护与诊断功能,确保运行稳健可靠。作为业界最先进的STEP/DIR步进电机驱动系列,该芯片通过升级设计实现无噪音、高精度运行,为用户提供高性价比且极具竞争力的解决方案。// 用于PDN_UART单线通信。// HAL_UART_Transmit - 注意PDN_UART是单线,收发共线。.huart = &huart1, // PDN_UART连接的USART。均方根步进/方向控制接口,提供8、16、32或64微步针设置,

PP_Cottage的博客 647

基于OSEK_TP.dll封装通用,多ECU自由切换的诊断函数库

本文介绍了基于CANoe内置OSEK_TP.dll库实现通用诊断通讯的方法。通过封装CAN_TP.cin顶层脚本,实现了ECU连接管理、数据收发和多ECU切换功能。系统采用字典结构存储ECU参数,支持从配置文件读取诊断ID等配置信息,通过TpCreateConnection建立TP层连接。文章详细说明了诊断请求发送函数Uds_DiagSendRequest的实现逻辑,以及如何利用回调函数处理收发事件。该方法无需依赖诊断数据库,通过底层封装实现了灵活高效的诊断通讯方案,适用于车载诊断领域的测试需求。

蚂蚁小兵 1570

推荐系统发展概述

 转载自其他资料,供数据挖掘推荐系统学习者了解。 推荐系统的兴起与互联网的发展息息相关。最早的自动化协同过滤系统可以追溯到 1994 年,明尼苏达大学双城分校计算机系的 GroupLens 研究组设计了名为 GroupLens 的新闻推荐系统。该工作 不仅首次提出了协同过滤的思想,并且为推荐问题建立了一个形式化的模型,为随后几十年推荐 系统的发展带来了巨大影响。该研究组后来创建了 MovieLe...

lijunweiyhn的博客 2万+

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

推荐系统综述:初识推荐系统

目录 1. 引言 2. 发展历史 3. 研究现状 4.推荐方式和效果评估 4.1 评分预测 4.2 TopN推荐 5. 推荐算法 5.1 基于用户行为推荐 5.1.1基于用户的协同过滤(User-Based CF) 5.1.2基于物品的协同过滤(Item-Based CF) 5.1.3隐语义模型(Latent Factor Model) 5.2 基于内容推荐 ...

一颗贪婪的星 5万+

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

推荐系统发展路径

特性传统推荐系统LLM辅助的推荐系统核心原理统计关联,矩阵计算语义理解,逻辑推理数据依赖用户-物品交互矩阵交互数据 + 文本描述 + 通用知识物品表示ID, 稀疏向量, 手工特征稠密语义向量, 自然语言描述用户表示历史交互ID列表, 画像向量自然语言描述的历史行为序列推荐逻辑“相似用户喜欢” 或 “类似物品”“基于你的历史和物品描述,推理得出”可解释性较弱,通常需要后处理生成理由极强,可直接生成自然语言理由冷启动困难相对容易(可利用物品文本描述)主要挑战稀疏性,流行度偏差,特征工程。

weixin_46081608的博客 1021

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

LLMs时代的推荐系统

LLMs时代的推荐系统

安静的软件工程师 1156

(译)序列推荐系统:挑战,进程与发展

摘要 在近几年,序列推荐系统(SRSs)的新兴主题已经吸引了越来越多的注意。传统的推荐系统使用协同过滤和基于内容的过滤,与之不同的是,序列推荐系统试图去理解和构建一个序列模型,这个序列中包括了使用者行为习惯,用户与商品的交互,用户偏好的发展,商品流行的时间。序列推荐系统包含了以上几个方面,以便更加精确地描述用户的信息、意图和目标以及商品的消费趋势等特征,从而进行更加准确、...

weixin_30548917的博客 1108
上一篇: 一文打尽人工智能、机器学习、深度学习、算法教程资源,反正我已经收藏了!...
下一篇: 谷歌家的验证码怎么了?搞他!
Wang_AI
博客等级 码龄12年 997粉丝 162原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值