揭秘LinkedIn!全球最大的招聘推荐系统如何被机器学习驱动?

2019全球数据新闻奖揭晓 大数据文摘授权转载自RUC新闻坊编辑:刘长宇、刘畅、段钇男、葛书润、肖鳕桐、姚思妤、欧阳婕、马冰莹2019年全球数据新闻奖于当地时间6月14日(北京时间6月15日)在希腊揭晓,本次评选共收到参赛作品607件,经过初选,103件作品入围决赛并参与12个奖项的角逐,作品来自美国、英国、德国等26个国家和地区,囊括了包括华尔街日报、卫报、路透社在内的73个媒体组织,财新网和解放日报等中国媒体同样榜上有名... 阅读详情

大数据文摘出品

来源:towardsdatascience

编译:夏雅薇、Stats熊


LinkedIn是迄今为止市面上极受欢迎的招聘平台之一。来自世界各地的招聘者每天会从LinkedIn上网罗挑选适合他们招人岗位的候选人。


像LinkedIn Recruiter这款产品,就可以帮助招聘者创建并管理一个人才库,最大限度地提高招人成功率。这款产品的高效性能是通过一系列极其复杂的搜索和推荐算法来实现的,这些算法利用了最先进的机器学习架构,也考量了很多实际因素。



除了在构建一个世界上最有价值的数据集之外,LinkedIn一直在通过各种实验来突破机器学习技术,希望把人工智能的一流体验带入LinkedIn产品中。


招聘产品的推荐功能对LinkedIn的机器学习技术提出了很大的挑战。除了处理庞大且不断增长的数据集,招聘产品还需要处理很多随机且复杂的查询和筛选需求,并提供与之非常相关的结果。搜索环境是如此多变,以至于很难将这个问题简单转换为机器学习的模型来解决。以招聘产品为例,LinkedIn使用了一个包含三个因素的标准来描述搜索推荐模型需要实现的目标。


1.关联:搜索结果不仅需要返回给相关的候选人,还需要显示可能对目标职位感兴趣的候选人。


2.智能查询:搜索结果不仅应该返回匹配特定条件的候选人,还应该返回相近条件的候选人。例如,搜索机器学习应该返回在技能集中列出数据科学的候选人。


3.个性化:通常,为一家公司寻找到理想候选人考虑的因素并不在搜索条件里。还有些时候,招聘人员也不确定使用什么标准。个性化搜索结果是任何成功的搜索和推荐体验的关键因素。


LinkedIn招聘产品搜索和推荐体验的第四个关键标准不像前三个标准那么明显,它关注的是简单的衡量指标。为了简化推荐体验,LinkedIn对一系列关键指标进行了建模,这些指标是成功招聘的有效指标。例如,站内信阅读数量似乎是判断搜索和推荐过程有效性的一个明确指标。从这个角度来看,LinkedIn将这些数据作为衡量其机器学习算法优化程度的关键指标。

优化目标:接收到的站内信数量。从招聘者开始1、搜索 2、发站内信到候选人 ,然后候选人3、接受阅读并反馈给招聘者


科学:从线性回归到梯度增强决策树


LinkedIn Recruiter最初的搜索和推荐经验是基于线性回归模型。虽然线性回归算法很容易解释和调试,但它们在LinkedIn等大型数据集中找不到非线性关联。为了改善这种体验,LinkedIn决定使用梯度增强决策树(GBDT)来将不同的模型组合成更复杂的树结构。除了更大的假设空间外,GBDT还具有其他一些优点,如能够很好地处理特征共线性、处理不同范围的特征以及缺少特征值等等。


与线性回归相比,GBDT本身提供了一些切实的改进,但也未能解决搜索体验的一些关键挑战。有一个著名的例子,输入搜索牙医的请求,却返回了具有软件工程头衔的候选人,因为搜索模型优先考虑寻找工作的候选人。为了改善这一点,LinkedIn添加了一系列基于成对优化技术的上下文感知功能。从本质上讲,该方法扩展了GBDT的两两排序目标,以比较相同背景下的候选人,并评估哪个候选人更适合当前的情况。


Linkedin Recuriter的另一个挑战是,如何将应聘者与“数据科学家”和“机器学习工程师”等相关头衔匹配起来。仅使用GBDT很难建立这种相关性。为了解决这个问题,LinkedIn引入了基于网络嵌入语义相似特性的代表学习技术。在这个模型中,搜索结果将根据查询的相关性由具有类似职位的候选人补充。



可以说,LinkedIn Recruiter面对的最难解决的挑战是个性化。从概念上讲,个性化可以分为两大类。实体级个性化侧重于在招聘过程中考虑进去不同参与个体的偏好,如招聘人员、合同、公司和候选人。


为了应对这一挑战,LinkedIn采用了一种著名的统计方法,称为广义线性混合(GLMix),它使用推理来改进预测问题的结果。


具体来说,LinkedIn的招聘人员使用了一种架构,它结合了学习排名功能、树交互功能和GBDT模型评分。将学习到等级的特征作为预先训练的GBDT模型的输入,该模型生成编码为树交互特征的树集合和每个数据点的GBDT模型得分。然后,利用原始的学习排序特性及其以树交互特性和GBDT模型评分形式的非线性转换,广义线性模型可以实现招聘级和合同级的个性化。


LinkedIn招聘官所要求的另一种个性化体验是在当前搜索环节里的体验升级。利用离线学习模型的一个缺点是,当招聘人员审查推荐的候选人并提供反馈时,这些反馈是不会被采用到当前搜索环节里的。为了解决这个问题,LinkedIn Recruiter使用了一种被称为“多武器强盗模型”的技术来改进不同候选人群体的推荐。体系结构首先将工作的潜在候选人划分为技能组。然后,利用一个多武器强盗模型,根据招聘人员当前的意图来了解哪一组更适合,并根据反馈更新每个技能组中的候选人排名。

架构


LinkedIn Recruiter的搜索和推荐体验基于一个名为Galene的专有项目,该项目建立在Lucene搜索堆栈之上。上一节描述的机器学习模型有助于为搜索过程中使用的不同实体构建索引。



招聘人员搜索体验的排名模型基于一个具有两个基本层的体系结构。

L1:挖掘人才库,并对候选人进行评分/排名。在这一层中,候选检索和排序以分布式方式完成。

L2:改进入围人才,以应用更多的动态功能使用外部缓存。



在该体系结构中,Galene代理系统将搜索查询请求分散到多个搜索索引分区。每个分区检索匹配的文档,并将机器学习模型应用于检索到的候选文档。每个分区对候选项的子集进行排序,然后代理收集排序后的候选项并将它们返回给联邦服务器。连接使用附加的排序功能对检索到的候选项进行进一步排序,并将结果交付给应用程序。


LinkedIn是大规模构建机器学习系统的公司之一。LinkedIn Recruiter使用的推荐和搜索技术的想法与不同行业的许多类似系统有着惊人的相关性。LinkedIn工程团队发布了一份详细的幻灯片来展示他们是如何构建世界级推荐系统的。


相关报道:

https://towardsdatascience.com/inside-the-machine-learning-powering-linkedin-recruiter-recommendation-systems-7da503ad55c0

细数机器学习在金融领域的七大应用 大数据文摘出品 编译:刘兆娜 机器学习是市场的新趋势,新油田,新黄金!从概念价值的角度来看,把机器学习与任何创新相比都不为过。但是它在金融领域如何发挥呢,应用的现状又到了什么阶段呢? 我们都知道,银行存储了全部的信息,包括客户的交易记录,与客户的沟通信息,内部信息,这些信息占用的存储空间已经达到了Tera级,有些甚至到了PB级。现在,大数据技术可以解决像这样的大规模数据存储和... 阅读详情

相关推荐

《冰雪奇缘》造雪花的技术,被MIT用来开发了一只软体机器人

大数据文摘出品 来源:MIT 编译:张大笔茹、武帅、宁静 一只驯鹿带着雪橇上的Anna公主和Kristoff一起奔跑,这是迪斯尼备受好评的动画电影《冰雪奇缘》中非常精彩的一幕:饥饿的狼追逐着他们穿过白雪皑皑的森林,Kristoff从雪橇上掉下来,狼群舔着他的脚,并在他身后激起了一丝雪。 营造影片中自然又柔软的雪花质感可不是一件容易的事情。为此,迪士尼邀请到了加州大学洛杉矶分校博...

BigDataDigest的博客 1437

推荐系统树模型

一、传统树模型 二、二叉搜索树BST 三、深度树模型 1、TDM 2、TEM 参考:

weixin_39586997的博客 1028

数据共享的核心在定价,数据开放与隐私保护探讨 | AI Time

大数据文摘出品 作者:易琬玉 一包垃圾值得被快递吗? 当然,一袋普通的垃圾肯定不值得,但是可以暴露出某个重要人物信息的垃圾就需要小心处理,再或者,对于一个被垃圾分类逼疯的上海市民来说,答案也可能不同。 本周一,在最新一期“智源-AI Time”沙龙中,几位嘉宾用“垃圾值不值得快递取决于这包所谓垃圾的价值”类比了“数据是否值得被加密后共享”这个问题。 ...

BigDataDigest的博客 1355

用AI帮你找工作,领英是如何做的?

用AI帮你找工作,领英是如何做的?   https://blog.youkuaiyun.com/dQCFKyQDXYm3F8rB0/article/details/84076523     11 月 8-9 日,优快云 和 AICamp 联合举办的AI开发者大会在京举行。领英(LinkedIn)人工智能研发总监张梁发表了《AI 在大规模招聘求职上的应用》的主题演讲,并接受了 AI科技大本营的专访。...

喜欢打酱油的老鸟 882

十个技巧,让你成为“降维”专家

大数据文摘出品 来源:PLOS 编译:啤酒泡泡、刘兆娜、李雷、sirin、邢畅、武帅、钱天培 在分析高维数据时,降维(Dimensionality reduction,DR)方法是我们不可或缺的好帮手。 作为数据去噪简化的一种方法,它对处理大多数现代生物数据很有帮助。在这些数据集中,经常存在着为单个样本同时收集数百甚至数百万个测量值的情况。 由于“维度灾难”(cur...

BigDataDigest的博客 1333

DeepMind发布多智能体协作最新评估方法α-Rank,登上Nature

大数据文摘出品 来源:Nature 编译:魏子敏、宁静 在开发通用人工智能的过程中,训练和评估算法同样重要。 评估指标不仅仅在培训结束时发挥作用,并且也是整个培训过程中智能体进化的关键驱动因素。 错误的排序和不合理的限制可能会让AI自行进化出奇怪的“心眼”。在之前我们的一篇报道中就总结了错误的评估方式导致的AI“钻空子”训练法,比如在让AI玩俄罗斯方块的时候,发现最...

BigDataDigest的博客 1157

5G爆发前夜,谷歌微软争相豪赌的云游戏厉害在哪?

大数据文摘出品 作者:曹培信 今年3月20日,Google CEO Sundar Pichai在全球最大的游戏大会之一GDC,发布了云游戏平台Stadia以及一款配合Stadia平台使用的游戏手柄。 几天后,在E3 2019游戏展上,微软也展示了自家的云流媒体服务Project xCloud。 巨头科技公司抢占云游戏高地的帷幕正在缓缓拉开。在讨论更多细节之前,让我们先...

BigDataDigest的博客 5605

政府科技管理者如何提升科技成果评估的准确性与透明度?.docx

政府科技管理者如何提升科技成果评估的准确性与透明度?

2019“数据开放”指数发布,新增36个地方平台,开放数据集容量一年增长20倍

大数据文摘出品记者:周素云2019 年第五届中国国际大数据产业博览会于5月26日~5月29日在贵州贵阳举行。在27日的“政府数据开放利用与生态体系建设” 论坛中,复旦大学联合国家信息中心数字中国研究院发布了 《2019中国地方政府数据开放报告》 (以下简称《报告》)。《报告》 由复旦大学数字与移动治理实验室出品,是国内第一个针对地方政府数据开放水平的专业报告,自2017 年5 月起首次在贵阳数博会...

BigDataDigest的博客 1241

双闭环PWM整流器VOC控制 +SVPWM调制仿真(Simulink仿真实现)

内容概要:本文详细介绍了基于Simulink平台构建的双闭环PWM整流器VOC(虚拟磁链定向控制)与SVPWM(空间矢量脉宽调制)相结合的仿真模型,系统阐述了三相电压型PWM整流器在电压定向控制策略下的建模方法与控制实现。通过设计外环直流电压控制与内环电流控制的双闭环结构,实现了对整流器的高功率因数运行、能量双向流动及动态性能优化的精确调控。结合SVPWM调制技术,有效提升了直流侧电压利用率并显著降低输出电流谐波含量,增强了系统的整体效率与稳定性。该仿真模型适用于新能源发电、电动汽车充电系统、微电网等高性能电能变换应用场景,文档还配套提供了丰富的学习资源与技术支持渠道,便于深入研究与工程实践。; 适合人群:面向电气工程、自动化、电力电子及相关专业的高校学生、科研人员以及从事新能源、智能电网、电力传动等领域研发工作的工程师;尤其适合已具备自动控制理论、电力电子变换技术和MATLAB/Simulink仿真基础的专业人士进一步深化学习与应用。; 使用场景及目标:①深入理解PWM整流器的工作机理及其双闭环控制系统的架构设计;②掌握VOC控制与SVPWM调制的协同工作机制,提升系统动静态响应性能;③支撑科研课题、课程设计、毕业设计或实际工程项目中的整流器控制系统开发与验证;④作为高级电能变换技术的学习范例,促进对现代电力电子系统控制策略的综合理解与创新能力培养。; 阅读建议:建议结合文中提供的百度网盘链接与公众号资源,下载完整的Simulink仿真模型进行实操演练,在MATLAB环境中调整控制器参数并观察仿真结果,深入剖析控制逻辑与系统响应特性;同时可参考同系列资源如PI双闭环控制、电网不平衡工况下的控制策略等案例,开展对比分析与拓展研究,全面提升系统建模与控制设计的综合能力。

TensorRT-LLM环境配置避坑指南:从安装到实战

本文是一份详尽的TensorRT-LLM环境配置避坑指南。文章重点解析了从Python、CUDA、PyTorch版本选择,到解决mpi4py安装这一核心难题的完整流程,并提供了经过验证的稳定版本组合与实战排错方案,帮助开发者高效部署大语言模型推理优化环境。

a0b1c2d3的专栏 983

Netflix一位数据科学家剪出了上百部爱情片,想教AI认识“亲吻” | 国际接吻日

大数据文摘出品 编译:高延、橡树_Hiangsug、宁静 7月6日,这可能是一年中最适合亲吻的日子——国际接吻日(International Kissing Day)。 这个节日最早起源于英国。1991年这个节日得到了联合国的承认,也希望让更多人知道,亲吻的美好,这也是人类表达爱意最自然的一种方式。 那么,人工智能可以通过训练了解亲吻吗? 来自Netflix的...

BigDataDigest的博客 1093

期货套利策略(二)

接上一篇期货套利策略,随着对期货套利策略的深入了解,我发现套利策略不是那么好做的。下面将会讲碰到的一些问题。 上一篇文章中没有考虑滑点的问题,这里我们把滑点问题考虑进去。这里先说一些天勤api的买入点,天琴的买入点是当前K线的收盘价。碰到数据传输问题,还有计算等各方面问题,实际情况是无法在当前K线的收盘价买入的。这里我们把这方面问题考虑进去,利用api.wait_update()调到下一个k线数据...

qq_31611005的博客 1711

全球首个AI宇宙模拟器发布!6亿光年宽度,还“自行”跑出了暗物质

大数据文摘出品 作者:易琬玉、曹培信 《创世纪》里,神用7天创造了这个世界。而现在,你可能也有机会体验这个过程,创造一个属于自己的宇宙。 6月11日,Space Engine 0.990版本在Steam平台发售,发售不到一天,近300测评全部为最高评价,截止6月20日已经卖出了2万份,同时Steam用户好评率高达96%。之后,还得到了资深电脑游戏玩家、复旦大学中文系教授严峰的...

BigDataDigest的博客 1026

属性基加密(Attribute-based Encryption, ABE)

KP-ABE中,用户的密钥定义了访问策略,密文的属性与策略进行匹配。CP-ABE中,密文定义了访问策略,用户的属性与策略进行匹配。

2201_75392924的博客 1830

串口调试神器诞生记:我是如何用Cursor+AI自动生成C#上位机的(含VSCode插件清单)

本文详细介绍了如何利用Cursor和AI技术快速开发C#上位机程序,实现高效的串口通讯调试。从开发环境搭建到代码自动生成,再到性能优化和功能增强,全面展示了AI辅助开发在串口调试中的实际应用和显著效率提升。

weixin_28340315的博客 299

贝叶斯网络之父:当前的机器学习其实处于因果关系之梯的最低层级

大数据文摘出品 每当提起“无人驾驶”汽车技术如何强大,又被大众赋予了怎样的期待,都会让人想起HBO电视剧Silicon Valley《硅谷》中的一个情节: 硅谷大亨风险资本家Gregory的助手安排了一辆无人驾驶汽车送创业公司的小员工Jared回家,本以为这个剧情只是为了诠释一种硅谷式傲慢,刚上车时一切也都很顺利,谁知路程走了一半,这辆汽车突然开始执行日程中之前设置好的指令,罔...

BigDataDigest的博客 937

【生产实践】PostgreSQL高可用Patroni安装(超详细已踩坑)

一 安装Patroni 0 Patroni 对Python的版本要求 我安装的是Patroni最新版本 :4.0.3,Patroni 对Python 版本有要求,没有具体的版本矩阵,但是根据每个版本发布信息可以得到以下信息 Patroni 4.0 需要 Python 3.8 以上(可以根据下面发布版本信息推理出) Version 3.0.2 Version 3.0.2 dropped support of Python older than 3.6. 版本3.0.2不再支持3.6版本以下的P

DBA之路的博客 1739

论背景调查,《长安十二时辰》的大案牍术可比不上现在

大数据文摘出品 作者:曹培信 最近文摘菌身边的小伙伴都在追一部剧,叫《长安十二时辰》,于是天性好奇而又充满探索精神的文摘菌就去看了一下。 这一看,就是二十集,根!本!停!不!下!来! 豆瓣评分也是一度高达8.8,播了二十多集还能保持在8.6,不愧于年度神剧的称号! 剧中雷佳音从“前夫哥”化身亦邪亦痞的张都尉,剧中武力担当。 易烊千玺作为新人演...

BigDataDigest的博客 907

Vue3 - 详解实现网站接入微信扫码登录功能,微信授权生成登录二维码用户用手机扫描二维码登陆,微信扫描二维码登录详细流程及示例代码,支持弹框式、浏览器单独新开页显示,最新vue集成微信扫码授权登录!

vue3,nuxt3,PC网站,网页,微信扫码登录,微信登陆,vue3微信扫码登录,获取个人信息,扫码登录后如何获取用户手机号,微信扫码授权登录,vue3详细实现微信扫一扫登陆,pc网页微信登录,vue3集成微信扫码登录,详细流程和示例源码,第三方扫码登录,vue3微信扫码登录怎么新开一页,跳页显示二维码,内嵌登录二维码,iframe,iframe新页面弹出,弹出一个小窗口显示登录二维码,登录报错,微信扫码没反应,解决手机点登录报错没反应,官方文档,手机扫描微信二维码登录网站,最好用的插件,vue-wxlo

🏆 前端领域优质创作者 1万+

【Python】秋招机考 —— 2025/9/17 华为 AI 方向

秋招机考,华为 AI,使用 Python 完成编程。

一杯水果茶!足矣~ 1165

微软十亿美元投资OpenAI,我们离通用人工智能更近了吗?

大数据文摘出品 作者:魏子敏、曹培信 微软刚刚向OpenAI投资了十亿美元,以在微软的Azure云计算服务上开发人工智能超级计算技术,共同构建通用人工智能(AGI)社区。 本周一,微软和OpenAI就共同发布声明,称将深入思考人工智能在全球的作用以及如何建立安全、值得信赖和有道德的人工智能以服务公众,并进一步合作以扩展Microsoft Azure在大型AI系统中的功能。 ...

BigDataDigest的博客 831

【AI大模型应用开发实战】大型语言模型评估指南白皮书(LLM Eval)

近年来,大型语言模型(LLM)在自然语言处理领域取得了重大进展,例如 GPT-3 和 Chat-GPT。这些模型经过大型数据集的训练,在文本相关任务中表现出卓越的能力,甚至超越了人类。本文将简要介绍如何验证 LLMs 性能的评估指标。自然语言处理(NLP)是人工智能的一个领域,涉及计算机和人类语言之间的交互。NLP 的基本任务之一是语言建模 (LM),它涉及构建统计模型来分析和生成自然语言。LM 已成为推进机器语言智能的关键方法,使机器能够执行机器翻译、情感分析和对话系统等任务。

AI天才研究院 1012

AI落地进入Hard模式!氪皮肤不如氪装备,拼算法不如拼高质量数据

大数据文摘出品 作者:coolboy、魏子敏 大名鼎鼎的横店影视城有着这么一群人。他们每天穿梭于各大剧组,换上威武的武士服和漂亮的古装,在满满的通告中获取一份相对稳定的收入。有时运气好了可以讲一两句台词,和大明星合个影,也能自豪地给家里人讲自己风光的一面。 如果你看过尔冬升导演的《我是路人甲》,你可能对这帮“群演”的故事不会陌生。 随着《甄嬛传》《琅琊榜》和《庆余年》等热门剧集的影响,横店的势头也步步高升。然而,2015年随着“限古令”的公布,每年来横店的剧组数量从几十个锐减至十几个。 ...

BigDataDigest的博客 772

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

治愈呼噜娃!自适应算法“吸音”抱枕,不同鼾声一网打尽

大数据文摘出品 编译:武帅、小七 无论你多爱你的伴侣,同居前,还是有一个重要的问题需要考虑,他是不是一位严重打鼾者。 这个问题或许决定着你下半生的睡眠质量。 据估计,大约有350万人(通常是女性)经常被他们的伴侣的鼾声惊醒。他们平均每晚要丧失四分之一的睡眠时间。英国最大的社区医药公司劳伊德药房利用萨里大学实施的研究进行推算,认为在一位打鼾的人旁边睡觉的人,每年损失超过...

BigDataDigest的博客 760

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

上一篇: 凯文·凯利数博会畅谈未来:大数据时代的特斯拉比福特更有价值
下一篇: 深度学习框架PyTorch为何值得学
BigDataDigest
博客等级 码龄9年 448粉丝 500原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值