推荐-线下AUC提升,线上CTR无提升

auc-终于理解它 模型评价指标有几种,面试应该是必考了:准确率、召回率、精准率、F1score、auc。 先引入混淆矩阵,纵轴是预测情况,阴/阳,横轴是真实标签,阴/阳 预测/真实标签 阴 阳 阴 TN(真阴):本来阴,预测阴 FN(假阴):本来阳,预测阴 阳 FP (假阳):本来阴,预测阳 TP (真阳):本来阳,预测阳 准确率=TP+TN/all 所有样本中预测正确的比例 召回率=TP/TP+FN,所有正样本中预测为正样本的比例,又叫查全率 精... 阅读详情

线下AUC提升,线上AB测试无提升

1. 判断线上线下特征提取是否一致?

2. 数据是否泄露,简言之,倒因为果,某特征跟目标有很高相关性?

3. 是否需要一味地添加特征?

4. 线上线下样本空间分布是否一致?比如:推荐系统中,训练数据集合,仅包含有点击行为的用户,过滤了无点击行为的用户,这样的过滤是否合理,是否通过随机负采样保留仅负样本用户数据,通过AB测试检验

5. 训练数据中,高活跃user bias 是否去除,比如高活跃用户每天产生100个点击行为,而低活跃度用户,每天仅1-2个点击行为,这样,这样为处理的数据,训练出来的模型受高活跃用户影响较大,实际需要,降采样高活跃用户行为数据样本,使不同活跃用户样本基本一致 -- Youtube早期论文做法

6. 理解业务,负样本一定是负样本么?举例:某电影推荐场景,每次推荐6部电影,用户可能点击其中某一部,而,因为时间等因素,用户看完一部之后,不再看其它电影,而其他电影一定是负样本么? 这时,负样本应该怎么处理呢?这个值得考虑

未完待续。。

如何理解推荐系统离线和线上auc和线上点击率不一致的问题? 目录1. 特征/数据出现穿越2. 线上线下特征不一致3. 数据分布的不一致 离线指标和线上指标不一致是个常见的问题,花了很大力气好不容易离线auc涨了不少,上线一看效果ctr和cpm反而下降。本文例举几种可能的原因和解决办法。 1. 特征/数据出现穿越 一般就是使用了和label强相关的特征导致的数据泄漏。这种问题一般相对好查,很多时候在离线阶段就能发现。明显的表现就是训练集和测试集差异比较大 2... 阅读详情

相关推荐

推荐系统实践——知乎如何做首页rank

文章参考「回顾」知乎推荐页Ranking经验分享 文章目录推荐页请求流程ranking演进特征介绍CTR模型DNNDeep FMLast View + DINLast Display + GRU多目标优化最终模型结构经验分享面临问题 推荐页请求流程 召回 基于话题:获取用户的关注数据,用户行为挖掘; 基于内容:协同过滤的方式 排序 基于规则:时间顺序,线性加权; 基于模型:GDBT,DNN 重...

iwtbs 1256

样本负采样为什么不影响AUC计算?

AUC 指标为什么对于正负样本比例不敏感?线上线下效果不一致有哪些原因?

qq_23236081的博客 2441

评估指标AUC、GAUC

AUC 在机器学习算法中,很多情况我们都是把auc当成最常用的一个评价指标,而auc反映整体样本间的排序能力,但是有时候auc这个指标可能并不能完全说明问题,有可能auc并不能真正反映模型的好坏。 AUC反映整体样本间的排序能力,表示正样本得分比负样本得分高的概率,对样本不区分用户地计算整体样本的AUC。 线下AUC提升为什么不能带来线上效果提升? https://zhuanlan.zh...

qfikh的博客 2806

【推荐系统】离线AUC涨了,在线CTR/CXR不涨

我离线,click-auc从0.780提升到0.866,pay-auc从0.887提升到0.927,当时因一些原因,只用了少量数据训练,AUC看起来不错,就上线实验了。后来发现是训练的数据少的原因,然后到线上AB实验反跌了,

开卷有益 1012

CSCNN:新一代京东电商广告排序模型

导读:随着电商平台对图像信息的大量引入,通过图像分析来进行广告点击率判断就成了新的趋势。本次分享的主题为CSCNN:新一代京东电商广告排序模型,主要介绍视觉信息在CTR排序模型中的应用。一方面,我们将介绍在工业场景下使用CNN将图像加入CTR模型联合建模的方法;另一方面,我们指出传统用于分类任务的CNN并不适合电商场景。将电商场景中丰富的、具有强视觉先验的"商品类目标注"作为CNN输入的一部分,将有效降低CNN训练的难度,提升排序效果。 模型于2019年上线,是京东搜索广告业务中收效较好的一种算法,也入选

1583

cellchat安装

cellchat

m0_65188455的博客 5442

【推荐系统】ESMM笔记

无

littlemichelle 2485

中科蓝讯蓝牙开发:从源码到固件的自动化构建链路解析

本文详细解析了中科蓝讯AB530X蓝牙芯片从源码到最终固件的完整自动化构建链路。通过剖析prebuild.bat、GCC编译、postbuild.bat等关键环节,阐述了资源打包、配置生成、代码编译与固件合成的全过程,并重点介绍了如何实现一键编译与自动下载,为开发者高效进行嵌入式蓝牙开发提供清晰指南。

weixin_29193259的博客 121

排序模型常见问题 - 离线AUC涨,在线无效果或跌

摘自知乎:https://zhuanlan.zhihu.com/p/136535140?utm_source=wechat_session&utm_medium=social&utm_oi=1246791807990079488 可能的原因如下: 1.特征穿越,使用了label相关强特征 2.特征不一致,代码原因或者时效性原因导致的离线在线特征不一致问题 3.冰川效应,离线训练时样本分布较局限,需要扩大数据分布,让模型见到更多特征分布 ...

lolanlolan的专栏 1019

C#实战:如何用HslCommunication快速搞定三菱FX5U PLC通讯(附完整代码)

本文详细介绍了如何利用HslCommunication库在C#环境中快速实现与三菱FX5U PLC的通讯。通过实战代码演示,从环境搭建、建立连接、核心数据读写到构建健壮的监控服务,系统讲解了如何高效完成数据采集与交互,大幅提升工业自动化项目的开发效率。

s4t5u6v的博客 1199

Android Profiler 帧率优化实战与性能调优

本文详细介绍了使用Android Profiler进行帧率优化与性能调优的实战方法。通过分析主线程状态、FPS曲线和渲染阶段耗时,精准定位卡顿根源,并提供减少过度绘制、优化绘制命令及改善资源使用的具体策略。文章结合电商、游戏等真实案例,帮助开发者有效解决卡顿问题,提升应用流畅度。

palm99的专栏 536

线下auc涨,线上ctr/cpm跌的原因和解决办法

“这两年深度模型大火之后,各个团队都卯足了劲把网络规模做大做深,花了很大力气好不容易离线auc涨了不少,上线一看效果ctr和cpm反而下降。本文例举几种可能的原因和解决办法。”作者:辛...

abcdefg90876的博客 3142

C/C++ 计算程序运行的时间

C/C++计算程序执行时间的方法,精度依次增加,推荐度也依次增加 1.#include <time.h> clock_t start, finish; double process_interval ; start=clock(); process(); //要计时的程序 finish=clock(); process_interval =(double)(finish-star...

stu_shanghui的博客 1020

别再只盯着AUC了:从点击率模型到购买转化模型,聊聊线下AUC与线上效果的‘温差’到底在哪

本文深入探讨了AUC指标在模型评估中的局限性,揭示了点击率(CTR)与购买转化率(CVR)模型在线上线下效果差异的核心原因。通过分析数据穿越、特征断层、样本偏差等五大元凶,提供从评估到部署的全链路优化框架,帮助开发者实现业务导向的模型评估升级。

weixin_27017211的博客 364

华为OD机考双机位C卷 - 手机App防沉迷系统(Java & Python& JS & C/C++ & GO )

华为OD机考双机位C卷 - 手机App防沉迷系统(OD上机考试双机位C卷)。提供在线OJ刷题。Java、C++、Python、GO语言、C语言、JavaScript题解,并提供完整思路讲解。

算法大师! 2060

基于 STM32 的智能水表流量计设计与实现 —— 数据采集与远程传输

本文设计的基于 STM32 的智能水表流量计通过霍尔传感器实现流量采集,结合 STM32 的处理能力完成数据计算、存储与远程传输,具备计量精准、功耗低、可远程监控等特点。未来可优化方向:引入低功耗模式延长电池寿命,增加水质检测模块实现多参数监测,提升水务管理智能化水平。

weixin_42300449的博客 1027

3、CTR预估相关介绍

前言 推荐系统通常分为召回和排序两个步骤 召回:粗排选取合适的内容,可以通过协同过滤,兴趣tag,内容最热等方式 排序(CTR预估):使用一个点击率预估模型(输入用户特征,内容特征,用户内容交叉特征等)对召回出来的内容进行排序 1、CTR预估 CTR预估是推荐中最核心的算法之一。 相关概念: CTR预估:对每次广告的点击情况做出预测,预测用户是点击还是不点击。 CTR预估的影响因素:比如历史点击率、广告位置、时间、用户等。 CTR预估模型:综合考虑各种因素、特征,在大量历史数据上训练得到的模型,用

weixin_45063703的博客 5985

GStreamer —— 2.1、Windows搭建GStreamer环境,Qt加载GStreamer库后运行 - “教程1:Hello world!“(附:完整源码)

GStreamer —— 2、Windows搭建GStreamer环境,Qt加载GStreamer库后运行"教程1:Hello world!"

796

AUC上升CTR一定上升么

记得几年前,百度从谷歌挖来了一个非常牛逼的工程师,这位工程师带来了很多机器学习的概念,实在是让自己这种土包子开了眼界,在一次会议上,这位工程师在解释auc和线上ctr的关系时,说 ”我做了这么多年机器学习,还从来没见过算法A在auc上胜过算法B,但是线上表现A比B差。” 必须备注一点,自己当时连auc都没搞清楚的小喽啰,也许记忆会有偏差,所以原话也许有偏差。事实上,在点击率预估这项工程的开展初期,...

LegenDavid's warehouse 6348

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

为什么搜索与推荐场景用AUC评价模型好坏?

文 |吴海波在互联网的排序业务中,比如搜索、推荐、广告等,AUC(Area under the Curve of ROC)是一个非常常见的评估指标。网上关于AUC的资料很多,知乎上也有...

abcdefg90876的博客 999

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

【转】为什么搜索与推荐场景用AUC评价模型好坏?

【本文转自:https://mp.weixin.qq.com/s/uVZOfFayOzba5mALR5lHRQ】 在互联网的排序业务中,比如搜索、推荐、广告等,AUC(Area under the Curve of ROC)是一个非常常见的评估指标。网上关于AUC的资料很多,知乎上也有不少精彩的讨论,本文尝试基于自身对AUC的理解做个综述,水平有限,欢迎指出错误。 俗话说,提出正确的问题就成功了一半,本文先提出以下几个问题,希望大家读完能够加深对下列问题的理解。 AUC有几种理解? A.

Toby的博客 948

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

搜索推荐系统实战:起始篇

搜索推荐系统实战篇-上半篇一切源于炼丹笔记,我只是敲了敲代码。搜索推荐系统实战:起始篇 搜索推荐系统实战:进化篇 搜索推荐系统实战:终极奥秘在电商搜索中,例如淘宝,拼多多,京东等的搜索的场景往往是:用户A通过搜索框Query找到他/她想要购买的东西,然后搜索引擎通过某些算法策略返回一系列商品,用户再决定是否进行点击购买。要做好这样一个问题,我们需要抓住问题的核心。那么搜索引擎的核心是什么呢?至少有...

炼丹笔记 636

推荐系统笔记6-排序算法&深度学习模型(一)

这篇文章接着该文章后面继续介绍,主要介绍的是CTR的问题; 在介绍以前,总结一下之前腾讯面试的一个问题:LR能不能组合出没出现的特征?FM能不能组合出没出现的特征? 解答: LR不能组合出未出现的特征,而FM是可以组合出未出现的特征的,考虑如下数据集: 其中Poly2参数可以看作LR的特征组合,对于测试集来说,训练集是没有NBC和Adidas的组合特征的,因此LR就无法通过特征组合来学习到参数W...

年少_当自强的博客 1940

关于深度学习推荐系统领域的15个问题

这里是「王喆的机器学习笔记」的第三十篇文章。今天的文章有点特别,前天受电子工业出版社邀请参加了他们博文视点学院的直播,有幸跟1700位同行交流在推荐系统领域的一些心得体会。交流之后有一些朋友的问题来不及当场回答,这里一并作出回复。 有些问题的并不是我的专长,有的回答可能比较简短,如果大家有想进一步了解的地方,可以留言反馈给我,在以后的文章中可以做进一步的解答。 1.如果领导让自己同时带一个NL...

喜欢打酱油的老鸟 1735
上一篇: scala word2vec 工程异常总结
下一篇: pyspark 记录
coder_oyang
博客等级 码龄11年 91粉丝 90原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值