干货 | 一文完全理解AUC-ROC曲线

分类模型评估之ROC-AUC曲线和PRC曲线 http://blog.youkuaiyun.com/pipisorry/article/details/51788927 ROC曲线和AUC ROC(Receiver Operating Characteristic,接受者工作特征曲线)曲线和AUC常被用来评价一个二值分类器(binary classifier)的优劣。博文介绍ROC和AUC的特点,讨论如何作出ROC曲线图以及计算AUC。 AUC是现... 阅读详情

来源:https://towardsdatascience.com/understanding-auc-roc-curve-68b2303cc9c5

翻译:石头


机器学习模型的性能测量是一项必不可少的工作,因此,当涉及到分类问题时,我们可以考虑用AUC-ROC曲线 。当我们需要检查或可视化多分类问题的性能时,我们使用ROC曲线下的面积(AUC),它是检验任何分类模型性能最重要的评估指标之一。

本文旨在回答以下问题:

1. 什么是AUC-ROC曲线 ?

2. 定义AUC和ROC曲线中使用的术语

3. 如何推测分类模型的性能 ?

4. 灵敏度、特异度、FPR与阈值的关系

5. 如何将AUC-ROC曲线用于多分类模型

1. 什么是AUC-ROC曲线

AUC-ROC曲线是在不同阈值设置的条件下,分类问题的性能度量。ROC的含义为概率曲线,AUC的含义为正负类可正确分类的程度。它告诉模型能够在多大程度上区分类,AUC越高,模型越能预测0为0和1为1。类比疾病诊断模型,若AUC越高,模型对有疾病和无疾病的区分就越好。

ROC曲线由TPR与FPR作图,其中TPR是y轴,FPR是x轴。如下图:

2. AUC-ROC曲线的术语定义

真阳率(TPR)/召回率(Recall)/敏感度(Sensitivity):

特异度(Specificity)

假阳率(FPR)

3. 如何推测分类模型的性能

一个优秀的模型AUC接近于1,这意味着它具有良好的可分性。一个差模型的AUC接近于0,意味着它的可分性最差,意味着模型预测0是1,1是0。当AUC为0.5时,表示模型没有任何的分类能力,意味这随机给出分类结果。

让我们来解释以下上面的陈述。

我们知道,ROC是概率曲线,我们画出这些概率的分布,

备注:红色分布曲线为正类(有疾病者),绿色分布曲线为负类(无疾病者)。

如上图为正类和负类的分布,我们根据ROC曲线的定义,以阈值为1向0移动,得到相应的TPR和FPR,因此我们根据上图可画出ROC曲线,ROC曲线下的面积等于1,即AUC=1。

ROC曲线图如下:

同理,我们根据下图的正负类分布画出ROC曲线,AUC = 0.7

当正负类的分布完全相同时,即模型的分类结果是随机给出的,即AUC=0.5,如下图的正负类分布和ROC曲线:

AUC=0.5时,模型没有区分正类和负类的能力,这是最糟糕的情况。

当AUC=0时,模型完全预测错误,即负类预测为正类,正类预测为负类。

4. 敏感度(Sensitivity)、特异度(Specificity)、FPR与阈值(Threshold)的关系

敏感度和特异度成反比,当我们增加敏感度时,特异度下降,反之亦然。

解释:当我们降低阈值时,我们的预测结果会得到更多的正值,从而增加了敏感度,降低了特异度。

同样地,当我们增加阈值时,我们的预测结果会得到更多的负值,从而增加了特异度,降低了灵敏度。

正如我们所知道的,FPR = 1 - 特异度,所以当我们增加TPR时,FPR也会增加,反之亦然。

5. 如何将AUC-ROC曲线用于多分类模型

在多分类模型中,我们可以用一种方法绘制N个类别的AUC-ROC曲线。举个例子,如果你有3个类别,X,Y,Z。你会绘制出3个ROC曲线,一个ROC曲线代表X,对应Y和Z,一个ROC曲线达标Y,对应X和Z,一个ROC曲线代表Z,对应Y和X。

推荐阅读

520 页机器学习笔记!图文并茂可能更适合你,文末附下载方法

李航老师《统计学习方法》(第2版)课件分享,文末附下载

Github | 吴恩达新书《Machine Learning Yearning》完整中文版开源

经典好书 | 141页的《Deep Learning with PyTorch》开源书籍

400页《TensorFlow 2.0 深度学习算法实战》中文版教材免费下载

欢迎扫码关注:

模型评估指标详解:ROC 曲线和 AUC 的计算方法 机器学习模型评估指标详解:ROC 曲线和 AUC 的计算方法,AUC 的物理意义,根据物理意义计算 AUC 阅读详情

相关推荐

auc到多少有意义_【干货速递】信贷风控中AUC/KS的理解

作为风控从业人员,你真的足够了解AUC/KS吗?AUC/KS是信贷领域使用极其高频的指标,常被用来评估二分类模型、分数类数据产品的区分能力。但在实际的业务中,发现很多业务人员甚至建模专家在使用AUC/KS时,仅仅关注AUC/KS值的大小而忽略例如样本逾期率、样本量等重要细节。本文将用“硬核”的方式(理论推导与数值模拟)带你重新认识这两个明星指标,试图回答清楚如下三个问题:AUC 与KS有...

weixin_31596631的博客 1674

一文详解 ROC/AUC

AUC(area under the curve)是机器学习领域中一种常见且重要的模型评估标注,表示ROC(receiver operator characteristic)曲线下的面积。今天我们就和大家一起来梳理一下有关ROC/AUC的基本知识。在正式介绍ROC/AUC之前,我们还要再了解几个指标。

xifenglie123321的博客 5019

auc到多少有意义_为什么搜索与推荐场景用AUC评价模型好坏?

公众号关注“ML_NLP”设为 “星标”,重磅干货,第一时间送达!文 |吴海波在互联网的排序业务中,比如搜索、推荐、广告等,AUC(Area under the Curve of ROC)是一个非常常见的评估指标。网上关于AUC的资料很多,知乎上也有不少精彩的讨论,本文尝试基于自身对AUC的理解做个综述,水平有限,欢迎指出错误。俗话说,提出正确的问题就成功了一半,本文先提出以下几个问...

weixin_35682426的博客 1769

神经网络常见评价指标AUROC(AUC-ROC)、AUPR(AUC-PR)

从 (0, 0) 到 (1,1) 的对角线将ROC空间划分为左上/右下两个区域,在这条线的以上的点代表了一个好的分类结果(胜过随机分类),而在这条线以下的点代表了差的分类结果(劣于随机分类)。准确性是最常见的分类任务评价指标,表示模型正确预测的样本数占总样本数的比例。召回率是指在所有实际为正例的样本中,被模型正确预测为正例的比例。召回率关注的是模型对正例的覆盖程度。精确度是指在所有被模型预测为正例的样本中,实际为正例的比例。精确度关注的是模型预测为正例的准确性。表示模型错误分类的样本比例,是准确性的补数。

行子的博客 3万+

【机器学习】了解 AUC - ROC 曲线

在机器学习中,性能测量是一项基本任务。因此,当涉及到分类问题时,我们可以依靠AUC - ROC曲线。

gongdiwudu的专栏 4万+

基于MCP协议的AssistAI:深度集成Eclipse的AI编程助手实战指南

在AI辅助编程领域,大型语言模型(LLM)与开发工具的深度集成是提升开发效率的关键。其核心原理在于通过标准化的协议(如MCP,Model Context Protocol),将IDE的功能封装为AI可调用的工具集,从而实现环境感知与操作同步。这项技术的价值在于打破了传统AI编程工具与开发者工作流的割裂,使AI能够以符合工程规范的方式直接操作项目,如进行代码重构、运行测试和交互式调试。其典型应用场景包括复杂代码导航、自动化测试生成与精准的增量编译。本文以Eclipse插件AssistAI为例,详细解析了如何通

weixin_42531579的博客 564

评价指标 | ROC曲线和AUC面积理解

点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达目录:(1)ROC曲线的由来(2)什么是ROC曲线(3)ROC曲线的意义(4)AUC面积的由来(5)什么是AUC面积(6)AUC面积的意义(7)讨论:在多分类问题下能不能使用ROC曲线一、ROC曲线的由来很多学习器是为测试样本产生一个实值或概率预测,然后将这个预测值与一个分类阈值进行比较,若大于阈值则分...

小白学视觉 2341

【实用教程】使用AlphaFold2进行蛋白质结构在线预测

使用Colab进行简单快速的AlphaFold2在线的蛋白质三维结构预测

Eumenidus的博客 14万+

模型评估指标 AUC 和 ROC,这是我看到的最透彻的讲解

点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达作者:Webbleyblog.youkuaiyun.com/liweibin1994/article/details/79462554公众号:Python与算法社区AUC在机器学习领域中是一种模型评估指标。根据维基百科的定义,AUC(area under the curve)是ROC曲线下的面积。所以,在理解AUC...

小白学视觉 4168

Linux安装部署PostgreSQL详细步骤

Linux安装部署PostgreSQL详细步骤

2301_77356579的博客 9325

大疆M3508电机使用CAN通信进行速度PID闭环控制详解

目录一. 简介二. 电机通信协议三. 电机PID控制原理四. 官方代码移植-中断接收五. 官方代码移植-查询接收 一. 简介 之前写过一篇文章STM32实现四驱小车(五)电机控制任务——电机速度PID控制算法,其中是以大疆的M3508电机为例进行讲解的(没错,就是RoboMaster机器人同款电机,不过Robomaster上的电机好像是小一号的M2006)。不少小伙伴私信问我要代码,我都回复说不是有官方demo么。后来问的人多了我大概明白了,看来官方的Demo还是有点门槛。可能是带FreeRTOS操作系统看

qq_30267617的博客 7万+

AUC/ROC:面试中80%都会问的知识点

摘要:ROC/AUC作为机器学习的评估指标非常重要,也是面试中经常出现的问题(80%都会问到)

华为云官方博客 2091

Nvidia Orin Driveos Camera 介绍及调试详解

自动驾驶-nvidia orin driveos Camera 驱动详解及调试

u011803281的博客 2993

技术干货 | 解决面试中80%问题,基于MindSpore实现AUC/ROC

ROC/AUC作为机器学习的评估指标非常重要,也是面试中经常出现的问题(80%都会问到)。其实,理解它并不是非常难,但是好多朋友都遇到了一个相同的问题,那就是每次看书的时候都很明白,但回过头就忘了,经常容易将概念弄混。还有的朋友面试之前背下来了,但是一紧张大脑一片空白全忘了,导致回答的很差。我在之前的面试过程中也遇到过类似的问题,我的面试经验是一般笔试题遇到选择题基本都会考这个率,那个率,或者给一个场景让你选用哪个。面试过程中也被问过很多次,比如什么是AUC/ROC?横轴纵轴都代表什么?有什么优点?...

Kenji_Shinji的博客 487

【异常】 OpenClaw 超长入参报错排查与解决方案 [错误]: 400 <400> InternalError.Algo.InvalidParameter: Range of input leng

摘要: OpenClaw服务调用出现400 InvalidParameter报错,核心原因为输入内容长度超出1-129024字符限制。解决方案包括:1)紧急精简冗余入参;2)标准分块处理长文本;3)客户端增加预校验模块;4)长期可申请调整服务规格。该错误属于客户端参数校验异常,通过合理控制输入长度或分批次处理即可解决,重点需保证语义完整性。建议优先采用自动化预校验机制,从源头预防问题发生。(149字)

奶爸的编程之路,也就一周冷个三天 1993

Python FastAPI 面试题及参考答案

FastAPI 的路由机制是其核心功能之一,用于将不同的 URL 路径映射到相应的处理函数。通过定义路由,可以构建出功能丰富的 API。在 FastAPI 中,使用装饰器来定义路由。在这个示例中,是一个装饰器,它将根路径"/"的 GET 请求映射到read_root函数。当客户端发送一个 GET 请求到根路径时,FastAPI 会调用read_root函数并返回结果。

大模型大数据攻城狮的专栏 2250

【基础】模型评估指标 AUC 和 ROC,这是我看到的最透彻的讲解

点击上方,选择星标或置顶,每天给你送干货!阅读大概需要9分钟跟随小博主,每天进步一丢丢作者:Webbley编辑:zglg来自:Python与算法社区blog.youkuaiyun.com/liwei...

zenRRan的博客 643

12、对网络中容易出现的故障归纳

// 硬件问题 // 既然网络设备是一台机器,就有可能出现“疲劳”,从而导致各种各样的硬件故障出现。硬件的故障,一般有下面几种情况。 第一种是造成整机停机的故障。 停机属于重大安全问题,造成停机的原因一般有以下几点: (1)设备电源模块损坏,常见于一些单电源的盒式交换机;(2)设备在搬移过程中,因为碰撞,摔打造成的主板芯片受损;(3)一些使用超年限的设备,在重启的时候出现问题,起不来了;(4)因为机房环境不好,设备温度过高造成“假死”的现象。 设备停机属于重大安全问题,也是特别..

qq_43416206的博客 342

判断 点在曲线上_ROC曲线应该怎么看?

Roc曲线,也称“受试者工作特征曲线”,或者感受性曲线,抛开这写难记的名字不谈,今天主要来谈谈它的用法以及如何解读。应用场景ROC曲线主要是用于X对Y的预测准确率情况。最初ROC曲线是运用在军事上,现在更多应用在医学领域,判断某种因素对于某种疾病的诊断是否有诊断价值。简单理解ROC曲线ROC曲线图是反映敏感性与特异性之间关系的曲线。横坐标X轴为 1 – 特异性,也称为假阳性率(误报率),X轴越接近...

weixin_42515158的博客 1377

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

Python实战:用sklearn快速绘制ROC曲线(附完整代码与避坑指南)

本文深入解析了ROC曲线的核心原理与绘制方法,通过sklearn库提供完整实战代码,从理论计算到可视化对比,帮助开发者掌握模型评估的关键技术。文章重点阐述了ROC曲线在解决类别不平衡问题上的优势,并分享了多模型对比、最佳阈值选择等高级技巧与常见避坑指南。

plant的博客 658

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

二分类相关评估指标(召回率、准确率,精确率,F度量,AUC和ROC)

基础定义 通常在机器学习的二分类领域中,对模型的结果评估是必不可少的,本文主要总结了各个评估指标,对每个指标的定义,作用进行阐述。废话到此,直接上干货。 TP:True Positive   FP:False Positive TN:True Negtive FN:False Negtive 以上四个定义是基础,Positive表示对样本作出的是正的判断,T表示判断正确,F表示判断错误...

frogbar的博客 1万+

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

一文详尽系列之模型评估指标

点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达在机器学习领域通常会根据实际的业务场景拟定相应的不同的业务指标,针对不同机器学习问题如回归、分类、排序,其评估指标也会不同。准确率、精确率、召回率、F1值定义准确率(Accuracy):正确分类的样本个数占总样本个数,精确率(Precision):预测正确的正例数据占预测为正例数据的比例,召回率(Recall):预测为正确的正例...

小白学视觉 1358

干货 :搞懂机器学习的常用评价指标!

Datawhale干货;作者:陈安东,湖南大学,Datawhale成员我与评价指标的首次交锋是第一次实习面试时,面试官开头就问分类任务的评价指标。我当时TP,FP,FN,TN各种组合一顿上...

数据分析 384

【机器学习】一文详尽系列之模型评估指标

点击上方,选择星标或置顶,每天给你送干货!阅读大概需要12分钟跟随小博主,每天进步一丢丢来自:Datawhale作者:阿泽在机器学习领域通常会根据实际的业务场景拟定相应的不同的业务指标,...

zenRRan的博客 295

初步理解什么是NLP

基于对一篇较好的NLP博文的学习,初步理解什么是NLP(Nature Language Processing)

tony_dr的博客 2444
上一篇: 你可能不知道的 Python 技巧
下一篇: 超全干货 | 统计学中常用的数据分析方法汇总!
机器学习算法那些事
博客等级 码龄9年 1633粉丝 62原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值