台大机器学习基石 Lecture 8 - Noise and Error

机器学习基石 Lecture8: Noise and Error 机器学习基石 Lecture8: Noise and ErrorNoise and ErrorError MeasureAlgorithmic Error MeasureWeighted Classification Noise and Error 前面讲的机器学习的学习流程如下图所示: 但是这个流程里假设的都是有一个真实的函数fff来生成样本,但是现实中很有可能样本里带有一些噪音,也就是无法单... 阅读详情

本次Lecture主要讲了在存在Noise噪声的情况下,是否能够进行机器学习,VC Dimension是否还有作用,并且介绍了一些评价Model的Error度量方法,这是要根据实际问题来确定的。

Noise and Probablistic Target

数据集D存在噪声的情况下,是否还能学习呢?

Noise主要来源于以下三种——

  • 由于人为因素,正类被误分为负类,或者负类被误分为正类;

  • 同样特征的样本被模型分为不同的类;

  • 样本的特征被错误记录和使用。

我们之前的数据都是确定的(deterministic),而现在则变成了对每个一x,y出现的概率是P(y|x)。下面的图继续用罐中抽小球的例子来解释(i.i.d.是指独立同分布)——

从而我们可以用数学证明,如果数据集按照概率P(y|x)分布且是i.i.d.的,那么之前证明机器可以学习的方法依然奏效,VC Dimension有限即可推断E_{in}\approx E_{out}。

将P(y|x)称为Target Distribution(目标分布),可以这么理解——Target Distribution是有噪声情况下的理想小目标(ideal mini-target),最理想的结果是什么,伴随着多少的noise。而确定的目标f则是Target Distribution的一个特例:

\left\{\begin{matrix} P(y|x)=1,\ for \ y=f(x)\\ P(y|x)=0,\ for \ y\neq f(x) \end{matrix}\right.

于是,学习的目标就是要在最常见的点上做到尽可能接近mini-target。

那么存在noise的情况下,Learning Flow变形成下面这样——

Error Measure

现在我们通过更加一般化的方法来看错误度量,也就是训练之后的g与理想的f的error measure:E(g, f)。

主要有三个特性——

  • out-of-sample:通过已有数据集之外的数据来测量
  • pointwise:对每一个数据点都要进行测试
  • classification:查看prediction与target是否一致,这也通常称为'0/1 error'

Pointwise Error实际上就是对数据集的每个点计算错误并计算平均, 在计算E_{in}和E_{out}的point wise error表达式如下——

pointwise error是机器学习中最常用也是最简单的一种错误衡量方式(\widehat{err}),未来课程中,我们主要考虑这种方式。简便起见,记作err(g(x),f(x)),g(x)\rightarrow \widetilde{y},y(x)\rightarrow y。主要有两类,0/1 error和squared error,前者主要用于分类,后者主要用于回归——

Ideal Mini-Target由P(y|x)和\widehat{err}共同决定,下面的例子能表明在相同的P(y|x)下不同的\widehat{err}能产生不同的err结果,形成不同的ideal mini-target——

在加入error measure之后,Learning Flow变成了这样——

Algorithmic Error Measure

Error有两种:False Accept(错的认为是对的)和False Reject(对的认为是错的),0/1 error将这两种error视作相同的。

 我们可以给不同的错误给不同的权值,比如在CIA的指纹识别中,false accept的权值就显然高于false reject,可以用权值表来表示——

f\setminus g+1-1
+101
-110000

因此,err是依赖于应用和用户的。

测量error的方法\widehat{err}有多种,常用的主要分成两类——

 加入error measure后,Learning Flow变成了——

Weighted Classification

机器学习的Cost Function即来自于这些error,也就是算法里面的迭代的目标函数。weighted classification就是不同的(x, y)给出不同的'weight',在机器学习算法的cost function中进行优化。

将基于损失权重的E_{in}记为E_{in}^w,那么可以用Systematic Route的方法将E_{in}^w与E_{in}^{0/1}联系起来,以CIA的权值表为例,我们可以类比于将1000的权值复制1000份,1的权值保持不变,然后用0/1 error的方法计算,这两个方法是等价的。

当然,我们不会真的复制1000份,这样太慢了,也不支持非整数的权值。

于是我们只要做到以下两点,提高检查-1的概率,并且在pocket中保留较小的E_{in}^w——

 这样的Systematic Route也被成为Reduction,在许多其他的算法中有应用。

[机器学习入门] 经典台大李宏毅机器学习课程从这里开始 TOPIC CONTENTS BLOG PDF VIDEO 【1】Learning Map(学习导图) blog pdf video 【2】Regression:Case Study ;回归:案例研究 blog pdf video 【3】Gradient Descent ;梯度下降 blog pdf video 【4 阅读详情

相关推荐

台大林轩田《机器学习基石》:作业一python实现

15 下载训练数据,每一行都是一个训练实例,每一行的数据中,前四项是特征值,最后一项是标签,编写PLA算法进行分类,设w初始为0,sign(0)=-1,问迭代多少次后算法结束? 1.需要自己手动添加一维特征,X0=1 2.一个点分类正确的条件是x*w*y>0(PLA) 3.算法结束的条件是所有实例都被分配正确 代码如下: import numpy class NaiveCy...

devil_bye的博客 6141

台大林轩田·机器学习基石记要

台大林轩田·机器学习基石记要昨天开始看林轩田的机器学习基石,从今天起开始去粗取精 本文在差不多是随堂笔记,可读性不好。。第一讲比较基础,一些概念自己早已经理解了,所以不再做笔记,有点印象的是讲到了ML、DL、AI的一些联系与区别,ML主要是想从数据中学习/逼近一个理想的函数f(x)第二讲讲到了PLA,感知器学习算法,并且证明了线性可分时感知器收敛定理(与Haykin的Neural Networks

qiusuoxiaozi的博客 1万+

RabbitMq安装

本文详细介绍了在CentOS7系统上离线部署RabbitMQ4.3.2的完整流程。主要内容包括:1)准备RabbitMQ安装包、Erlang依赖和socat网络工具;2)安装系统编译依赖并编译安装Erlang;3)部署RabbitMQ服务,配置环境变量和socat依赖;4)启用Web管理插件并创建管理员账号;5)配置防火墙放行端口;6)设置Systemd开机自启服务;7)提供常用运维命令。文档特别强调离线部署注意事项,包括socat依赖、版本兼容性、账号安全及主机名配置等问题,为生产环境部署提供完整解决方案

sinat_25821779的博客 324

机器学习基石第八讲:noise and error

博客已经迁移至Marcovaldo’s blog (http://marcovaldong.github.io/)机器学习基石第八讲主要介绍噪声和误差度量,笔记整理在下面。Noise and Probabilistic Target现实中的数据很可能含有噪声(noise),例如前面的信用卡发放问题中,有的顾客符合发放标准但没有发给,或者同样情况的顾客有人发了有人没法,再或者顾客的信息不正确等等,VC

Marcovaldong的博客 6872

UWB定位进阶:如何利用DW1000的CIR数据做NLOS信号识别?

本文深入探讨了如何利用DW1000芯片的信道脉冲响应(CIR)数据进行非视距(NLOS)信号识别,以提升UWB定位精度。通过分析CIR数据的核心价值、预处理方法、特征提取技术以及机器学习模型构建,为研究人员和工程师提供了实用的解决方案,帮助克服室内定位中的NLOS挑战。

weixin_28729205的博客 474

Android Audio常见问题分析方法

分析audio dump,确定写给BT的data是否正常,MTK平台Android原生架构分析threadloop write节点,高通平台分析QXDM 1586节点,从dump确定问题大概位置。分析systrace 确定性能。AudioFocus状态(用于播放或者音量异常的情况)。AudioTrack是否正常创建bt连接是否正常通路异常,setMode,setSpeakerphoneOn等都会影响设备选择,sco调用流程是否正常。

一条老狗的博客 2390

台湾大学林轩田机器学习基石课程学习笔记8 -- Noise and Error

我的优快云博客地址:红色石头的专栏 我的知乎主页:红色石头 我的微博:RedstoneWill的微博 我的GitHub:RedstoneWill的GitHub 我的微信公众号:红色石头的机器学习之路(ID:redstonewill) 欢迎大家关注我!共同学习,共同进步! 上一节课,我们主要介绍了VC Dimension的概念。如果Hypotheses se...

红色石头的专栏 7919

基于opencv-ANN的水果识别模型训练

本文通过opencv-ann-mlp训练模型,实现对五种水果进行分类识别。本文详细介绍该项目的各个过程,包括数据准备、预处理、样本读取、训练数据集制作、训练标签制作、模型参数设置、模型训练,模型测试验证等,总结该过程需要注意的事项。

qq_15985873的博客 3975

机器学习基石-Noise and Error

大纲Noise and Probabilistic Target以前的VC Bound在没有noise的条件下是成立的,但如果引入noise,是否还依旧成立?Probabilistic Marbles接下来我们看在引入noise之后的情况就像以前的抽球的例子,如果数据没有noise,我们称为确定性颜色的球,,如果数据有noise,那么球的颜色就是不确定的啦。我们可以用概率分布来表示球的颜色p(y/x

格物致知 693

番外篇:ADS功放设计实战——负载与源牵引的协同优化

本文深入探讨了ADS功放设计中负载牵引与源牵引的协同优化原理及实战技巧。通过2.4GHz Wi-Fi功放等案例,详细解析了基波阻抗迭代优化、谐波调谐高级技巧及收敛判断方法,帮助工程师显著提升功放效率至78%以上。文章特别强调ADS仿真工具的正确使用方法和实际调试经验,为射频功放设计提供实用指导。

weixin_33483304的博客 346

Unity安卓打包实战:SDK与JDK配置全攻略

本文详细介绍了Unity安卓打包过程中SDK与JDK的配置方法,包括工具下载、安装步骤、环境变量设置及常见错误排查。通过实战指南帮助开发者快速完成Unity安卓打包环境搭建,提升开发效率。

weixin_30338481的博客 420

【林轩田】机器学习基石(八)——噪声和误差

ppt video Lecture 8: Noise and Error 噪声和误差 8.1

sjz_hahalala479的博客 2409

库存管理系统项目部署方案(基于jdk8)

不需要安装到服务器,运维本地安装就行,主要是用来编译前端代码的。构建完成后将dist文件夹复制到服务器内。

程序员诚哥 2578

台湾大学机器学习基石Lecture8

8-1:Noise and probabilistic Target杂絮和概率目标函数 本节主要介绍的是数据有噪声的情况下,机器学习是否还是可行的。 那么什么是噪声呢?比如发银行信用卡的时候: 1. 相同的用户特征却得到了不同的输出标签y 2. 对数据进行分类的时候,对应的标签填写错误 3. 或者直接就是录入了错误的数据 以上都是噪声产生的原因。 还是以从罐子里抽小球为例进行

年少_当自强的博客 355

2023华为od机试C卷【最富裕的小家庭】Python 实现

在一颗树中,每个节点代表一个家庭成员,节点的数字表示其个人的财富值,一个节点及其直接相连的子节点被定义为个小家庭。现给你一颗树,请计算出最富裕的小家庭的财富和。

MISAYAONE的博客 2046

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

林轩田机器学习基石课程个人笔记-第八讲

之前学习的演算法都是建立在理想的数据上的,也就是我们的数据没有所谓的噪声,在无噪声的数据上算法是可行的,那么在实际中数据通常是很杂乱的,会有很多的噪声存在,那么在这些数据中,我们的算法是否还可行呢? 上一讲学习了VC维的相关知识,我们知道如果我们有一个dvc,数据足够的多,并且可以得到足够小的Ein,那么就认为学习是可行的。接下来来学习在有噪声的数据中,我们的学习是怎么样的呢? Noise an...

Forlogenの解忧杂货铺 560

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

台湾大学林轩田机器学习基石课程学习笔记16(完结) -- Three Learning Principles

我的优快云博客地址:红色石头的专栏 我的知乎主页:红色石头 我的微博:RedstoneWill的微博 我的GitHub:RedstoneWill的GitHub 我的微信公众号:红色石头的机器学习之路(ID:redstonewill) 欢迎大家关注我!共同学习,共同进步! 上节课我们讲了一个机器学习很重要的工具——Validation。我们将整个训练集分成两...

红色石头的专栏 2万+

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

力荐 | 台大林轩田《机器学习基石》资源汇总

本文所有资源已放在github上,欢迎star: NTU-HsuanTienLin-MachineLearning 课程介绍 台湾大学林轩田老师的《机器学习基石》课程由浅入深、内容全面,基本涵盖了机器学习领域的很多方面。其作为机器学习的入门和进阶资料非常适合。而且林老师的教学风格也很幽默风趣,总让读者在轻松愉快的氛围中掌握知识。在此,笔者将把这门课的所有视频、笔记、书籍等...

红色石头的专栏 1万+

台大机器学习基石 Lecture 9 - Linear Regression

这节课开始介绍一些常见算法,这次Lecture介绍了最常见的Linear Regression线性回归算法。 Linear Regression Problem 在Linear Regression模型下的hypothesis为,特征集为d维,加上常数项后就为d + 1维(所以注意i从0开始)。在线性回归中,误差的衡量常采用平方误差(squared error):,相关的记号已经在上一节课...

ZayneHuang的博客 502

机器学习基石——Noise and Error

noise 对于真实场景而言,大规模数据集多少会有一些noise。 数据集中的noise来源:1)来源于x,采集特征时出现错误;2)来源于y,打标签时出错。 有noise情况与理想情况区别:原来对于某个x,y是确定值;当有了noise之后,对于某个x,y是一个概率分布P(y∣x)P(y|x)P(y∣x)。 有noise情况VC bound不等式是否依然成立:如果数据集标签按照P(y∣x)P(y|x...

qq_29508953的博客 437

Andrew NG机器学习 练习三Multi-class 分类 PYTHON实现

一、Multi-class Classification 可视化直接抄了大佬代码,多分类,根本上就是多个二分类逻辑回归 ML_exe03_MultiClass.py import numpy as np import scipy.io as sio #加载matlab的数据 from plotData import * from oneVsAll import * from pred...

王文萱的博客 557

台湾大学林轩田机器学习基石课程学习笔记14 -- Regularization

我的优快云博客地址:红色石头的专栏 我的知乎主页:红色石头 我的微博:RedstoneWill的微博 我的GitHub:RedstoneWill的GitHub 我的微信公众号:红色石头的机器学习之路(ID:redstonewill) 欢迎大家关注我!共同学习,共同进步! 上节课我们介绍了过拟合发生的原因:excessive power, stochasti...

红色石头的专栏 5908

台湾大学林轩田机器学习基石课程学习笔记7 -- The VC Dimension

我的优快云博客地址:红色石头的专栏 我的知乎主页:红色石头 我的微博:RedstoneWill的微博 我的GitHub:RedstoneWill的GitHub 我的微信公众号:红色石头的机器学习之路(ID:redstonewill) 欢迎大家关注我!共同学习,共同进步! 前几节课着重介绍了机器能够学习的条件并做了详细的推导和解释。机器能够学习必须满足两个条...

红色石头的专栏 9789

台大李弘毅机器学习课程(2017春季)——1.introduction

今天上B站的时候突然间看到居然有阿婆主上传了台大李弘毅教授的机器学习课程的视频,点开进去看了一下,发现这个老师真的是挺逗的,对于我这个初学者来说,课讲的也很棒(课程主页)。所以打算在这里做一个课程的学习记录,以激励自己坚持学习下去。这里先做一下introduction的记录。

manmantj的博客 3420

台大林轩田老师全套机器学习视频下载

林轩田老师的全套机器学习视频下载链接链接: https://pan.baidu.com/s/1u5sMkvxTsjhw98D_0OOs1g 提取码获取方式:关注下面微信公众号,回复关键字mavideo

欢迎关注微信公众号:DroidMind 1799

台大林轩田机器学习课程笔记----机器学习初探及PLA算法

机器学习的介绍以及PLA算法的原理和实现

SteveYinger的博客 6870
上一篇: 台大机器学习基石 Lecture 7 - The VC Dimension
下一篇: 台大机器学习基石 Lecture 9 - Linear Regression
ZayneHuang
博客等级 码龄10年 5粉丝 116原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值