机器学习（周志华）_第十二章 计算学习理论

最新推荐文章于 2024-12-03 10:45:29 发布
原创 最新推荐文章于 2024-12-03 10:45:29 发布 · 1.6k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

博客主要涵盖第十二章计算学习理论的知识点，聚焦信息技术领域中计算学习理论相关内容。
第十二章计算学习理论的知识点
周志华机器学习西瓜书 第八章 集成学习-学习笔记(超详细)
Sodas的博客
03-01 415
举个例子：假如集成学习器有9个个体，求的是集成学习错误率，即预测失败的概率。即在训练过程中每一轮中，根据样本分布为每个训练样本重新赋予一个权重，对无法接收带权样本的基学习算法，则可通过“重采样法”来处理，即在每一轮学习中，根据样本分布对训练集重新进行采样，再用重采样而得的样本集对基学习器进行训练。随机森林的训练效率常优于Bagging，因此在个体决策树的构建过程中，Bagging使用的是“确定型”决策树，在选择划分属性时要对结点所有的属性进行考察，而随机森林使用的“随机型”决策树则只需考察一个属性子集。
周志华机器学习西瓜书 第七章 贝叶斯分类器-学习笔记(超详细)
最新发布
Sodas的博客
02-26 1168
缺点也是显然的：如果数据量较大，拉普拉斯修正可能会引入过多的平滑，导致概率估计不够准确、对于某些特定问题，可能需要调整平滑参数（如加的常数不一定是1）、而且拉普拉斯修正实际上是假定了属性与类别的均匀分布，这是额外引入的偏差，因为本身可能本身不是均匀的，所以这个要注意，实际问题是否是均匀的，若是不均匀可以调整所加的常数，调整偏差。是主观的，只是随着新证据的发现去不断的更新对概率的"信念值"。"，即频率 主义认为概率是"事件"，在大量重复性实验中所发生的频率，就会逼近真实的概率，涉及到极限的概念，是客观的。
【机器学习-周志华】学习笔记-第十二章
vircorns的博客
09-01 692
周志华《机器学习》十二章笔记
机器学习---计算学习理论
weixin_34008784的博客
04-04 299
如果你不是数学系的，就不要看这个了。 由于下面内容是用来证明机器学习的方法的正确性，你能够用机器学习来得到你想要的结果。然而对于编程或者使用这种方法的人来说，你仅仅要放心大胆地用即可了。就像你知道1+1=2，你并不须要知道它为什么等于，反正你能够用。 下面使用到的图片来自上海交大杨旸老师的...
周志华 《机器学习》之 第十二章（计算学习理论）概念总结
不系之舟的专栏-QQ讨论群331590339
08-30 1820
看到12章，题目叫计算学习理论，当时一萌，这是干什么用的呢？前面的章节中基本都是讲述了一些机器学习的一些常用方法。看到这个标题我的第一反应应该是理论方面的研究，那是否对计算与学习这两方面的理论研究呢？既然是理论的东西，我想对于一般应用机器学习算法的来说，可能意义不大吧！但是我个人认为有可能也可以指导我们进行算法设计。周老师数据对计算学习理论这么描述的，（是关于机器学习的理论基础，其目的是分析学习任务
机器学习（周志华） 第十二章计算学习理论
YJY131248的博客
04-05 2141
关于周志华老师的《机器学习》这本书的学习笔记 记录学习过程 本博客记录Chapter12
机器学习理论 | 周志华西瓜书 第十二章：计算学习理论
Tinky2013的博客
04-03 1184
第十二章 计算学习理论 此系列文章旨在提炼周志华《机器学习》的核心要点，不断完善中… 12.1 基础知识 1、概述 目的：分析学习任务的困难本质，为学习算法提供理论保证） 2、一些定义 令h为从X到Y的映射，h的泛化误差：E(h;D)=Px∼D(h(x)≠y)E(h;\mathcal{D})=P_{\bm x\sim\mathcal{D}}(h(\bm x)≠y)E(h;D)=Px∼D​(h(...
《机器学习》周志华_自学记录
2201_75296678的博客
10-04 2229
第一章绪论## 1.1引言机器学习所研究的主要内容，是关于在计算机上从数据中产生"模型"(model)的算法，即"学习算法"(learning algorithm).在面对新的情况时(例如看到一个没剖开的西瓜)，模型会给我们提供相应的判断(例如好瓜).如果说计算机科学是研究关于"算法"的学问，那么类似的，可以说机器学习是研究关于"学习算法"的学问.## 1.2基本术语：用于预测离散值，例如将样本分为“好瓜”或“坏瓜”。：用于预测连续值，例如西瓜的成熟度（如0.95、0.37）。
机器学习_周志华_问题汇总_第1周
Datawhale
08-20 2007
问题 Q1 从3.27求w和b，为什么不能直接让它的导数等于0来求？ 你说的方法是解析法，但是实际问题很复杂，很难求得精确解，所以一般要用数值法（拟牛顿法等）来求近似解。 Q2 1.为什么推导logistic回归时需要用到极大似然法，推导最小二乘解时却不需要？在什么情况下需要用到极大似然？2.牛顿迭代二阶导，为啥是对βT求导？ 逻辑回归是统计学的角度，用样本估计总体分布的参数，所以用最大似...
周志华《机器学习》书每章思维导图总结
gandebeautiful的博客
07-22 4206
《机器学习》书思维导图总结
周志华《机器学习》课后习题个人解答
01-30
周志华《机器学习》课后习题个人解答。各算法都拿numpy和pandas实现了一遍
机器学习部分课后习题答案.
01-20
机器学习部分课后习题答案
机器学习.周志华《12 计算学习理论 》
女王の专属领地
04-18 3560
直观的解释：http://www.dataguru.cn/article-11253-1.html 基础知识计算学习理论（computational learning theory）是通过“计算”来研究机器“学习“的理论，其目的是分析学习任务的困难本质。例如：在什么条件下可进行有效的学习，需要多少训练样本能获得较好的精度等，从而为机器学习算法提供理论保证。几个基本概念回顾：泛化误差：学习器在总体上...
[机器学习]计算学习理论
CristianoJason的博客
01-14 3284
本文档记录了《机器学习》第 12 章计算学习理论相关内容
机器学习：计算学习理论
weixin_30245867的博客
07-18 277
计算学习理论介绍 关键词： 鲁棒性 关键词： 【机器学习基础】理解为什么机器可以学习1——PAC学习模型--简书 关键词：存在必要性；从机器学习角度出发 PAC学习理论：机器学习那些事 关键词：不错的大道理 如果相关不意味着因果，那么意味着什么--百度知道 关键词：A B不确定谁影响谁，难分因果 如果相关性不意味因果，那意味什么？--搜狐 关键词：相关性不意味因果；...
机器学习周志华学习笔记-第12章＜计算学习理论＞
ydl1128的博客
12-03 892
机器学习周志华学习笔记-第12章＜计算学习理论＞
周志华《Machine Learning》学习笔记（14）--计算学习理论
Geek
07-30 1759
上篇主要介绍了常用的特征选择方法及稀疏学习。首先从相关/无关特征出发引出了特征选择的基本概念，接着分别介绍了子集搜索与评价、过滤式、包裹式以及嵌入式四种类型的特征选择方法。子集搜索与评价使用的是一种优中生优的贪婪算法，即每次从候选特征子集中选出最优子集；过滤式方法计算一个相关统计量来评判特征的重要程度；包裹式方法将学习器作为特征选择的评价准则；嵌入式方法则是通过L1正则项将特征选择融入到学习器参数...
机器学习-计算学习理论-思维导图
DevilXiao
03-26 450
点击进入：机器学习系列目录 其后附有清晰的pdf版本下载链接哦。 整理不易，如果您觉得有用的话，请点个赞吧????
机器学习周志华答案第二章
02-11
### 关于《机器学习》周志华第二章答案 当考虑模型评估与选择时，不同评价指标提供了多角度的理解方法。对于给定的学习器而言，在特定条件下其性能可以通过多种方式衡量。例如，通过McNemar检验来判断两个分类算法在相同数据集上的表现差异是否具有统计学意义[^1]。 若要对比两学习器的总体性能，除了依赖传统的准确率之外，还可以借助受试者工作特征曲线（ROC），特别是当面对不平衡的数据分布情况时更为有效。如果一个学习器的ROC曲线完全覆盖住了另一条，则表明前者的整体性能更佳；而对于存在交叠的情况，则推荐采用曲线下面积(AUC)作为评判标准[^2]。 另外，“平衡点”(Break-Event Point,简称BEP)，定义为查准率等于查全率时对应的值，也被用来辅助评估。比如，当某个学习器拥有更高的F1分数时，意味着它同样具备较大的BEP数值，这暗示着该模型可能更适合处理那些对误报和漏报敏感的应用场景[^4]。 针对具体题目解答部分，《机器学习》一书中关于真正例率(True Positive Rate, TPR)、假正例率(False Positive Rate, FPR)以及查准率(Precision, P)、查全率(Recall, R)之间关系进行了深入探讨： - **TPR** 和 **R** 实际上是同一个概念的不同表述形式； - **FPR** 则反映了负样本被错误标记的比例； - 查准率P关注的是预测为正类别的实例中有多少是真的正类别成员； - 而查全率R侧重考察实际属于正类别的对象有多少被成功识别出来。 这些度量共同构成了全面理解分类效果的基础框架[^5]。 ```python def calculate_metrics(tp, tn, fp, fn): """ 计算并返回精度(precision), 召回率(recall), 真阳性率(true positive rate) 和 假阳性率(false positive rate). 参数: tp -- 正确预测为正的数量 tn -- 正确预测为负的数量 fp -- 错误预测为正的数量 fn -- 错误预测为负的数量 返回: precision -- 召回率/真阳性率 fpr -- 假阳性率 """ try: precision = tp / (tp + fp) recall_tpr = tp / (tp + fn) fpr = fp / (fp + tn) return round(precision, 3), round(recall_tpr, 3), round(fpr, 3) except ZeroDivisionError as e: print("除数不能为零:", str(e)) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值