Boosting 25年（2014 周志华老师）报告笔记

最新推荐文章于 2024-11-16 11:08:31 发布
原创 最新推荐文章于 2024-11-16 11:08:31 发布 · 537 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本报告由周志华教授主讲，深入浅出地回顾了Boosting算法过去25年的发展历程，内容生动详实，适合所有对机器学习感兴趣的人士观看。报告中，周教授不仅梳理了Boosting算法的演变脉络，还分享了其在实际应用中的关键作用。

强烈推荐周志华老师的这场报告，很好地串联了Boosting的发展过程，整场报告非常生动且清晰。下图是当时记的笔记。视频链接如下：
周志华老师报告-Boosting 25年
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

【深度学习|学习笔记】 梯度提升机（Gradient Boosting Machines, GBM）模型详解，附代码。
2401_89898861的博客
05-10 1695
【深度学习|学习笔记】 梯度提升机（Gradient Boosting Machines, GBM）模型详解，附代码。
周志华《机器学习》课程系列笔记——目录导航页
Sinocifengs的博客
11-27 1479
最近自学机器学习课程，注意到了南京大学周志华老师的课程。我是在学堂在线平台观看的，注意到b站上也有相应视频，但b站上并未获得授权，随时有消失的可能。周志华老师的网络教学视频中，与其西瓜书相比确实少了一些内容。但幸运的是，缺失的内容实际上对于初学者来说并不会产生太大影响。目前这一笔记也遵循视频内容，相比西瓜书中也会有一些缺失，敬请谅解。可能以后如果有机会和时间，我会再阅读周志华老师的书籍将缺失内容补全。一切内容敬请关注我的个人Page页面。
周志华Boosting25年（一)
xiaomlu的博客
10-29 715
Boosting 25年 地址：https://www.bilibili.com/video/av28102016 导言： 集成学习Ensemble learning：多个学习器解决问题。 学习器可以同质，可以异质。 要求：个体尽可能精确，且差异大。 按照个体分： 数据挖掘领域很牛逼的KDD CUP被集成学习攻陷啦。 别的比赛也是这样，如Netflix比赛。 具体的展开部分可以去看书《En...
boosting 25 year(听报告)
geguojing的专栏
04-16 1345
刚才听了周志华做的boosting 25 years. 开始讲了集成学习 讲了一个列子，成绩不好的学生抄作业，肯定是越抄越差， 如果是成绩好的学生抄作业，比如总共有三道题目，第一个学生作对第一题跟第三题，第二个学生作对第一题跟第二题，。。。那么他们相互抄的结果可能为100分。 主要有两种方法： 1.      时间序列的方法。后面的依赖于前面的结果 2.      Bagging 的
周志华老师报告Boasting 25years
种花家的奋斗兔的博客
11-17 615
一、经典的机器学习过程 训练数据 - 模型 -预测 二、集成学习的成功 三、集成学习的分类 一个是序列化的，一个是平行的。 四、关键点：Adaboast 优势：准确，简单，广泛而又成功的应用，具有理论基础。 1. 诞生 把一个弱学习器改造成一个和强学习器有相同效果的算法，创造者给了构造性证明。 （未完） 视频参考：...
周志华：Boosting学习理论的探索 —— 一个跨越30年的故事
数据派THU
04-25 965
来源：中国计算机学会（ID：ccfvoice)本文约2400字，建议阅读5分钟这篇文章尝试用通俗故事的方式讲述一个机器学习理论中重要问题的探索历程。读者或能从中感受到机器学习理论探索的曲...
西瓜书学习笔记-Boosting（公式推导+举例应用）
01-23
西瓜书学习笔记-Boosting（公式推导+举例应用）
【论文笔记】StructRAG Boosting Knowledge 论文笔记
最新发布
m0_65708726的博客
11-16 1320
个人的阅读笔记，包含对不懂的相关知识的查询
周志华版《机器学习》8.2节Boosting注解
BruceQD的博客
03-29 643
最近发现很多同学都看不懂Boosting部分的理论推导，就添加了一些注解，详见下图。 下图解释了(8.15)的由来。
集成学习(Bagging ，Boosting ,AdaBoost) PPT
09-15
集成学习Bagging ，Boosting等介绍的PPT。集成方法是构建一种对单个分类器进行集成的学习算法，将各分类器的分类结果以一定的方式集成起来实现对新数据点进行分类，其中单个分类器是独立的且不要求分类精度很高。通过这种方式，大大提高了集成系统的性能。
【MLA首日报告摘要】周志华、马毅等教授分享机器学习最新进展
人工智能学家
11-05 1629
来源：专知 概要：第15届中国机器学习及其应用研讨会今天11月4日在北京交通大学举行，海内外从事机器学习及相关领域研究的10余位专家与会进行学术交流。 第15届中国机器学习及其应用研讨会今天11月4日在北京交通大学举行，海内外从事机器学习及相关领域研究的10余位专家与会进行学术交流，包括特邀报告、顶会论文交流、以及Top Conference Review等部分。 1. 深度
周志华《Machine Learning》学习笔记（10）--集成学习
VAY-长跑
04-14 8741
上篇主要介绍了鼎鼎大名的EM算法，从算法思想到数学公式推导（边际似然引入隐变量，Jensen不等式简化求导），EM算法实际上可以理解为一种坐标下降法，首先固定一个变量，接着求另外变量的最优解，通过其优美的“两步走”策略能较好地估计隐变量的值。本篇将继续讨论下一类经典算法–集成学习。
机器学习系列(10)_如何提高深度学习(和机器学习)的性能
寒小阳
09-24 3万+
我经常被问到诸如`如何从深度学习模型中得到更好的效果`的问题，类似的问题还有：我如何提升准确度,如果我的神经网络模型性能不佳，我能够做什么？ 对于这些问题，我经常这样回答，“我并不知道确切的答案，但是我有很多思路”，接着我会列出了我所能想到的所有**或许能够给性能带来提升**的思路，。 为避免一次次罗列出这样一个简单的列表，我决定把所有想法详细写在这篇博客里。 这些思路应该是通用的
人脸检测（五）--adaboost总结，整理
工作笔记
02-03 2万+
20170706新增: 各种Adaboost variants的比较以及不均衡问题 http://blog.youkuaiyun.com/scarecrow_wiscom/article/details/49803125 1.这边有个浅显的解释。 http://blog.youkuaiyun.com/haidao2009/article/details/7514787   2.简单解释到代码实现。 htt...
决策树、Bagging、随机森林、Boosting、Adaboost、GBDT、XGBoost
dong-技术驱动人生
08-05 447
决策树（Descision Tree） 决策树介绍 决策树基于“树”结构进行决策： - 每个“内部节点”对应于某个属性上的测试 - 每个分枝对应于该测试的一种可能结果（即属性的某个取值） - 每个叶节点对应于一个“预测结果” 决策树学习的三个步骤 特征选择 决策树的生成 决策树的修剪 特征选择是决定用哪个特征来划分特征空间； 特征选择的准则：信息增益或信息增益比 案例:预测小明今天出门...
28款GitHub最流行的开源机器学习项目
klzhang的专栏
04-19 1万+
28款GitHub最流行的开源机器学习项目（一）：TensorFlow排榜首  readygo 浏览 673 2016-04-18 20:31:12 机器学习开源githubTensorFlow 摘要现在机器学习逐渐成为行业热门，经过二十几年的发展，机器学习得到了十分广泛的应用，如：数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、DNA序列测
【计算机视觉算法岗面经】“吐血”整理：2019秋招资料
热门推荐
I am what i am
10-13 5万+
//2018/09/27 兵荒马乱、浩浩荡荡的秋招终于差不多要结束了。 秋招这段时间真是感慨很多，一时得意一时失意，还要平衡一不小心就来的心理落差。 先写点废话吧，毕竟最近感受挺多的，在自己的博客里也不用顾忌措辞。强行给自己灌一波鸡汤~ 1、努力永远和收获成正比，即使这个比率很小。一直觉得自己没有特别的天赋，只能一点一点努力，而这点努力还经常被“比你优秀的人比你更努力”所击溃。但这又怎样呢，不努力...
南大周志华写的For Potential Students
大强
04-10 4360
For Potential Students： 如果您有兴趣到南京大学计算机科学与技术系攻读学位，并且愿意选择我作为您攻读学位期间的导师，与我一起从事研究工作，那么请耐心阅读以下注意事项： 在和我联系之前，请先认真考虑以下问题： 您是否对我目前的研究方向(可以参考我最近的论文 以及 我的研究组主页)感兴趣？研究工作可能是充满挫折的，如果没有高度的兴趣，可能会很痛苦。 您
简述周志华老师的集成学习思想要点，特别是Bagging、Boosting和Stacking
05-23
周志华老师是机器学习领域的知名专家，他提出的集成学习思想是指通过组合多个学习器来提高整体的学习性能。其中，Bagging、Boosting和Stacking是集成学习中最为常见的三种方法。 1. Bagging（bootstrap aggregating）：这是一种基于自助采样（bootstrap sampling）的集成学习方法，即从原始数据集中有放回地采样得到多个采样集，然后在每个采样集上训练一个基学习器，最后将这些基学习器的预测结果进行平均或投票等方式来得到最终结果。Bagging方法的优点是可以减小模型的方差，提高模型的泛化能力。 2. Boosting：这是一种基于加权多数表决（weighted majority voting）的集成学习方法，即在每次训练中对错分类的样本进行加权，使得基学习器对错分类的影响不同，最终将多个基学习器的预测结果进行加权平均来得到最终结果。Boosting方法的优点是可以减小模型的偏差，提高模型的准确性。 3. Stacking：这是一种基于模型组合的集成学习方法，即将多个不同的基学习器的预测结果作为样本特征，再通过一个元学习器来进行最终的预测。Stacking方法的优点是可以将不同的基学习器的优点进行组合，提高模型的性能。 总之，Bagging、Boosting和Stacking是集成学习中常用的三种方法，它们都可以通过组合多个基学习器来提高整体的学习性能，具有广泛的应用价值。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值