《机器学习》 周志华学习笔记第八章 集成学习（课后习题）python实现

最新推荐文章于 2022-09-02 09:20:40 发布
原创 最新推荐文章于 2022-09-02 09:20:40 发布 · 902 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习算法 #西瓜书

本文探讨了集成学习的基本概念，包括个体学习器与集成的区别，并详细介绍了同质集成与异质集成的方法。此外，还深入研究了Boosting和Bagging两种核心集成学习策略，特别是AdaBoost算法及基于自助采样的Bagging方法。

 

1.个体与集成

1.1同质集成

1.2异质集成

2.boosting:代表AdaBoost算法

3.Bagging与随机森林

3.1Bagging 是并行式集成学习方法最著名的代表（基于自主采样法bootstrap sampling）

自己学习时编写了一些代码，参考了一些书上的资料，理论上问题不大，代码上面还是有点问题。习题以后补上

https://github.com/makang101/machinelearning/tree/master/chapter8ensemblelearning

《机器学习》周志华(西瓜书)学习笔记 第八章 集成学习
sdm12345的博客
06-27 1492
机器学习 学习笔记4 总目录 第八章 集成学习 8.1 个体与集成 集成学习的一般结构:先产生一组"个体学习 器" (individual learner)，再用某种策略将它们结合起来。 ...
周志华 《机器学习》之 第八章（集成学习）概念总结
不系之舟的专栏-QQ讨论群331590339
08-19 3349
看完集成学习类容，最大的感受就是学习了众多机器学习算法，各有优缺点，那么如何集各大算法优点使得最优的完成任务呢？那就是本章提到的集成学习。周老师书中按如下章节介绍：1、个体与集成2、Boosting3、Bagging与随机森林4、结合策略5、多样性
《机器学习》 小白Python学习笔记（十三） ———— 集成学习 课后题8.3&8.5 Python实现
River_J777的博客
09-09 1166
《机器学习》 小白Python学习笔记（十三） ———— 集成学习 课后题8.3&8.5 Python实现 8.3从网上下载或自己编程实现AdaBoost，以不剪枝决策树为基学习器，在西瓜数据集3.0a上训练一个AdaBoost集成，并与图8.4进行比较。 8.5试编程实现Bagging，以决策树桩为基学习器，在西瓜数据集3.0a上训练一个Bagging集成，并与图8.6进行比较。 自己手动编写的代码还没有写好（后补），先利用scikit-learn库对西瓜数据集3.0a进行bagging和bo
机器学习（周志华）_第八章 集成学习
liuyan20062010的专栏
05-12 1835
第八章的知识点
周志华《机器学习》西瓜书 小白Python学习笔记（六） ———— 第五章 神经网络 课后习题5.5 python实现 pytorch
River_J777的博客
07-06 2174
周志华《机器学习》西瓜书 小白Python学习笔记（六） ———— 第五章 神经网络 python代码 pytorch伪代码手工搭建Pytorch 搭建 作为神经网络中最为广泛使用的BP神经网络，本文使用西瓜数据集3.0（课后题5.5）通过手工和Pytorch两种方式搭建BP神经网络。 伪代码 输入: 训练集 D={(xk,yk)}k=1mD=\left\{\left(\boldsymbol{x}_{k}, \boldsymbol{y}_{k}\right)\right\}_{k=1}^{m}D={(x
《机器学习》周志华--第4章读书笔记+习题答案
weixin_45775701的博客
11-15 4614
第四章-决策树习题答案 习题答案 1.试证明对于不含冲突数据(即特征向量完全相同但标记不同)的训练集，必存在与训练集一致(即训练误差为0)的决策树。 答： 说法一：不含冲突数据;决策树是按照特征来进行划分->可以得到每个叶节点中的样本的所有特征及标记完全相同的决策树->与训练集一致。 说法2:因为决策树是通过属性来划分,相同属性的样本最终肯定会进入相同的叶节点。- -个叶节点 只有一个分类，如果样本属性相同而分类不同，必然产生训练误差。反之，决策树只会在当 前样本集合是同一类或者所有属性相同时才
《机器学习》 周志华学习笔记第十四章 概率图模型（课后习题）python实现
05-17
很好，以下是第十四章的部分习题python实现： 14.1 腐蚀图像分割 ```python import numpy as np import matplotlib.pyplot as plt from scipy.misc import ascent from scipy.ndimage import grey_erosion img = ...
(周志华《机器学习》西瓜书 小白Python学习笔记（八） ———— 第六章 支持向量机SVM LIBSVM实现以及结果解读（课后题6.2）
River_J777的博客
07-20 1477
周志华《机器学习》西瓜书 小白Python学习笔记（八） ———— 第六章 支持向量机LIBSVM实现
第八章集成学习——周志华
laymenISmouse的专栏
01-05 1114
从哪里提高泛化性能？ abaBoost是基于错误e,不断迭代更新e,来提升分类器的性能的。 Bagging是基于“自助采样法”来提升分类器的性能的。p179页说到，由于每个基学习器只使用了初始的训练集中大概63.2%的样本，剩下的36.8%的样本可作为验证集来对泛化性能进行“外包估计”,可以使用包外样本来辅助剪枝。从而可以提高了泛化性能吧。 泛化性能到底指什么咧？ 在2.2评估方法
机器学习第八章
11-28
北京科技大学机器学习，第八章学习课件资料，是彭老师的
《机器学习》周志华课后习题答案——第八章 (1-2已完结)
weixin_45626630的博客
11-24 4496
《机器学习》周志华课后习题答案-——第五章 (1-2已完结) 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录《机器学习》周志华课后习题答案-——第五章 (1-2已完结)一、如图所示二、如图所示 一、如图所示 二、如图所示 ...
《机器学习（周志华）》Chapter8 集成学习 课后习题答案
周博的博客
04-23 8115
闲时完善-------------------------------------------------------------------------------------------------------------------8.1 假设抛硬币正面朝上的概率为p，反面朝上的概率为1 - p. 令H(n)代表抛n次硬币所得到正面朝上的次数，则最多k次正面朝上的概率为\[p(H(n) \l...
机器学习理论 | 周志华西瓜书 第八章：集成学习
Tinky2013的博客
03-20 925
第八章 集成学习 8.1【个体与集成】 1、集成学习的一般结构 示意图 个体学习器(individual learner) 基学习器(base learner) 同质(homogenous)集成：集成中只包含同种类型的个体学习器 基学习器——同质集成中的个体学习器 基学习算法(base learning algorithm)——相应的学习算法 组建学习器(component learner) 异质...
《机器学习》-周志华 第八章：集成学习 读书笔记
虎哥的铲屎员
06-13 1235
文章目录1.Boosting1.1最有名的算法AdaBoost1.2 Boosting注意2.Bagging和随机森林2.1Bagging自助采样法(bootstrap)oob(out of bag)2.2随机森林（Random Forest,RF）3.学习器结合策略3.1学习器结合的好处3.2 结合的策略4.多样性多样性的增强 集成算法目的：根据某个算法策略组和多个基础模型，从而提高模型的泛化...
《机器学习（周志华）》Chapter8 集成学习
周博的博客
04-20 703
    想了解更多的同学强烈建议阅读下参考网址。        集成学习大致可分为两类，第一类的代表是Boosting，个体学习器间存在强依赖关系、必须串行生成的序列化方法；第二类的代表是Bagging和“随机森林”，个体学习器间不存在强依赖关系、可同时生成的并行方法。1、bagging：从训练集从进行子抽样组成每个基模型所需要的子训练集，对所有基模型预测的结果进行综合产生最终的预测结果：2、bo...
《机器学习》周志华-CH8 集成学习
肥猫
02-03 757
CH8 集成学习
周志华《机器学习》同步学习笔记 ——第八章 集成学习
克小洛的秘密基地
08-02 999
周志华《机器学习》同步学习笔记 ——第八章 集成学习8.1 个体与集成8.2 Boosting8.3 Bagging与随机森林8.4 结合策略8.5 多样性 8.1 个体与集成 集体学习（多分类器系统/基于委员会的学习）：生成一组个体学习器并将它们结合起来。 “同质”集成：只包含同种类型的个体学习器（例如BP、决策树），对应基学习器、基学习算法。 “同质”集成：包含不同类型的个体学习器，对应组件学...
【课程作业】西瓜书 机器学习课后习题 ： 第八章
海到无边天作岸 山登绝顶我为峰
09-02 2358
Hello！ଘ(੭ˊᵕˋ)੭昵称：海轰标签：程序猿｜C++选手｜学生简介：因C语言结识编程，随后转入计算机专业，获得过国家奖学金，有幸在竞赛中拿过一些国奖、省奖…已保研学习经验：扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语！唯有努力💪本文仅记录自己感兴趣的内容文章仅作为个人学习笔记记录，记录从0到1的一个过程希望对您有一点点帮助，如有错误欢迎小伙伴指正。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值