《机器学习》周志华课后习题答案——第三章 (1-7题)

最新推荐文章于 2025-04-03 14:49:45 发布
最新推荐文章于 2025-04-03 14:49:45 发布
阅读量1.7w 收藏 210
点赞数 27
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_45626630/article/details/121519726
版权

《机器学习》周志华课后习题答案——第三章 (1-7题)

文章目录


一、试析在什么情形下式(3.2)中不必考虑偏置项b.

请添加图片描述
①b与输入毫无关系，如果没有b，y‘=wx必须经过原点
②当两个线性模型相减时，消除了b。可用训练集中每个样本都减去第一个样本，然后对新的样本做线性回归，不用考虑偏置项b。

二、试证明，对于参数w,对率回归的目标函数(3.18)是非凸的,但其对数似然函数(3.27)是凸的.

请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述

三、编程实现对率回归,并给出西瓜数据集3.0α上的结果.

最低0.47元/天 解锁文章
周志华版机器学习第三章习题答案
weixin_43518584的博客
04-17 1万+
原文参考链接：https://blog.youkuaiyun.com/icefire_tyh/article/details/52065224 习题 3.1 3.2 如果一个多元函数是凸的，那么它的Hessian矩阵是半正定的 3.3 #导入需要的包 import numpy as np import matplotlib.pyplot as plt from sklearn.model_selectio...
周志华《机器学习》课后习题解答系列（四）：Ch3.3 - 编程实现对率回归
Snoopy_Yuan技术部落格
03-19 2万+
这里采用Python-sklearn的方式，环境搭建可参考 数据挖掘入门：Python开发环境搭建（eclipse-pydev模式）. 相关答案和源代码托管在我的Github上：PY131/Machine-Learning_ZhouZhihua. 思路概要 编程实现对率回归： * 采用sklearn逻辑斯蒂回归库函数实现，通过查看混淆矩阵，绘制决策区域来查看模型分类效果； * 自...
《机器学习》对数几率回归——笔记
sunny的专栏
11-30 3470
对数几率回归不是回归函数而是分类函数。   广义线性模型 提出问题：需要找到一个单调可微函数将分类任务的真实标记y与线性回归模型的预测值联系起来 线性回归预测值，应用于分类问题一般选用“单位阶跃函数” 但阶跃函数不连续，而对数几率函数正好可以替代阶跃函数，它单调可微，函数表达式为 把线性模型代入得到                                 (1) 根...
周志华《机器学习》总结——一周学完西瓜书
最新发布
2301_76579283的博客
04-03 1510
人的“经验”对应计算机中的“数据”，让计算机来学习这些经验数据，生成一个算法模型，在面对新的情况中，计算机便能作出有效的判断，这便是机器学习。P：计算机程序在某任务类T上的性能。T：计算机程序希望实现的任务类。E：表示经验，即历史的数据集。若该计算机程序通过利用经验E在任务T上获得了性能P的改善，则称该程序对E进行了学习。
机器学习(周志华) 参考答案 第三章 线性模型 3.4
濯君
08-28 3661
4.选择两个UCI数据集，比较10折交叉验证法和留一法所估计出的对率回归的错误率。 选取了UCI上iris数据集，内部共150个数据，3种类别，每类50个样本。 每次选择两类做二分类计算，做3轮计算。每轮选取100个样本，10折法选45正45反，剩下10个作为验证，一共10组，共验证100例；留一法每次留1个做验证，一共100组，也是100例。每个方法最终验证300例，直接比较错误分类的个数...
《机器学习》周志华第三章线性模型思维导图与课后答案
林源的博客
02-20 1258
一.要点 二.课后题 不考虑b时，此时b可以为0，或者被消去。前者可以通过数据规范化（标准化）达成。后者可以通过所有样本减去同一个样本达成【规范化的一种特例】 某个多元函数如果是凸的，那么它的Hessian矩阵半正定 a.证明对于对率回归的目标函数（3.18）非凸： 经过求导可以得到，它的Hessian矩阵半负定 b.证明对于对数似然函数（3.27）凸： 步骤同上，但是Hessian矩阵...
周志华《机器学习》第三章课后习题
qq_40694323的博客
06-22 1万+
目录3.1 试析在什么情形下式(3.2) 中不必考虑偏置项 b.3.2、试证明，对于参数w,对率回归的目标函数(3.18)是非凸的,但其对数似然函数(3.27)是凸的. 3.3、编程实现对率回归,并给出西瓜数据集3.0α上的结果.3.4 选择两个 UCI 数据集，比较 10 折交叉验证法和留一法所估计出的对率回归的错误率。3.5 编辑实现线性判别分析，并给出西瓜数据集 3.0α 上的结果. ①b与输入毫无关系，如果没有b，y‘=wx必须经过原点 ②当两个线性模型相减时，消除了b。可用训练集中每个样本都减去第
《机器学习》周志华第三章课后习题
huzimu_的博客
03-16 7397
3.1 试析在什么情形下式(3.2) 中不必考虑偏置项 b.
机器学习(周志华) 参考答案 第三章 线性模型 3.3
濯君
08-28 6281
一：matlab实现 1.数据的Excel处理 2.代码 # -*- coding: utf-8 -*- old_l = 0; n = 0; b = [0;0;1]; %对应书中（3.25）下的B=(w;b)，因为x有两个属性：密度，含糖率，所以有b三行，还有一个是w*x+b中的b。 x = xlsread('E:\Program Files\octave\西瓜3.0.xlsx'...
《机器学习》周志华课后习题答案——第一章（1-3题完结）
weixin_45626630的博客
11-09 9632
《机器学习》周志华课后习题答案——第一章 文章目录《机器学习》周志华课后习题答案——第一章一、表1.1中若只包含编号为1和4的两个样例，试给出相应的版本空间二、与使用单个合取式来进行假设表示对比……（题目看图） 一、表1.1中若只包含编号为1和4的两个样例，试给出相应的版本空间 对于这个题，网上流传的答案版本空间大概有7种甚至9种，依愚愚解，我认为只有4种。因为最终是要得出“某个”西瓜是“好瓜”的结论，故只有四种。 二、与使用单个合取式来进行假设表示对比……（题目看图） （部分引用自https:/
《机器学习》周志华课后习题答案——第二章（1-4题已完结）
weixin_45626630的博客
11-18 1万+
《机器学习》周志华课后习题答案——第二章（更新中） 文章目录《机器学习》周志华课后习题答案——第二章（更新中）一、数据集包含1000个样本,其中500个正例、500 个反例，将其划分为包含70%样本的训练集和30%样本的测试集用于留出法评估,试估算共有多少种划分方式.二、数据集包含100个样本,其中正、反例各占一半,假定学习算法所产生的模型是将*新样本预测为训练样本*数较多的类别(训练样本数相同时进行随机猜测)，试给出用10折交叉验证法和留一法分别对错误率进行评估所得的结果.三、若学习器A的 F1值比学习器
吴恩达机器学习课后习题三及答案
11-02
吴恩达coursera机器学习课程课后习题，可以成功提交coursera审核
周志华《机器学习》课后习题个人解答
01-30
周志华《机器学习》课后习题个人解答。各算法都拿numpy和pandas实现了一遍
机器学习 习题答案
12-09
机器学习 习题答案 2.6 完成变型空间表示定理的证明（定理2.1） 定理2.1：变型空间表示定理 领X为一任意的实例集合，H为X上定义的布尔假设的集合。令c：X{0,1}为X上定义的任一目标概念，并令D为任一训练样例的集合{}。对所有的X，H，c，D以及良好定义的S和G： 证明：对VSH，D中任一h： ①当h∈S时，取s＝h，则有h≥gs成立 ②当hS时，即 (h1H）[(h>gh1)∧Consistent(h1,D)] 若h1S，显然h≥gs成立；
《机器学习》周志华课后习题答案——第五章（1-7已完结）
热门推荐
weixin_45626630的博客
11-01 2万+
第五章课后习题答案 文章目录第五章课后习题答案一、试述将线性函数f(x) = wTx用作神经元激活函数的缺陷？二、试述使用图5.2(b)激活函数的神经元与对率回归的联系三、对于图5.7中的Vih,试推导出BP算法中的更新公式(5.13). 一、试述将线性函数f(x) = wTx用作神经元激活函数的缺陷？ 使用线性函数作为激活函数时，因为在单元层和隐藏层，其单元值仍是输入值X的线性组合。 若输出层也用线性函数作为激活函数，达不到“激活”与“筛选”的目的，这样相当于整个的线性回归。 二、试述使用图5.2(b
《机器学习》周志华课后习题答案——第四章 (1-5已完结)
weixin_45626630的博客
11-24 1万+
《机器学习》周志华课后习题答案一第四章 (1-5已完结) 文章目录《机器学习》周志华课后习题答案一第四章 (1-5已完结)一、试证明对于不含冲突数据(即特征向量完全相同但标记不同)的训练集,必存在与训练集一致(即训练误差为 0)的决策树.二、试析使用“最小训练误差”作为决策树划分选择准则的缺陷.三、试编程实现基于信息熵进行划分选择的决策树算法,并为表4.3中数据生成一棵决策树.四、试编程实现基于基尼指数进行划分选择的决策树算法,为表4.2中数据生成预剪枝、后剪枝决策树,并与未剪枝决策树进行比较.五、试编程实
周志华《机器学习》课后习题（第三章）：线性模型
红色石头的专栏
05-09 8418
作者 |我是韩小琦链接 | https://zhuanlan.zhihu.com/p/432708303.1 试分析在什么情况下，在以下式子中不比考虑偏置项b。答：在样本中有某一个...
《机器学习》课后习题——第三章 线性模型
稚嫩的劢劢的博客
12-09 2225
3.1 试分析在什么情况下，在以下式子中不比考虑偏置项b。 答：
机器学习(周志华)课后题 第三章 线性模型 3.3
weixin_38648770的博客
07-17 1245
文章目录3.3：编程实现对率回归(Logistic Regression)西瓜数据集3.0α自定义Logistic函数利用梯度下降法计算回归系数定义预测函数构建模型实现对率回归 3.3：编程实现对率回归(Logistic Regression) 西瓜数据集3.0α data = np.array([[0.697, 0.460, 1], [0.774, 0.376, 1], ...
机器学习周志华答案第二章
02-11
### 关于《机器学习》周志华第二章答案 当考虑模型评估与选择时，不同评价指标提供了多角度的理解方法。对于给定的学习器而言，在特定条件下其性能可以通过多种方式衡量。例如，通过McNemar检验来判断两个分类算法在相同数据集上的表现差异是否具有统计学意义[^1]。 若要对比两学习器的总体性能，除了依赖传统的准确率之外，还可以借助受试者工作特征曲线（ROC），特别是当面对不平衡的数据分布情况时更为有效。如果一个学习器的ROC曲线完全覆盖住了另一条，则表明前者的整体性能更佳；而对于存在交叠的情况，则推荐采用曲线下面积(AUC)作为评判标准[^2]。 另外，“平衡点”(Break-Event Point,简称BEP)，定义为查准率等于查全率时对应的值，也被用来辅助评估。比如，当某个学习器拥有更高的F1分数时，意味着它同样具备较大的BEP数值，这暗示着该模型可能更适合处理那些对误报和漏报敏感的应用场景[^4]。 针对具体题目解答部分，《机器学习》一书中关于真正例率(True Positive Rate, TPR)、假正例率(False Positive Rate, FPR)以及查准率(Precision, P)、查全率(Recall, R)之间关系进行了深入探讨： - **TPR** 和 **R** 实际上是同一个概念的不同表述形式； - **FPR** 则反映了负样本被错误标记的比例； - 查准率P关注的是预测为正类别的实例中有多少是真的正类别成员； - 而查全率R侧重考察实际属于正类别的对象有多少被成功识别出来。 这些度量共同构成了全面理解分类效果的基础框架[^5]。 ```python def calculate_metrics(tp, tn, fp, fn): """ 计算并返回精度(precision), 召回率(recall), 真阳性率(true positive rate) 和 假阳性率(false positive rate). 参数: tp -- 正确预测为正的数量 tn -- 正确预测为负的数量 fp -- 错误预测为正的数量 fn -- 错误预测为负的数量 返回: precision -- 召回率/真阳性率 fpr -- 假阳性率 """ try: precision = tp / (tp + fp) recall_tpr = tp / (tp + fn) fpr = fp / (fp + tn) return round(precision, 3), round(recall_tpr, 3), round(fpr, 3) except ZeroDivisionError as e: print("除数不能为零:", str(e)) ```
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值