《机器学习》周志华课后习题答案——第六章 (1-7已完结)

《机器学习》周志华课后习题答案——第六章 (1-7已完结)



1.试证明样本空间中任意点x到超平面(w, b)的距离为式(6.2).

请添加图片描述

2.试使用LIBSVM,在西瓜数据集3.0a上分别用线性核和高斯核训练一个SVM,并比较其支持向量的差别.

训练的结果是线性核与高斯核得到了完全一样的支持向量, 由于没法分析libsvm内部是如何计算的,
这里只贴结果。
第一列是支持向量的权值,后面则是支持向量对应的属性
请添加图片描述

3.选择两个UCI数据集,分别用线性核和高斯核训练-一个SVM,并与BP神经网络和C4.5决策树进行实验比较.

使用的是iris数据集,选取其中分类为1,2的样本,各50个,4个属性,每类选前40个样本训练,后10个样本作为测试
线性核:找出3个支持向量
偏置为1.50709
请添加图片描述

高斯核:找出9个支持向量
偏置为-0.212437

请添加图片描述

读取数据
w1 = xlsread('C:\Users\icefire\Desktop\ml\tmp.xlsx', 'sheet1', 'A1:C1');
w2 = xlsread('C:\Users\icefire\Desktop\ml\tmp.xlsx', 'sheet1', 
机器学习是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径。 随着统计学的发展,统计学习在机器学习中占据了重要地位,支持向量机(SVM)、决策树和随机森林等算法的提出和发展,使得机器学习能够更好地处理分类、回归和聚类等任务。进入21世纪,深度学习成为机器学习领域的重要突破,采用多层神经网络模型,通过大量数据和强大的计算能力来训练模型,在计算机视觉、自然语言处理和语音识别等领域取得了显著的成果。 机器学习算法在各个领域都有广泛的应用,包括医疗保健、金融、零售和电子商务、智能交通、生产制造等。例如,在医疗领域,机器学习技术可以帮助医生识别医疗影像,辅助诊断疾病,预测病情发展趋势,并为患者提供个性化的治疗方案。在金融领域,机器学习模型可以分析金融数据,识别潜在风险,预测股票市场的走势等。 未来,随着传感器技术和计算能力的提升,机器学习将在自动驾驶、智能家居等领域发挥更大的作用。同时,随着物联网技术的普及,机器学习将助力智能家居设备实现更加智能化和个性化的功能。在工业制造领域,机器学习也将实现广泛应用,如智能制造、工艺优化和质量控制等。 总之,机器学习是一门具有广阔应用前景和深远影响的学科,它将持续推动人工智能技术的发展,为人类社会的进步做出重要贡献。
### 机器学习第六章课后习题6.2解答与解析 对于给定的超平面 \( (w, b) \),其中 \( w \) 是权重向量而 \( b \) 是偏置项,样本空间中的任一点 \( x \) 到该超平面的距离可以通过几何距离公式计算得出。具体来说: \[ d(x)=\frac{|w^{T}x+b|}{||w||}\tag{1} \] 此处分子表示点积加上偏置后的绝对值,分母则是权重向量的欧几里得范数。 为了证明上述表达式的正确性,可以考虑如下推导过程[^1]。首先定义一个单位法向量 \( n=\frac{w}{||w||} \),那么从原点指向某点 \( x_0 \) 的投影长度即为所求距离的一部分;其次由于超平面上任意两点连线都垂直于法线方向,则有 \( w^Tx_0=-b \),从而得到最终形式如方程(1)[^2]所示的结果。 因此,通过以上理论分析可知,样本空间中任意点 \( x \) 至超平面 \( (w,b) \) 的确切距离确实遵循此公式描述的方式进行度量。 ```python import numpy as np def distance_to_hyperplane(w, b, x): """ 计算单一样本点到超平面的距离 参数: w : 权重向量 b : 偏置项 x : 单一样本特征向量 返回: float: 样本点至超平面的距离 """ numerator = abs(np.dot(w.T, x)+b) denominator = np.linalg.norm(w) return numerator/denominator # 测试函数 if __name__ == "__main__": # 定义测试参数 test_w = np.array([3, 4]) test_b = -5 test_x = np.array([1, 2]) print(f"The distance from point to hyperplane is {distance_to_hyperplane(test_w, test_b, test_x)}") ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值