- 博客(5)
- 收藏
- 关注
原创 吃瓜笔记--西瓜书第六章支持向量机
第六章 支持向量机 6.1 间隔与支持向量 算法原理 从几何角度,对于线性可分的数据集,支持向量机就是找距离正负样本都最远的超平面,相比于感知机,其解是唯一的,且泛化性更好。 感知机解不唯一,把正负样本分开即为最优解。感知机求得的超平面很有可能距离正样本很近或距离负样本很近,泛化性能不好。 超平面 几何间隔 支持向量机 要找到具有最大间隔的划分超平面,可以转化为带约束条件的优化问题。 也即 支持向量机通常采用拉格朗日对偶来求解。 6.2 对偶问题 KKT条件 原优化问题 6.3 核函数
2021-07-29 15:43:05
6894
原创 吃瓜笔记--西瓜书学习笔记第五章神经网络
第五章 神经网络 5.1 神经元模型 神经网络(neural networks) 神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 神经网络中最基本的成分是神经元模型,即上述定义中的“简单单元”。如果某神经元的电位超过一个阈值,那么它就会被激活,即“兴奋”起来,向其他神经元发送化学物质。 M-P神经元模型 神经元接受来自其他n个神经元的输入信号,通过带有权重的连接进行传递,与阈值(threshold)进行比较后,经过激活函数(activa
2021-07-25 23:11:51
436
原创 吃瓜笔记--西瓜书学习笔记第四章决策树
第四章:决策树 4.1 基本流程 4.1.1 决策树的结构 4.1.2 决策树学习基本算法 4.2 划分选择 4.2.1 决策树学习的关键 4.2.2 信息增益(information gain) 信息熵 属性a的信息增益Gain(D,a)Gain(D,a)Gain(D,a) 4.2.3 增益率(gain ratio) 4.2.4 基尼指数(Gini index) 基尼值 基尼指数(Gini index) 4.3 剪枝处理(决策树对付过拟合的主要手段) 4.3.1 预剪枝(prepruning) 4.3.2
2021-07-22 23:42:01
426
原创 吃瓜笔记--西瓜书学习笔记第三章
第三章 线性模型 机器学习三要素 模型:根据具体问题,确定假设空间。 策略:根据评价标准,确定选取最优模型的策略(通常会产生一个“损失函数”)。 算法:求解损失函数,确定最优模型。 在学习算法时,根据机器学习三要素的大框架,确定模型是什么以及有哪些策略及算法。 3.2 线性回归 3.2.1 算法原理:线性模型,对输入样例各个特征进行线性加权得到预测的输出。 关于特征量化 对于离散特征, 若特征有序,如“大 中 小”,可按序量化为“小:1,中:2,大:3”; 若特征无序,如肤色,就可以表示为“黄:(1
2021-07-20 00:31:29
337
原创 吃瓜笔记--西瓜书学习笔记一二章
第一章 绪论 1.1 引言 机器学习定义: 它致力于研究如何通过计算的手段,利用经验来改善系统自身的性能。 假设用P来评估计算机程序在某任务类T上的性能,若一个程序通过利用经验E在T中任务上获得了性能改善,我们就说关于T和P,该程序对E进行了学习。 机器学习所研究的主要内容:关于在计算机上从数据中产生“模型”的算法,即“学习算法”。 本书中模型泛指从数据中学得的结果。 1.2 基本术语 数据 数据集(data set):一组记录的集合。 示例(instance)/ 样本(sample):数据集中
2021-07-13 23:16:15
299
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅