liuxiaocs7的博客

fsfdsfds

占坑

占坑

占坑

线性回归就是对输入特征进行加权求和，再加上一个偏置项(截距项），并以此进行预测 y^=θ0+θ1x1+θ2x2+⋯+θnxn\hat{y} = \theta_0 + \theta_1x_1 + \theta_2x_2 + \cdots + \theta_nx_ny^​=θ0​+θ1​x1​+θ2​x2​+⋯+θn​xn​ y^\hat{y}y^​ 是预测值 nnn 表示特征数量 xix_ixi​...

2 模型的评估与选择 2.1 误差与过拟合 我们将学习器对样本的实际预测结果与样本的真实值之间的差异成为：误差（error）。定义： 在训练集上的误差称为训练误差（training error）或经验误差（empirical error）。 在测试集上的误差称为测试误差（test error）。 学习器在所有新样本上的误差称为泛化误差（generalization error）。 显然，我们...

7、贝叶斯分类器 贝叶斯分类器是一种概率框架下的统计学习分类器，对分类任务而言，假设在相关概率都已知的情况下，贝叶斯分类器考虑如何基于这些概率为样本判定最优的类标。在开始介绍贝叶斯决策论之前，我们首先来回顾下概率论委员会常委-–贝叶斯公式。 7.1 贝叶斯决策论 若将上述定义中样本空间的划分Bi看做为类标，A看做为一个新的样本，则很容易将条件概率理解为样本A是类别Bi的概率。在机器学习训练模型的...

Chap05 神经网络 文章目录Chap05 神经网络5.1 神经元模型5.2 感知机与多层网络5.3 误差逆传播算法5.4 全局最小与局部最小5.5 其他常见神经网络5.5.1 RBF网络5.5.2 ART网络5.5.3 SOM网络5.5.4 级联相关网络5.5.5 Elman网络5.5.6 Boltzmann机5.6 深度学习5.7 阅读材料 5.1 神经元模型 神经网络是由具有适应性的简单单...

第四章 决策树(decision tree) 文章目录第四章 决策树(decision tree)4.1 基本流程4.2 划分选择4.2.1 信息增益4.2.2 增益率4.2.3 基尼系数4.3 剪枝处理4.3.1 预剪枝4.3.2 后剪枝4.4 连续与缺失值4.4.1 连续值处理4.4.2 缺失值处理~ ​ 表示D˜ \tilde{D} D ~ 中属于第K类的样本子集 （共Y \math...

本篇围绕的核心是-–支持向量机（Support Vector Machine），简称SVM。 文章目录6、支持向量机**6.1 函数间隔与几何间隔** 6、支持向量机 支持向量机是一种经典的二分类模型，基本模型定义为特征空间中最大间隔的线性分类器，其学习的优化目标便是间隔最大化，因此支持向量机本身可以转化为一个凸二次规划求解的问题。 6.1 函数间隔与几何间隔 对于二分类学习，假设现在的数据是线性...

Chap03 线性模型 文章目录Chap03 线性模型3.1 基本形式3.2 线性回归3.3 对数几率回归3.4 线性判别分析3.5 多分类学习3.6 类别不平衡问题3.7 阅读材料参考资料 3.1 基本形式 线性模型试图学得一个通过属性的线性组合来进行预测的函数，即： f(x)=ω1x1+ω2x2+⋯+ωdxd+b f(\boldsymbol x) = \omega_1x_1 + \omega_...