weixin_45580742的博客

1.逻辑回归原理 1.决策边界 梯度下降要做的就是在使损失函数尽量小的情况下求的一组Θ 2.损失函数 为何此处损失函数要用对数损失？ https://www.jianshu.com/p/b6bb6c035d8c 2.线性逻辑回归python实现 数据集展示 from matplotlib import pyplot as plt import numpy as np # 载入数据 dat...

1.算法原理 根据k-均值算法的工作流程，我们可以写出伪代码： 创建k个点作为初始质心（通常是随机选择） 当任意一个点的簇分配结果发生改变时: 对数据集中的每个点: 对每个质心: 计算质心与数据点之间的距离 将数据点分配到据其最近的簇 对每个簇，计算簇中所有点的均值并将均值作为新的质心 直到簇不再发生变化或者达到最大迭代次数 距离计算公式可以使用欧几里...

1.算法原理 KNN是一个极其简单的算法，工作流程如下： 距离计算公式可以使用欧几里得距离，曼哈顿距离，闵可夫斯基距离等等，代码展示为了简单使用欧几里得距离。 2.代码实现 """ 函数功能：KNN分类器 参数说明： inx:需要预测分类的数据集 dataSet:已知分类标签的数据集（训练集） k:k-近邻算法参数，选择距离最小的k个点 返回：result：分类...

1.熵的概念 不确定性越大熵就越大，不确定性越小熵就越小 说明A的不确定性最大，B的不确定性较小，C是一个确定性事件所以熵为0 2.ID3算法 ID3算法是通过信息增益的计算来选择根节点的划分 会发现age的信息增益最大，根据ID3算法，始终选择信息增益最大的作为根节点，所以把age作为根节点 决策树生成第一层之后，在每个叶子节点重复上面的操作再确定下一个分支结点 同时对于连续变量的处...