m0_65995252的博客

过拟合是指机器学习模型在训练数据上表现良好，但在新数据上表现不佳的问题。当模型过分地适应训练数据的特征和噪音时，就会出现过拟合。这样的模型会捕捉到训练数据中的细微特征和噪音，导致在新数据上表现不佳。对于一组数据的拟合存在以下三种情况：1.拟合不足(underfiting)，没有经过数据集中主要的点，没有很好地反应点的趋势2.拟合良好3.过度拟合(overfiting)，没有过滤掉细微特征和噪声，无法反应整体趋势在分类问题中，我们使用sigmoid函数找决策边界时也会遇到类似的问题的问题：

交叉熵损失函数（Cross-entropy loss function）是一种用于衡量模型输出与实际标签之间差异的损失函数。在机器学习中，交叉熵损失函数通常用于分类问题中，特别是在逻辑回归和神经网络等模型中。对于一个逻辑回归函数：损失函数公式：简化后的公式：根据损失函数的定义，当的值与目标值越接近，损失函数值越小，预测越准确。所以：

逻辑回归是一种用于解决分类问题的统计学习方法。它通过对数据进行建模，预测一个事件发生的概率。逻辑回归通常用于。

使用Sklearn、numpy模块实现展现数据预处理、线性拟合、得到拟合模型，展现预测值与目标值，展现梯度下降；

使用多项式函数来拟合数据点，以预测因变量和自变量之间的关系。

在房价模型的例子中，我们提取房子的长度（frontage）和宽度（depth）作为特征之一。并得到初步的特征方程：然而我们知道，房屋面积可以表示为：。用土地面积作为独立特征可以更好地预测价格，所以我们将作为新的特征提取出来并定义新的特征方程:(大家可能会觉得变量太多。其实现在只是建立了一个初步的模型，在之后使用决策树、正则化等算法可以减少特征数量）

按照特定顺序排列的元素集合。可以被视为一维数组。

作为损失函数实验的补充

在均方差损失函数推导中，我使用到了梯度下降法来优化模型，即迭代优化线性模型中的和。现在进一步了解梯度下降法的含义以及具体用法。

课程：吴恩达机器学习

我用的是轻薄本，没有CUDA版本的GPU。此文只适用于下载CPU版本的pytorch

等python练习完毕之后的计划