3、机器学习基础：模型、数据集与监督学习介绍

机器学习基础：模型、数据集与监督学习介绍

1. 防止过拟合的方法

在机器学习中，过拟合是一个常见的问题，以下是两种防止过拟合的方法：
- 添加正则化 ：较小的参数值通常能带来更好的泛化能力，这取决于具体的模型，例如神经网络。正则化通过在目标函数中添加惩罚项，来抑制较大的参数值。通过使参数变小（甚至为零），它们对预测的贡献就会减少，从而有效地简化模型。
- 集成方法 ：将多个较弱模型的预测结果进行组合，不仅可以提高泛化能力，还能提升模型性能。

需要注意的是，过拟合以及防止过拟合的技术是因模型而异的。我们的目标始终是尽量减少过拟合，以确保模型能够对未见过的数据进行有效泛化。有些策略，如正则化，可能对某些特定模型并不适用，而其他策略可能更有效。对于不同的模型，还有更具针对性的策略。

2. 监督学习

以商店销售为例，这是一个监督学习的实例。我们有一个包含特征的数据集，并训练模型来预测目标值。监督学习问题主要可分为两类：分类问题和回归问题。
- 分类问题 ：模型需要预测的标签是分类的，即定义了一个类别。例如，判断邮件是否为垃圾邮件、判断图片中的动物是猫还是狗、判断一个人是否患有糖尿病等，这些都是二分类的例子，即只有两个类别。此外，还存在多分类问题，如将邮件分为重要邮件、促销邮件、杂乱邮件或垃圾邮件；将云的图片分为卷云、积云、层云或雨云等。
- 回归问题 ：目标是预测一个连续的数值。例如，预测收入、销售额、温度、房价和人群规模等。

在机器学习中，正确地将一个问题定义或转化