数据分析------统计学知识点（五）

回归算法

想象一下，你和朋友在讨论:大学生活中，每天学习的时间是否真的能影响期末成绩?这个问题看似简单，实则包含了一个潜在的关系:学习时间与成绩之间的联系。我们想要知道，增加学习时间是否会提高成绩，以及这种提高有多显著。
回归分析正是用来揭示变量之间关系的工具。简单来说，它可以帮助我们理解一个变量(称为因变量，如期末成绩)如何随着其他一个或多个变量(称为自变量，如学习时间)的变化而变化。

回归算法的种类与应用

线性回归

想象一条直线贴合我们散布的数据点，这条直线就代表了学习时间与成绩之间关系的线性回归模型。如果这条线能很好地表示数据点的趋势，我们就可以说学习时间和成绩之间存在线性关系。这种方法适用于预测销售额、评估房价等场景。

逻辑回归

但并非所有的问题都适用线性回归。如果我们的问题是"学习时间是否影响及格率?"这时，因变量成了及格与否是一个分类问题。逻辑回归就派上用场了，它适用于处理分类问题，比如预测一个人是否会购买某产品、一个邮件是否为垃圾邮件等。

多项式回归

有些关系可能比直线复杂，比如学习时间与成绩的关系可能在某个点后开始减弱。这种情况下，线性模型就不够用了。我们可能需要一个弯曲的曲线来描述这种关系，这就是多项式回归的用武之地。多项式回归能够捕捉数据中的非线性关系。

避免过拟合和欠拟合

但是，如果我们使模型变得过于复杂，它可能会过于精确地拟合我们的训练数据，而不能很好地预测新的数据。这就是过拟合。相反，如果模型太简单，无法捕捉数据的关键特征，就会发生欠拟合。为了避免这些问题，我们可以使用交叉验证来评估模型的表现，或者调整模型复杂度，例如限制多项式的度数。