机器学习笔记 - 线性回归与逻辑回归

一、线性回归概述

1、概述

        线性回归算法是一种预测连续型变量的方法。它的基本思想是通过已给样本点的因变量和自变量的关系，设定一个数学模型，来拟合这些样本点。线性回归算法就是为了找到最佳模型。

        线性回归算法的核心有两个。第一，假设合适的模型，比如是使用一次曲线拟合还是二次曲线拟合；第二，寻找最佳的拟合参数，不同的参数对应了模型不同的形态，如何找到最佳的参数是非常关键的。

        回归的目的是预测数值型的目标值。最直接的办法是依据输入写出一个目标值的计算公式。假如想要预测下一季度内汽车销售的数量，可能会用以下公式。

nums = 0.005*d - 0.00099f

        这就是所谓的回归方程（regression equation），其中的0.0015和-0.99称作回归系数（regression weights），求这些回归系数的过程就是回归。 

2、优缺点

优点：结果易于理解，计算上不复杂。

缺点：对非线性的数据拟合不好。

适用数据类型：数值型和标称型数据。

3、通常应用流程