最小二乘、极大似然估计、梯度下降法

最小二乘、极大似然估计、梯度下降法，是机器学习中常出现的名词。

最小二乘和极大似然是目标函数，梯度下降是优化算法。

机器学习的基本框架基本是模型、目标和算法。

对于一个数据集，根据数据的特点和目的来选择相应的模型。

选择了模型后，为了拟合或分类数据，所以要构造一个目标函数cost function。

构造cost function后，有一部分目标函数，可以直接通过求导求解。

而大部分问题，尤其是logistic regression中。不能直接求导而得，所以需要一种优化算法求解。

而梯度下降法，就是一种求解目标函数的最优化算法。

为什么logistic回归的优化算法为什么用梯度下降而不用最小二乘法（姑且这么叫吧），答案是最小二乘法只能解决线性最小二乘问题，而logistic回归的损失函数不是线性最小二乘问题。（注意最小二乘和最小二乘法的区别）

学习自：https://www.zhihu.com/question/24900876